AI 模型的训练成本越来越高 训练 OpenAI 的 ChatGPT 和 Google 的 Gemini Ultra 等先进人工智能模型需要的成本，正在迅速上升。 随着计算需求的增加，训练它们所需的计算能力的费用也在飙升。作为回应，人工智能公司正在重新思考如何训练生成式人工智能系统。在许多情况下，这些包括在当前增长轨迹下降低计算成本的策略。 斯坦福大学 2024 年人工智能指数报告的分析，显示出高级 AI 模型的训练成本激增。 训练的成本估算，主要是根据云计算租赁价格，关键因素包括模型的训练时长、硬件利用率和训练硬件的价值。 2017 年开发的早期 AI 模型 Transformer 的培训成本为 930 美元。该模型在塑造当今使用的许多大型语言模型的架构方面发挥着基础作用，这有些类似于，用精度高的机床加工出精度更高的机床部件。 谷歌的人工智能模型 Gemini Ultra 的成本更高，达到惊人的 1.91 亿美元。截至 2024 年初，该模型在多个指标上都优于 GPT-4，尤其是在大规模多任务语言理解 (MMLU) 基准测试中。该基准测试是衡量大型语言模型能力的重要标准。例如，它以评估 57 个学科领域的知识和解决问题的能力而闻名。 开发者们还要提防的是，使用合成数据的人工智能模型在被询问某些提示时会产生无意义的结果，从而引发所谓的“模型崩溃”（“model collapse”）。