【DeepMind新算法训练提效13倍,能耗暴降10倍】 最新数据显示,Chat

馨蔓看科技 2024-07-08 19:06:40

【DeepMind新算法训练提效13倍,能耗暴降10倍】 最新数据显示,ChatGPT目前每天消耗超过50万度电,相当于1.7万个美国家庭的日常用电量。 为了解决大模型训练和运行消耗大量能源的情况,Google 的DeepMind 团队这两天提出了一种加快 AI 训练的新方法:多模态对比学习与联合示例选择——JEST,大大减少了所需的计算资源和时间。 现阶段,JEST 以 13 倍更少的迭代次数,以及 10 倍更少的计算量,超越了最先进的模型。同时,JEST通过引入联合示例选择和多模态对比学习,显著提升了训练效率和性能,降低了计算开销。

0 阅读:6