大型模型Mistral：20万吨碳排放，单次推理耗水45毫升

快速阅读: 7月22日，Mistral AI公布与Carbone 4和ADEME合作的AI模型全生命周期分析报告，显示训练和推理过程是温室气体排放和水资源消耗的主要来源，硬件则消耗最多不可再生资源。Mistral Large 2模型训练排放20.4万吨二氧化碳，消耗28.1万吨水，单次推理响应产生1.14g二氧化碳和45ml水。报告指出，小型AI模型更环保。

IT之家 8 月 5 日消息,欧洲 AI 模型初创企业 Mistral AI 当地时间 7 月 22 日公布了其与企业 ESG 咨询公司 Carbone 4 和法国生态转型机构 ADEME 合作编制的 首份人工智能模型全面生命周期分析报告 ,披露了 AI 模型对环境的整体影响。

总的来看,AI 模型全生命周期的 温室气体排放和水资源消耗大户均是训练和推理过程 ,而 服务器硬件则在不可再生资源消耗上占据最大比例 。

对于 Mistral AI 在 2024 年 7 月发布的 Mistral Large 2 模型,其 在训练过程中的二氧化碳排放当量达 20.4 万吨,水资源消耗达 28.1 万吨 ;基于该模型进行一次一页文本的推理输出响应(IT之家注:对应 400 Token)则会产生 1.14g 的二氧化碳排放并消耗 45ml / 45g 水资源。

这份报告还得到了一个值得注意的结论:环境基准测试表明,在推理输出 Token 数量相当的情况下,各模型之间的环境影响与其参数规模成正比,这意味着 专长而小型的 AI 模型具有明确的环保价值 。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

(以上内容均由Ai生成)