这就是 Meta AI 员工认为超过 700 万本书没有“经济价值”的原因
快速阅读: 据《名利》最新报道,研究显示,Meta的人工智能研究人员涉嫌使用盗版书籍训练模型。尽管存在法律风险,Meta辩称单个书本对模型性能影响极小且无商业价值,其行为与其他巨头类似。 Meta还面临内部沟通和CEO知情程度的相关争议。
研究人员似乎采取了“不问不说”的政策。在原告提供的一份经过编辑的证据中,包含Meta生成式人工智能研究人员关于使用LibGen的内部消息,这些信息发送于2022年11月,坎巴杜尔问道:“法律部门是否有人确认过?还是我们只是不想问太多问题?”对此,吉约姆·拉姆普回应道:“我没有提问 😀 但这是OpenAI对GPT-3的做法,是Google对PaLM的做法,也是DeepMind对Chinchilla的做法,所以我们也会这样做。”(被要求置评时,OpenAI的一位发言人表示,推动ChatGPT及其当前API的模型并非使用LibGen开发的:“这些数据集由已离职的前员工创建,最后使用是在2021年。”谷歌的一位代表,该公司也拥有DeepMind,没有回应评论请求。)
“不确定我们能否通过torrent加载Meta的IP内容,”一名工程师在2023年的信息中写道,“用公司笔记本电脑进行torrent下载感觉不对劲[笑哭表情]。”同一个人后来与同事分享了一个网页:“在美国使用torrent被捕的概率有多大?”其他交流显示,研究人员努力从他们下载的书本中删除版权页。(Meta的律师辩解道,这只是为了通过消除固定模板文本使数据对训练模型更加友好。)
在一封2024年的电子邮件链中,主题为“FW: [A/C Priv] LibGen OneLLM批准”,Meta的一名员工表示她想“指出一个将非常棘手的问题”。原告在二月份的动议提到一个集体遗忘的案例:在取证环节中,Meta CEO扎克伯格“声称对LibGen或其使用没有任何了解”,尽管内部文档描述需要“扎克/科克斯/艾哈迈德”的批准才能继续使用Books3数据进行训练,并且使用LibGen的决定发生在“之前向MZ升级后”。
另一位声称不了解LibGen的具体情况或法律问题的证人收到了一份描述该数据集合为“我们知道是非法复制”的备忘录。Meta的律师辩称,根据先例,“Meta是否从未经授权分发的第三方下载包含‘非法复制’书本的数据集合,或者从图书馆借阅二手书并手动扫描以达到相同结果,这并不重要。”
但他们的辩护也依赖于这样一个论点,即单个书本本身几乎毫无价值——Meta的一位专家证人描述说,单一书本在LLM预训练中的影响“在行业标准基准测试中的性能调整不到0.06%,这是一个微不足道的变化,与噪音无异。”
此外,Meta表示,尽管公司“在LLM开发上投入了数亿美元”,但他们看不到支付作者许可其书本的市场,因为“要形成市场,必须有可交换的价值,但原告的作品作为训练数据,个别来看没有商业价值。”(这一论点对于合理使用的这一论点至关重要,但也听起来像是纽约爱乐乐团管理层反对向乐团成员支付报酬的一个放大版本,因为该组织在大卫·盖芬音乐厅的维护上花费了很多钱,而且,独奏大提琴无法演奏《春之祭》这部作品中的所有部分。)
(以上内容均由Ai生成)