快速阅读: 据Sakana AI消息，该公司推出Text-to-LoRA与Doc-to-LoRA超轻量插件技术，可在1秒内高效处理超长文档，显存占用降至不足50MB，显著降低大模型定制门槛。
大模型处理长文本时的“内存焦虑”有望成为历史。近日，总部位于东京的AI初创公司Sakana AI发布了两项突破性技术——Text-to-LoRA（T2L）和Doc-to-LoRA（D2L）。该技术基于创新的“超网络”架构，使大模型无需重新训练，即可在不到一秒内高效处理超长文档或快速适应新任务。
长期以来，AI开发者面临两难困境：若将长文档直接输入模型，会导致响应迟缓、显存占用激增；若选择微调，则需投入高昂成本。Sakana AI提出第三种方案——通过一次预训练，生成体积极小的权重插件（LoRA），实现低成本、高效率的模型适配。
其中，D2L技术表现尤为突出。传统方法处理约十万字（12.8万Token）的文档需占用超过12GB显存，而D2L将其压缩至不足50MB。处理时间也从40至100秒缩短至1秒以内。此外，该技术使模型可处理长度达原生窗口4倍的文本，并在“大海捞针”测试中保持近乎完美的准确率。
T2L则让AI更“听话”。用户仅需用自然语言描述任务（如“帮我解决复杂数学竞赛题”），系统便能自动生成专属性能增强插件。实验显示，此类插件在数学与逻辑推理任务中的表现，甚至优于专门训练的独立模型。
研究人员还发现，D2L具备跨模态能力。通过将视觉信息映射至纯文本模型参数，一个从未接触图像的模型竟能以75.03%的准确率完成图像分类。
Sakana AI的成果显著降低了个人与企业定制私有AI模型的门槛，为发展更轻量、更智能的通用人工智能开辟了新路径。
(以上内容均由Ai生成)
引用自：AIbase人工智能资讯网站
