字节跳动联手港校开源DreamOmni2，突破AI图像编辑难题

快速阅读: 字节跳动与香港多所大学联合研发的DreamOmni2系统正式开源，实现多模态指令理解，大幅提升图像编辑生成技术，为AI创作开辟新途径。

在人工智能图像编辑与生成领域,一项新的突破性技术引起了广泛关注。字节跳动与香港中文大学、香港科技大学和香港大学联合研发的 DreamOmni2系统,已正式开源,标志着图像编辑生成技术的 最新 发展。

DreamOmni2的推出,致力于提升人工智能在图像处理中的指令遵循能力,实现了真正的多模态指令理解。这一系统能够同时理解文本指令与参考图像,显著改善了以往模型在处理抽象概念(如风格、材质、光照)时的局限性。用户与 AI 之间的交互更加自然,仿佛与一个了解自己意图的合作伙伴对话。

为了训练 AI 理解复杂的文本和图像指令,DreamOmni2的研发团队开发了一套创新的三阶段流程。首先,通过训练提取模型,AI 能够精准提取图像中的特定元素或抽象属性。接着,利用提取模型生成多模态指令编辑数据,形成包含源图像、指令、参考图像和目标图像的训练样本。最后,通过进一步提取与组合生成更多参考图像,构建出丰富的多模态指令生成数据集。这一系列步骤为系统的高质量训练打下了坚实基础。

在模型架构方面,DreamOmni2提出了索引编码和位置编码偏移方案,确保模型能够准确识别多张输入图像。同时,引入视觉语言模型(VLM),有效解决了用户指令与模型理解之间的鸿沟。这种创新设计提升了系统在处理指令时的准确性,使其能够更好地理解用户的真实意图。

经过测试,DreamOmni2在多模态指令编辑任务上的表现超越了所有参与比较的开源模型,接近 顶尖 商业模型。与传统的商业模型相比,DreamOmni2在处理复杂指令时,能够提供更高的准确性和一致性,避免了不必要的变更和图像瑕疵。

DreamOmni2的开源,不仅为 AI 创作提供了新的可能性,也为相关领域的研究者提供了统一的评判标准。这一技术的发布,预示着 AI 图像编辑与生成领域即将迎来新的革命。对于未来的发展,业内专家表示,DreamOmni2的成功将极大推动 AI 技术的普及和应用。

(以上内容均由Ai生成)