关注内容披露、标签：政府向德里高等法院报告关于“深度伪造”

快速阅读: 《印度快运》消息，利益相关方呼吁制定AI内容披露、标签及申诉机制，重点关注不良行为者而非深度伪造的良性应用。印度电子和信息技术部小组强调提升执法机构能力的重要性，而非仅依赖新法规。会议还关注选举中深度伪造内容的滥用及检测挑战，并建议加强国际合作与标准制定。相关部门正收集深度伪造案件信息，并计划开展公众意识活动。

会议纪要作为状态报告的一部分提到，参会的利益相关方强调，“应围绕强制披露人工智能内容、标签标准及申诉解决机制制定规定”，同时重点关注恶意行为者，而非深度伪造技术的良性或创造性用途。

另外还有报道：
被4o支持的ChatGPT现在可以生成“美丽且有用的”图像。负责研究深度伪造问题的印度电子和信息技术部（MEITY）小组认为应实行“中介强制合规”。中介责任框架决定了中介对其平台上内容担责的程度。这些框架从完全由中介对其平台上的内容负责到完全免责不等。在1月21日的会议上，报告指出，利益相关方对“过度依赖中介责任框架来监管人工智能生成内容”表示担忧，转而强调“提升调查和执法机构能力比引入新法规更重要”。

解释：对不良行为者的担忧
利益相关者意识到需要应对深度伪造问题，并通过加强对不良行为者的监督来实现。会议记录表明，公司无法回避任何责任。X公司的参会代表表示：“并非所有人工智能内容都具有欺骗性。向前推进时，这一点很重要。”

数据解析单元（DAU），是Meta支持的虚假信息打击联盟（MCA）的一项倡议，在会议中指出了两个与选举相关的趋势：一是，在州选举期间，DAU发现针对女性的深度伪造内容；二是，使用人工智能的诈骗内容正在增加，这一趋势在选举后有所上升。DAU支持媒体组织检测深度伪造内容。会议还指出，处理深度伪造时音频检测难度较大，并强调了“对于深度伪造的定义尚未形成共识”的问题。与DAU的担忧一致，会议记录指出“需加强合作并制定标准以构建标准化检测框架和监管规范”。

此外还有报道：
| 你的照片并不安全：深度伪造技术如何被武器化以及如何反击

第一次会议讨论的一个要点包括小组要求印度网络犯罪协调中心（I4C）收集全国执法机构（LEAs）登记和调查的深度伪造案件的详细信息。在12月的首次会议上，委员会决定，“针对深度伪造问题的拟议解决方案”也应包括“强制性中介合规与意识提升活动，并利用YouTube等平台进行定向宣传”。委员会现在请求高等法院给予三个月时间，完成与包括深度伪造受害者在内的利益相关方的磋商。

状态报告显示，MEITY表示尚未咨询深度伪造受害者，并称其“一直在与信息和广播部合作，获取深度伪造受害者书面反馈”。一位参会者向《印度快报》（匿名）透露，讨论重点在于“事后补救”而非“事前防范”。

(以上内容均由Ai生成)