企业加速治理“影子AI”风险

快速阅读: 据行业统计，企业在加速AI应用落地的同时，“影子AI”因合规流程迟滞已蔓延至工作全流程，引发数据泄露与算法偏见等风险；专家建议通过自动化智能监管实现高效治理，以AI治理AI，推动合规与业务协同发展。

当前，企业在加速推进人工智能落地应用的同时，“影子AI”正悄然蔓延——即未经审批的AI工具被广泛使用，其扩散速度甚至已超过治理节奏。这类现象不再局限于个别违规聊天机器人，而是渗透至整套工作流程，包括未通过合规审查的模型、第三方API及自主代理系统。

受此影响，敏感数据泄露、招聘算法隐含偏见，以及实验性功能未经审核即上线等问题，已成为企业面临的真实风险。

专家指出，应对之道并非限制或延缓AI应用，而在于让合规流程变得与“影子AI”一样便捷高效。当官方流程被认为过于迟滞时，员工便倾向于绕道而行。因此，现代AI治理体系亟需简化流程，并嵌入自动化机制。

目前，不少企业的治理仍依赖人工审核与电子表格，效率低下且难以扩展。治理模式亟待从委员会式的瓶颈，转向可自动执行、可规模化的智能监管。

在此背景下，“以AI治理AI”成为可行路径。通过技术手段，系统可即时评估新项目、识别关键风险，并向治理团队提供精准信息。这种融合自动化与责任机制的方式，有望将AI治理由被动应对转变为主动赋能，真正支撑业务安全高效发展。

(以上内容均由Ai生成)

引用自：CIO网站