聚焦过度依赖 AI 的危险

快速阅读: 据《太阳报》最新报道，专家提醒需警惕人工智能潜在风险，建议加强人工监管及本地化发展，以确保技术应用的准确性和文化敏感性，同时倡导公众参与推动负责任的人工智能使用，共同促进技术造福社会。

**人工智能过度依赖的风险凸显**

近期，国家报纸、全球展览以及部门报告中出现的国旗相关失误，凸显出在内容生成过程中加强人为监督的重要性。

**穆罕默德·阿克马尔：人工智能需人类掌控**

八打灵再也：国家报纸、全球展览以及部门报告中一系列涉及国旗的失误，引发了对未经监管的人工智能使用的风险关注。马来西亚登嘉楼大学人工智能与大数据研究所（Aibig）主任穆罕默德·阿克马尔·雷姆利博士指出，这些错误揭示了全球人工智能模型在训练和部署上的不足，尤其是在涉及特定文化内容时。

“像国旗错误渲染这样的不准确现象，往往是因为人工智能模型在训练期间未能充分接触正确的马来西亚符号表示。”他补充道，“虽然某些人工智能工具在生成通用内容时表现得相当出色，但在处理高度具体的文化和国家元素时，问题频发。”

穆罕默德·阿克马尔进一步解释称：“人工智能可以根据提示生成多种类型的内容，如文本、语音、图像和视频。但许多人没有意识到的是，当要求人工智能生成一幅包含马来西亚国旗的教室图像时，其准确性取决于人工智能如何通过数值标记解析这些提示，以及它从训练数据中学到的内容。”

**全球框架的局限性与本地化机会**

穆罕默德·阿克马尔指出，这一问题反映了一个更广泛的挑战：许多生成式人工智能模型是在全球框架内构建和训练的，而这些框架通常忽视了像马来西亚这样的国家。

“全球人工智能模型经常缺乏足够的区域和文化训练数据。这为我们提供了一个契机，让马来西亚开发自己的人工智能系统。”他说。

穆罕默德·阿克马尔建议，在政府支持下，本地初创企业和科技公司可以提升能力，并利用马来西亚的数据来训练模型，涵盖文化符号、传统和语言。

**人工智能应用需谨慎**

他强调，在政府和媒体环境中使用人工智能，特别是用于公共内容时，需要更加审慎。他指出：“此类事件是一记警钟，我们必须负责任地运用人工智能，而不是盲目追逐潮流。”

穆罕默德·阿克马尔呼吁在多个层面采取保障措施，包括确定是否真的需要人工智能生成的内容，并在发布前进行严格的审查。“人为监督并非可有可无，而是不可或缺的。”

**信任仍在，但需更加谨慎**

尽管近期出现了与国旗相关的错误，穆罕默德·阿克马尔认为公众对人工智能的信任仍然存在。

“我认为对人工智能的信任并未完全丧失。大多数人可能会将其视为人为疏忽。但这是一次及时的提醒，与人工智能协作需格外谨慎，尤其是在涉及国家身份时。”

**促进负责任的人工智能使用**

为了促进负责任的人工智能使用，穆罕默德·阿克马尔呼吁积极的公众参与。

“机构应面向公众举办关于负责任人工智能实践的对话、培训课程及宣传活动。在Aibig，我们定期开展培训项目，为参与者传授人工智能安全与伦理的最佳实践。”

穆罕默德·阿克马尔表示，随着马来西亚进入数字时代，人工智能可以成为一股强大的助力，但只有在人类判断、本地见解和道德责任的指导下才能如此。

**结语**

人工智能的力量毋庸置疑，但在追求技术进步的同时，人类的智慧与监督同样不可或缺。只有这样，人工智能才能真正造福社会，而非带来隐患。

(以上内容均由Ai生成)