监管机构警告大学，AI 聊天机器人正在“毒害数据”
快速阅读: 《饲养箱》消息，澳大利亚监管机构警告，AI正污染数据，影响研究完整性。高校面临AI政策混乱，需加强监管与透明度。（98字）
人工智能正在“污染数据”，影响研究的完整性。澳大利亚高等教育质量与标准署（TEQSA）指出，生成式AI在研究中存在数据安全、隐私和准确性等风险。各高校在规范AI使用时面临政策混乱和矛盾。TEQSA建议研究人员公开使用AI的情况，并加强监督。部分大学如莫纳什大学禁止在论文答辩中使用AI工具，以保护机密性。
“数据污染”源自人工智能，只是澳大利亚大学监管机构认定的诸多影响研究完整性的风险之一。随着各高校努力控制其使用，这一问题正逐渐显现。撰稿：Natasha Bita，《澳大利亚人报》
澳大利亚大学监管机构已告知研究人员，人工智能正在“污染数据”，这正值联邦政府对研究资助审核推迟三个月之际。
澳大利亚高等教育质量与标准署（TEQSA）列出了在研究中使用生成式AI的风险，并披露了各高校在试图对这种快速发展的技术进行规范时所面临的混乱且矛盾的AI政策。
TEQSA在其最新关于生成式AI在研究中使用的指南中指出：“所有研究人员和学生都应了解生成式AI工具可能对数据安全、准确性及隐私带来的风险，并评估其使用效果和安全性。”“其中一些风险……是由于模型使用不可信或未经验证的数据进行训练而引发的数据污染。”
另一个威胁是AI使用专有或客户拥有的数据进行训练，这可能导致侵犯隐私权和版权。研究人员还可能面临第三方发起的“供应链攻击”，这些第三方会修改数据。
使用AI工具的研究也容易受到黑客攻击，黑客可以“输入恶意指令并控制用户输入”。
TEQSA指出：“博士生、导师、支持人员和外部研究合作伙伴需要意识到，某些生成式AI输出可能会因不准确、偏见或忽略无关变量而损害研究的完整性和质量。”
在监管机构发布AI指南的同时，澳大利亚研究理事会（ARC）获得了三个月的延期，以向联邦教育部长杰森·克雷（Jason Clare）提交对10亿美元国家竞争性资助计划进行调整的建议。
ARC未能在6月之前提出削减繁文缛节并加强资助条件的建议。
由于收到了超过340份对该讨论文件的反馈，ARC被允许额外三个月时间向克雷先生汇报对纳税人资助的资助计划的更改。
2023年，ARC和国家健康与医学研究理事会（NHMRC）都发布了有关生成式AI使用的政策，但鉴于越来越多的证据表明AI正在“学会说谎”，他们尚未更新这些政策。
测试AI系统的Apollo Research于6月表示，一些AI系统正在故意欺骗，通过“撒谎和编造证据”来误导。
NHMRC的一位发言人告诉《澳大利亚人报》，他们没有关于AI在研究中使用或滥用的数据。
各高校负责调查违反《澳大利亚负责任研究行为准则》的潜在违规行为，该准则自2018年以来未更新——那时生成式AI尚未普及。
TEQSA最新的指导方针并未要求博士生必须参加口试，但它已告知高校，学生和研究人员必须确保“生成式AI的使用得到承认和声明”。TEQSA表示：“为了保证研究生（包括博士生）学位的相关技能和知识已经获得，高校应考虑将额外的评估纳入论文答辩过程中。”
“口试是一种成熟的补充评估方式，使研究生有机会展示他们的知识和成就，提供额外的保障，证明考试要求已经满足。”
TEQSA呼吁更密切地监控学生的工作，指出“导师应了解他们的学生并监督他们的进展，以确保学习过程已完成。”
在TEQSA的案例研究中，可以看出各高校管理AI使用方面的政策存在冲突。莫纳什大学在论文答辩期间禁止使用生成式AI技术，如Chat GPT。
为了“保护论文答辩的机密性”，莫纳什大学还禁止评审员使用AI来“支持、准备或撰写”评审报告。
阿德莱德大学要求学生保留自己使用生成式AI的记录。
南昆士兰大学要求所有博士生进行论文口头答辩，而在悉尼大学，本月出台的规定将禁止在“保密考试”中使用手机、电脑、智能眼镜、戒指和耳塞。
本文最初发表于《澳大利亚人报》，标题为《AI聊天机器人正在“污染数据”，监管机构警告大学》
(以上内容均由Ai生成)
