在 AI 时代保护数据

快速阅读: 据《iT新闻》最新报道，澳新组织面临AI带来的数据安全挑战，需加强数据生命周期管理、合规性和自动化防护。隐私法改革提高了违规成本，组织须更新政策与实践。有效数据安全态势管理（DSPM）和智能化工具是关键，以应对不断演化的威胁并保障AI系统的安全性与合规性。

珍妮·莫里斯 2025年5月16日15:45

在澳大利亚和新西兰（澳新）地区，组织正在面临前所未有的挑战，以管理和保护其最宝贵的资产——数据。尽管数据常被比喻为黄金，因其价值，但它也可能像铀一样：强大却可能危险，需要谨慎处理并尽量减少存储。随着人工智能成为创新和效率的核心，它带来了独特的安全挑战。2024年，95%的组织在实施人工智能时，主要因数据准备不足和信息安全问题遭遇了障碍。拥有大量数据档案的组织尤其容易受到攻击，因为每一个存储的数据点都可能是网络威胁或内部风险的目标。有效管理海量数据需要强大的生命周期管理和遵守立法命令，如澳大利亚的《隐私法》1988年版、新西兰的《隐私法》2020年版以及行业特定法规，例如澳大利亚审慎监管局（APRA）的规定。积极的数据安全态势管理（DSPM）对于保护敏感信息和降低风险至关重要。

Forrester报告显示，60%的亚太地区公司将使用区域训练的语言模型进行本地化人工智能，这受到客户需求多样性、监管挑战和语言细微差异的影响。拥有成熟信息管理策略的组织比那些方法不够稳健的组织更有可能在人工智能实施中获得早期收益。

值得一提的是，澳大利亚信息专员办公室（OAIC）和澳大利亚网络安全中心（ACSC）报告指出，2024年1月至6月期间共收到527份数据泄露通知——这是三年半以来最多的。其中67%的泄露是由恶意和犯罪攻击引起的，57%是网络安全事件。这凸显了对数字工具日益依赖，以及网络犯罪分子利用新兴技术如人工智能绕过传统防御手段的复杂性。

澳新地区的隐私法改革将施加严格的义务以防止数据泄露。澳大利亚的关键变化包括：

– 严重隐私违规的处罚大幅增加（最高可达年度营业额的10%）
– 个人数据的定义得到扩展，明确包含技术数据和在线标识符
– 更严格的同意要求，要求清晰、具体且及时地同意收集数据
– 增强的个人权利，包括更广泛的访问、更正和删除个人信息的权利
– 强制性的数据泄露通知，有更严格的时限和报告要求
– “隐私设计”要求，要求从系统和流程的初始阶段就整合隐私保护

同样，新西兰在其2020年改革的基础上进一步完善了隐私法框架，增加了额外措施：

– 加强跨境数据保护，实施新的国际数据转移限制措施
– 扩大隐私专员的监管权力
– 高风险数据处理活动的强制风险评估
– 增强问责措施，包括更详细的记录保存要求

澳新地区的组织必须重新评估并更新隐私政策、数据收集实践和安全措施，以符合这些更严格的要求，这突显了人工智能与数据安全之间的内在联系。

在人工智能背景下导航数据敏感性
现代客户和员工期望内置的安全机制。人工智能系统处理大量的敏感数据，从个人信息到机密商业情报。澳大利亚一家处理敏感医疗信息和电子处方的健康组织MediSecure的大规模数据泄露影响了近一半的澳大利亚人口。该公司需要政府协助来管理其事务、资产和债务。这一事件强调了网络攻击可能带来的深远影响，不仅限于隐私问题和财务后果。针对提供基本、时间敏感服务的医疗部门的攻击提醒我们，任何组织都不是免疫的。这不是“如果”的问题，而是“何时”的问题。随着人工智能系统的进步，保护敏感信息的商业策略也必须相应发展。

有效的DSPM使组织能够：

– 识别并分类所有存储位置的敏感数据
– 根据数据敏感性应用适当的安全控制
– 监控访问模式并检测异常
– 确保符合监管要求
– 自动响应潜在威胁

实施DSPM解决方案使澳新地区的组织能够深入了解其敏感数据环境，并在风险升级为泄露之前主动应对安全风险。

新兴安全角色与持续对话
人工智能的兴起在组织内引入了新的安全角色，专注于分析风险暴露并管理数据安全而不改变标签或权限。安全领导者必须优先考虑弹性数据安全，以防止数据丢失或泄露，利用新工具和技术深入了解组织风险。这些专家评估人工智能系统漏洞，制定人工智能特定的安全政策，并协调对人工智能安全事件的响应。

随着威胁形势不断演变，组织必须参与持续沟通以领先于潜在风险。这涉及定期评估安全态势，确定风险接受标准或容忍度水平，并重新分配资源用于安全计划和遵守不断发展的监管要求。培养安全文化确保人工智能计划具有弹性和安全性。对于澳新组织的高管来说，这些新的安全能力不仅是一个成本中心，更是一项战略投资。通过围绕安全问题保持持续沟通，组织可以形成对风险的共同理解，并将安全计划与更广泛的企业目标对齐。

自动化数据安全以实现可扩展性和效率
手动的数据安全方法不足以跟上人工智能环境中数据量的增长。自动化已成为有效保护的关键。网络安全风险公司报告称高级威胁检测工具的采用率增加了35%。Gartner预测，到2025年，70%的组织将集成由人工智能驱动的情报系统，从而提高其主动识别和缓解威胁的能力。

组织可以通过风险评估确定谁有权访问敏感数据，监控访问模式，并识别外部实体的潜在威胁。通过聚合高度暴露的内容与敏感信息类型，组织可以在其系统中创建一个风险数据热图。这有助于快速有效地解决数据可见性问题，确保敏感信息的保护。这些自动化功能使安全团队能够专注于战略性举措而非例行监控，显著提升运营效率。

通过质量和治理增强数据安全
人工智能系统依赖准确且最新的数据生成有意义的见解。过时或陈旧的数据可能导致错误的建议和决策。组织必须自动识别并解决过时内容，以保持人工智能输出的准确性。这涉及归档或删除过时数据，并确保人工智能系统访问高质量的相关信息。

Gartner估计，不良数据质量每年给组织带来平均1420万美元的损失，约占安全相关费用的30%。为了增强数据安全，组织应：

– 实施自动化数据质量检查
– 建立明确的数据治理框架
– 开发元数据管理系统
– 制定生命周期管理政策

通过优先考虑数据质量和治理工作，组织建立了显著减少攻击面的安全基础，同时使人工智能系统能够在定义的安全参数内运行。这种方法将生命周期管理从支持功能转变为战略安全资产，直接有助于组织的网络安全韧性。

全面的人工智能数据安全方法
随着人工智能在澳新地区的普及加速，安全挑战将继续演变。采用全面方法——整合信息管理、数据敏感性治理和数据准备工作的组织将最好地利用人工智能的优势，同时减轻其风险。在人工智能时代迈向强大数据安全的旅程需要持续的承诺、投资和适应能力。通过关注这些关键领域，澳新地区的组织可以为安全和负责任的人工智能部署奠定基础。

了解AvePoint的人工智能安全和信心解决方案如何助力贵组织实施稳健的数据安全和信息管理实践以支持您的人工智能计划。如需了解更多详情，请访问 [AvePoint的人工智能安全和信心解决方案]。

(以上内容均由Ai生成)