Gartner预测到2027年，跨境GenAI滥用引起的AI数据泄露比例将达到40%

全球统一AI标准的缺失迫使企业制定针对特定地区的战略，降低了AI的可扩展性和优势

Gartner预测，到2027年，跨境生成式人工智能（GenAI）引起的AI相关数据泄露比例将超过40%。

GenAI在终端用户中的普及速度已超过了数据治理和安全措施的发展速度，而支持这些技术所需的集中算力引发了对数据本地化的担忧。

Gartner研究副总裁Joerg Fritsch表示：“由于监管不力，常常会发生意外的跨境数据传输，尤其是当GenAI被集成到现有产品但却没有明确的说明或公告时。企业注意到员工使用GenAI工具创作内容的变化。虽然此类工具可用于经过批准的业务应用，但如果它们将敏感提示发送到托管在未知位置的AI工具和 API，就会产生安全风险。”

全球AI标准缺失导致运营效率低下缺乏全球统一的AI和数据治理最佳实践与标准，导致市场碎片化，企业不得不制定针对特定地区的战略，这加剧了企业所面临的挑战，这可能会限制企业在全球扩展业务和从AI产品与服务中获益的能力。

Fritsch表示：“本地化AI政策增加了管理数据流和保持质量的复杂性，而这会降低企业的运营效率。为了保护敏感数据和确保合规性，企业必须投资于先进的AI治理和安全性。这一需求可能会推动AI安全、治理与合规服务市场的增长并促进提高AI流程透明度和可控性的技术解决方案的发展。”

企业必须在AI治理成为全球性规定之前采取行动

Gartner预测，到2027年，全球所有主权AI法律法规都将要求企业落实AI治理。

Fritsch表示：“如果企业无法整合所需要的治理模型和控制措施，就会处于竞争劣势，尤其是缺乏资源快速扩展现有数据治理框架的企业。”

为了降低AI数据泄露风险，尤其是跨境GenAI的滥用风险并确保合规性，Gartner 建议企业采取以下战略行动：

• 加强数据治理： 企业必须扩展数据治理框架并加入关于使用AI处理数据的准则，确保遵守国际法规并对意外的跨境数据传输进行监控。为此，企业需要将数据沿袭和数据传输影响评估纳入常规隐私影响评估。
• 成立治理委员会：成立委员会加强AI监督，确保AI部署和数据处理的沟通透明。该委员会需要负责技术监督、风险和合规管理以及沟通和决策报告。
• 加强数据安全性： 使用先进技术、加密和匿名化保护敏感数据。例如，验证特定地理区域的执行环境是否可信并在数据必须离开这些区域时使用差分隐私等先进的匿名化技术。
• 投资TRiSM产品：为专为AI打造的信任、风险和安全管理（TRiSM）产品与功能规划和分配预算，包括AI治理、数据安全治理、提示过滤和编辑以及非结构化数据合成生成。Gartner预测，到2026年，采用AI TRiSM控制措施的企业将减少至少50%的不准确或不合法信息，并因此减少错误决策。

Gartner 客户可在2025年预测：AI时代和未来量子计算时代的隐私中了解更多信息。

关于Gartner

Gartner（纽约证券交易所代码：IT）为企业机构提供可行动的客观洞察，推动企业在最关键的优先事项上作出明智决策，实现卓越业绩。欲了解更多信息，请访问http://www.gartner.com/cn。