人工智能代理失控,网络保险公司正调整其保单

YinJi

随着人工智能代理失控，网络保险公司正在调整其保单

这幅创作于2023年6月23日的插图展示了人工智能（AI）字母和机器人手的微缩模型 ...

这幅创作于2023年6月23日的插图展示了人工智能（AI）字母和机器人手的微缩模型。路透社/Dado Ruvic

概要：
人工智能代理给保险公司提出了新的承保问题。
保险公司正努力应对人工智能代理是否符合传统保单定义的问题。
随着自主人工智能的应用日益广泛，许多人正在对现有的网络安全政策进行修订。

8 月 27 日（路透社）——网络保险公司多年来一直在定义什么是黑客攻击以及何时应该进行赔付，但人工智能代理的迅速出现正在引发新的问题，迫使保险公司重新审视他们的保单。

领先的人工智能开发商 OpenAI、Anthropic 和 Meta Platforms (META.O)打开新标签页该公司最近披露，其人工智能代理程序行为异常，逃逸出受控测试环境，并在没有人工直接指令的情况下对企业发起网络攻击。虽然这些事件并未造成已报告的损失，但它们凸显了企业和保险公司面临的快速演变的网络风险。

在接收到初始指令后，自主人工智能系统可以独立做出决策。据八位大型公司高管和分析师称，保险公司，包括MSIG （8725.T），QBE （QBE.AX）以及 Beazley (BEZG.L)各公司正在审查传统的网络安全政策，并调整其措辞，以应对此类系统承担更多自主任务所带来的新兴风险。

分析人士和专家表示，各公司正在努力解决一些问题，包括自主人工智能系统是否符合网络攻击者的传统政策定义，以及谁应该为人工智能生成的造成损失的行为承担责任。

慕尼黑再保险公司在其最新报告中估计，去年全球网络保险市场规模接近150亿美元，预计到2030年将达到约280亿美元。怡安集团（AON.N）今年早些时候，该公司表示，根据其预测，到 2027 年，近 20% 的网络攻击将涉及生成式人工智能。

全球网络保险市场有望迎来快速增长

“随着人工智能能够识别漏洞并自主执行攻击，保险公司需要不断审查保单条款，”财产和意外伤害专业保险公司 MSIG USA 北美网络安全主管 Ryan Kratz 表示。

定义人工智能驱动的损失

包括 Armilla AI、慕尼黑再保险公司的 AiSure 和 AXA XL 在内的多家公司提供针对人工智能特定风险的定向保险，例如模型性能不佳、人工智能产生虚假或误导性输出的幻觉以及知识产权侵权。

但传统的网络安全保险涵盖范围更广，承保由多种事件造成的损失，例如勒索软件支付、业务中断、系统恢复、取证调查和法律费用。业务中断通常是索赔中最大的组成部分。

大多数安全策略都预设了导致损失的特定安全事件，例如员工未经授权访问窃取公司数据，或服务器攻击导致系统瘫痪。然而，人工智能代理即使不触发传统安全事件，也可能造成损失，尤其是在它们使用被明确授予的系统访问权限时。

Armilla AI 的首席执行官兼创始人 Karthik Ramakrishnan 告诉路透社：“人工智能代理造成的一些损失绝对在网络安全政策的管辖范围内。更棘手的情况是，既没有传统的攻击者，也可能没有未经授权的凭证使用。”

例如，一家公司可能会授予人工智能代理访问其网络的权限，以修复安全漏洞。然后，该代理可能会自行利用漏洞，在公司系统中穿梭，并泄露敏感数据。这可能导致损失，而这并非传统意义上的黑客所为，而且一开始可能根本没有未经授权的访问。

人工智能事件已从系统故障转向欺诈和网络滥用

由于人工智能造成的损失的历史索赔数据相对较少，而且人工智能行业仍在努力了解自主模型的能力，因此这类风险很难定价。

“他们仍在探索这些技术的潜力、运作方式以及需要采取哪些安全控制措施来遏制它们，”兰德公司高级政策研究员萨沙·罗曼诺斯基说道，他的研究领域包括网络安全和保险等。

Ringfencing AI 风险

大多数情况下，保险公司都在澄清现有保单条款在涉及人工智能时如何适用，而不是增加除外责任。“承保人认识到，继续提供能够应对此类事件的产品至关重要，”保险经纪公司Marsh的全球网络产品负责人Greg Eskins表示。

例如，保险公司QBE一直在加强对特定新兴人工智能风险的保障。QBE全球网络安全主管塞琳娜·戴维斯在一份声明中表示，如果人工智能相关事件导致传统的网络安全事件，由此造成的损失仍然属于网络保险的承保范围。“人工智能被视为风险放大器，而不是一种全新的网络风险，”她补充道。

英国Beazley公司的一位发言人表示，企业希望将人工智能风险纳入全面的网络安全保险中。“随着新的人工智能风险不断涌现，我们正在开发新的保险方案。”

不过，一些高管表示，业内部分人士正在讨论有针对性的除外责任。Verisk Underwriting Solutions公司负责特殊商业险业务的副总裁Jenny Soubra表示，其中一个关注点是潜在的系统性事件，即单一的人工智能模型或平台可能同时导致多家机构遭受损失。

另一个问题涉及人工智能代理按照设计程序做出代价高昂的自主决策时的责任问题。一些保险公司可能会将这种情况归类为非网络安全事件。

Soubra补充道：“市场仍在不断发展，但我们预计随着人工智能的普及，各组织和保险公司将继续探索应对人工智能相关风险的方法。”