因 AI 存「幻覺」,多家保險公司不願承保相關風險

神马作文网 教育资讯 17

11 月 25 日消息,據英國《金融時報》報道,多家大型保險公司正尋求將人工智慧(AI)相關風險排除於企業保單之外,因企業可能面臨由這項快速發展的技術所引發的數十億美元級別索賠。

據IT之家了解,美國國際集團(AIG)、美國大都會保險(Great American Insurance)和 WR Berkley 等公司近期已向美國監管機構申請許可,擬提供明確排除企業因部署 AI 工具(包括聊天機器人及自主智能體系統)而產生責任的保險條款。

在企業爭相採用前沿 AI 技術之際,保險業卻對提供全面保障持謹慎態度。AI 模型「幻覺」(即生成虛假或錯誤內容)已導致多起令人尷尬且代價高昂的失誤事件。

WR Berkley 提議的某項除外責任條款明確規定,凡涉及「任何實際或聲稱使用」AI 的索賠 —— 包括公司銷售的「內嵌」AI 技術的產品或服務,均不予承保。

對此,伊利諾伊州保險監管機構曾就相關除外條款向 AIG 提出問詢;AIG 在提交文件中回應稱,生成式 AI 屬於「覆蓋範圍極廣的技術」,未來引發索賠事件的可能性「很可能隨時間推移而上升」。AIG 表示,儘管其已提交生成式 AI 除外條款的備案文件,但「目前暫無實施計劃」;獲得監管批准可為未來視情況啟用該條款保留選擇權。

Mosaic 公司(倫敦勞合社市場專業保險公司)歐洲網絡保險負責人 Dennis Bertram 指出,保險公司日益認為 AI 模型的輸出結果過於不可預測且缺乏透明度,難以承保:「它仍是一個『黑箱』。」即便 Mosaic 這類專注於為部分 AI 增強型軟體提供保障的專業保險公司,亦明確拒絕承保大語言模型(如 ChatGPT)所引發的風險。

AI 保險與審計初創企業人工智慧承保公司(Artificial Intelligence Underwriting Company)聯合創始人 Rajiv Dattani 表示:「一旦出錯,究竟誰該擔責?目前尚無定論。」

上述動向正值 AI 引發的失誤事件日益增多之際:太陽能企業 Wolf River Electric 因谷歌 AI 概覽功能錯誤聲稱其正遭明尼蘇達州總檢察長起訴,遂以誹謗為由提起訴訟並索賠至少 1.1 億美元;去年某仲裁庭判令加拿大航空(Air Canada)必須兌現其客服聊天機器人「虛構」出的折扣承諾;英國工程集團奧雅納(Arup)則因欺詐者在視頻會議中使用某高管的數字克隆體冒名下達資金轉賬指令,損失高達 2 億港元(約 2500 萬美元)。

安聯(Aon)網絡風險負責人 Kevin Kalinich 指出,保險業尚可承受單一企業因部署自主型 AI(agentic AI)而造成的 4 億至 5 億美元損失(如錯誤定價或誤診);「但若某 AI 提供商出現失誤,繼而引發成千上萬起關聯索賠,即系統性、高度相關且高度聚合的風險,則是行業所無法承擔的。」

標準網絡保險通常僅覆蓋安全或隱私泄露事件,而 AI「幻覺」一般不在此列;技術類「錯誤與疏漏」(Errors and Omissions, E&O)保單雖更有可能覆蓋 AI 失誤,但新近引入的除外條款卻可能大幅縮窄保障範圍。

蘇黎世保險(Zurich Insurance)首席信息官 Ericson Chan 表示,過往評估其他技術驅動型失誤時,責任歸屬通常較易釐清;相比之下,AI 風險可能牽涉多方主體,包括開發者、模型構建者與終端用戶,「因此,AI 驅動型風險的潛在市場影響可能呈指數級放大」。

部分保險公司已通過所謂「批單」(endorsements,即保單附加條款)嘗試釐清 AI 相關風險的法律不確定性;但保險經紀與律師警告稱,此類批單需審慎審查,某些情況下,其實際導致保障範圍進一步縮減。

例如,保險公司 QBE 推出的一項批單雖為歐盟《人工智慧法案》(全球最嚴格 AI 監管框架)下的罰款及其他處罰提供有限保障,但據某大型經紀商透露,該批單(後續已被其他保險公司效仿)將 AI 相關罰款賠付上限限制為保單總限額的 2.5%。

QBE 向《金融時報》表示,此舉旨在「填補其他保險保單可能未覆蓋的 AI 相關風險缺口」。

在與保險經紀的談判中,總部位於蘇黎世的安達保險(Chubb)已同意承保部分 AI 風險,但明確排除「廣泛性」AI 事件(例如影響眾多客戶的模型級故障)。安達拒絕對此置評。

與此同時,另有保險公司推出針對特定、狹義 AI 風險的附加險種(例如聊天機器人失控等場景)。

保險經紀與律師普遍擔憂,隨著 AI 引發損失的顯著增長,保險公司可能轉向訴訟途徑拒賠。律所 Stewarts 保險爭議業務負責人 Aaron Le Marquer 指出:「恐怕需要一次重大的系統性事件,才會讓保險公司意識到並主張:等等,我們從未打算承保這類事件。」


抱歉,评论功能暂时关闭!