觀點網訊:據消息人士透露,多家美國大型銀行監測到客戶賬戶內存在未獲銀行許可的第三方AI代理程序,部分程序會自主執行操作,脫離用戶指令。

AI代理已成為美國銀行業的風險來源,其侵入銀行系統的速度快過金融機構的應對能力。銀行難以區分操作來自真人還是違規機器人,不得不限制這項技術,並緊急修改服務協議。

摩根士丹利、美國銀行、摩根大通、富國銀行等多家銀行正加緊管控AI代理帶來的風險。

知情人士稱,在部分案例中,銀行監測到原本設定為代用戶執行任務的AI代理主動致電客服中心,或在沒有用戶指令的情況下自主發起操作。這些銀行已經發現相關違規接入情況。

銀行高管形容該狀況令人不安,一名負責人表示,行業高度警惕AI代理獲取賬戶權限後執行可能損害用戶資金的操作。