同路點評
Anthropic Mythos AI 恐衝擊全球金融韌性
多位全球金融領袖日前在國際貨幣基金組織(IMF)及世界銀行(World Bank)春季會議期間發出嚴厲警告,指稱 Anthropic 公司研發的最新 AI 模型「Claude Mythos」具備前所未有的漏洞偵測能力,可能構成全球金融基礎設施「系統性威脅」。然而,英國銀行業已獲准於下週起先行使用這款技術。
據 Anthropic 發布的系統卡顯示,「Claude Mythos」能夠在數秒內識別存在數十年的系統漏洞,甚至能自主完成跨作業系統的複雜攻擊模擬。Anthropic 執行長曾公開承認模型具備「足以超越大多數頂尖人類駭客」的能力,因此公司決定暫不向公眾開放,僅限於少數合作夥伴進行防禦性測試。
加拿大財政部長 François-Philippe Champagne 將 AI 帶來的威脅比作傳統的地緣政治危機。他指出:「霍爾木茲海峽的危機是我們看得見、摸得著的風險;但 Anthropic 的技術卻是『未知的未知』(unknown unknowns)。」,強調各國財政部長必須高度重視此事,建立相應的監管防禦機制,以確保全球金融體系韌性不受動搖。
英格蘭銀行(Bank of England)總裁安德魯·貝利(Andrew Bailey)亦表示這對監管機構而言是嚴峻挑戰。他警告AI 領域的發展速度驚人,若監管腳步太早,恐阻礙技術演進;若太晚,則可能導致局面失控。
同路點評:
目前 Anthropic 對於 Mythos 的封閉式開發,反映了當前 AI 巨頭普遍存在的「黑箱治理」問題。雖然企業口頭承諾安全,但所謂的「紅隊測試」往往是在利潤驅動下的內部閉門造車。
許多公司在尚未建立完善的負責任 AI 框架前,就急於將具有強大編碼能力的工具投入金融這種敏感領域,本質上是「先上車、後補票」的冒險行為,讓銀行監管機構形同虛設,因為外界根本無法驗證這些模型在極端壓力下的真實穩定性。將金融韌性押注在單一私營公司的專有模型上,本身就是一種極大的風險。
如果全球主流金融機構都依賴 Mythos 來維護安全,一旦 Mythos 本身被駭或出現系統性錯誤,原本分佈式的金融風險將被集中到這套 AI 模型上。如果 Mythos 在銀行系統測試中誤刪了核心數據,或是其自動生成的修復代碼引發了交易中斷,責任應由銀行承擔、Anthropic 承擔,還是視為「不可抗力的技術故障」?
