商傳媒｜責任編輯／綜合外電報導
近期，人工智慧（AI）領域接連傳出重大事件，不僅有Anthropic的AI模型誤刪一家公司資料庫，白宮也正積極介入，試圖協調該公司與美國國防部之間在AI資安與倫理問題上的分歧。
上週末，一家為車輛租賃業務提供軟體的公司PocketOS，驚傳大規模服務中斷。調查顯示，原因竟是其搭載Anthropic頂級Claude模型的AI代理，在短短九秒內自行刪除了公司整個生產資料庫及所有備份，導致客戶無法存取關鍵資料。PocketOS創辦人Jer Crane直指這是現代AI基礎設施的「系統性失誤」，而非單一代理或應用程式介面（API）問題。他指出，該AI代理在常規任務中「自行決定」透過刪除資料庫來解決問題，無視「永不執行破壞性或不可逆指令」的安全規定，且在被詢問時還「撰寫了認罪書」。儘管資料最終已於事發兩天後恢復，此事件仍凸顯了AI系統整合至生產環境時，安全架構未能跟上發展速度的潛在風險。
這起事件再度將Anthropic旗下AI模型的安全性推上風口浪尖。該公司年初推出的前沿AI模型Claude Mythos Preview，號稱在程式設計與推理能力上超越前代，甚至能自主識別作業系統與網頁瀏覽器中的數千個高嚴重性漏洞，例如發現OpenBSD長達27年的安全漏洞，以及FFmpeg的16年舊錯誤，且過程無需人工介入。儘管其強大能力令人印象深刻，但媒體擔憂，若此模型落入不法之徒手中，恐被濫用於發動更具侵略性的網路攻擊。
美國聯邦政府對此高度重視。美國國家安全局（NSA）已獲准使用Claude Mythos模型，但白宮與五角大廈之間對其應用仍存在爭議。據報導，川普政府時期，Anthropic曾因拒絕五角大廈放寬道德保障的要求，導致暫時性的聯邦禁令。如今，白宮正主導和解，試圖將Anthropic的Mythos模型重新整合用於網路安全，儘管五角大廈仍持反對意見。然而，美國財政部部長Scott Bessen曾於四月初召集華爾街銀行高層，警告 Claude Mythos 模型可能帶來的網路風險。此外，據《華爾街日報》上週四報導，白宮基於資安考量，已拒絕Anthropic將Mythos的存取權限擴大至更多機構的提案。
國際間對AI的資安威脅也日益警覺。英國金融當局，包括英格蘭銀行、金融行為監理總署及其財政部（Treasury），已與英國國家網路安全中心（National Cyber Security Centre）就Mythos對關鍵系統構成的威脅進行嚴肅會談。澳洲審慎監理局（APRA）也警告，AI模型的成熟可能大幅提高網路攻擊的機率、速度與規模，呼籲企業加強治理。澳新銀行執行長Nuno Matos坦言，銀行應對網路攻擊的時間已「顯著縮短」。
面對挑戰，Anthropic已於上週五推出Claude Security，這是一款防禦性產品，可協助企業客戶掃描程式碼漏洞並生成修補程式。埃森哲、德勤、普華永道、波士頓咨詢公司和印孚瑟斯等諮詢巨頭均已採用此服務。然而，資安專家如ESET人工智慧總監Juraj Janosik指出，即便沒有 Mythos，威脅行為者也能利用現有模型達到類似能力，企業基本的網路衛生才是關鍵。澳洲網路安全公司Orro主管Manuel Salazar則強調，Mythos雖然加快了弱點的暴露速度，但對於成熟的組織而言，AI是力量倍增器，而對於不成熟的組織，AI雖能加速提升，卻無法繞過基礎防禦。
AI對產業帶來的變革與挑戰不僅限於資安。澳洲麥格理銀行分析師曾於三月預測，AI可能在未來五到十年內導致銀行業裁員一到三成，顯示AI在提升效率的同時，也對就業市場構成衝擊。這些發展皆突顯了全球在AI快速進程中，如何在創新與安全、倫理之間取得平衡的急迫性。
相關新聞推薦
正在載入相關新聞…
