Anthropic新AI模型鎖定資安漏洞 不公開僅供大型科技廠強化防禦

Date:

圖/本報AI製圖(示意圖)

商傳媒|葉安庭/綜合外電報導

美國人工智慧(AI)開發商 Anthropic 近日揭露其最新研發的 AI 模型 Claude Mythos,具備突破性的網路安全漏洞偵測能力。然而,Anthropic 考量到該模型強大的潛在威脅,決定不對外公開釋出,而是透過與全球主要科技基礎設施供應商合作,共同提升網路防禦能力。此舉旨在利用 AI 的力量,防堵可能由惡意 AI 造成的資安風險。

Anthropic 聲稱,Claude Mythos 在尋找並利用軟體漏洞方面的程式編碼能力,已超越絕大多數人類專家。透過初步測試版本 Claude Mythos Preview,該模型已在多個主流作業系統及網頁瀏覽器中,成功識別出「數千個」嚴重安全漏洞。Anthropic 執行長達里奧·阿莫德伊(Dario Amodei)表示,若能正確運用這項技術,將有機會打造比 AI 時代前更安全的網路環境,但若處理不當,其危險性亦不容忽視。

為應對先進 AI 模型所帶來的網路安全挑戰,Anthropic 同步發起一項名為「Project Glasswing」的合作計畫。該計畫將開放超過 40 家機構存取 Claude Mythos,共同改進其防禦 AI 攻擊的能力。參與者涵蓋多家產業巨擘,包括蘋果(Apple)、亞馬遜網路服務(Amazon Web Services)、博通(Broadcom)、思科(Cisco)、CrowdStrike、Google、摩根大通(JPMorgan Chase)、Linux 基金會、微軟(Microsoft)、輝達(Nvidia)以及 Palo Alto Networks 等。Anthropic 更承諾,將投入 1 億美元的 Mythos 使用額度,並捐贈 400 萬美元予開源安全組織,以支持網路安全生態系的發展。思科(Cisco)首席安全與信任長安東尼·格里耶科(Anthony Grieco)指出:「我們發現的結果令人矚目。」亞馬遜網路服務(AWS)副總裁兼首席資訊安全長艾咪·赫爾佐格(Amy Herzog)則形容 Claude Mythos Preview 是「網路安全領域推理及 AI 能力的一大進步」。

資安公司 Norton 的威脅情報總監米哈爾·薩拉特(Michal Salát)指出,漏洞研究正迅速成為 AI 在網路安全領域的主要實際應用案例之一,儘管 Claude Mythos 比現有頂級模型如 Opus 4.6 有顯著進步,但 AI 發現漏洞的能力早已存在,例如先前的 DARPA 網路大挑戰(Cyber Grand Challenge)便有所體現。這項發展預計將受到各國政策制定者的密切關注。美國參議員馬克·華納(Mark Warner)對 Project Glasswing 表示肯定,讚揚這些領先企業意識到潛在威脅,並主動分享資訊與能力以保護關鍵基礎設施。他也呼籲,隨著 AI 大幅加速發現新漏洞,業界應同步加速並重新調整漏洞修補的優先順序。

e1b0a0d1 f27b 49d6 8929 dc897b5fcb35

Share post:

spot_imgspot_img

熱門

相關新聞
Related

Adobe Firefly AI助理將上線 整合逾30款模型簡化創意流程

商傳媒|責任編輯/綜合外電報導設計軟體巨擘 Adobe 近日推出 Firefly AI 助理,旨在透過單一整合介面,簡化旗下多款創意應用軟體的內容創作流程。這項新功能預計將於近期陸續推出,讓使用者能以簡潔的指令,管理複雜的編輯任務。Adobe 指出,Firefly AI 助理將多重創意工作流程整合至單一介面,讓使用者透過自然語言描述所需成果,系統即可在...

OpenAI推GPT-Rosalind模型 鎖定生醫科學加速新藥開發

商傳媒|責任編輯/綜合外電報導全球人工智慧(AI)領導者OpenAI已發布一款專為生命科學領域設計的全新AI模型,名為GPT-Rosalind。該模型旨在協助科學家加速藥物開發、生物學研究及轉譯醫學的進程。GPT-Rosalind以對DNA結構理解貢獻卓著的英國物理化學家羅莎琳德·富蘭克林(Rosalind Franklin)命名,其主要功能為分析科學數據,並縮短新藥從研發到批准所需的漫長時程。OpenAI指出,目前在美國,一款新藥的開發和批准通常需耗時約10至15年。該模型期望能優化研究標的選擇,並為實驗生成更強有力的假設。據《MSN》報導,GPT-Rosalind已在有機化學、蛋白質學及遺傳學等領域進行測試,可供研究人員用於搜尋相關科學文獻及設計實驗。OpenAI強調,GPT-Rosalind內建防範濫用的安全機制,例如防範其被用於製造生物武器。近年來,其他科技巨頭也積極投入科學AI領域。例如,Google DeepMind已開發出AlphaFold等AI模型用於科學研究,其創建者更因此在2024年共享了諾貝爾化學獎的榮譽。此外,Anthropic也在今年一月推出Claude生命科學模型,目的與GPT-Rosalind相似。儘管AI在科學領域的應用潛力巨大,部分科學家仍對其可能存在的漏洞、潛在濫用及數據表徵問題抱持疑慮。為支持相關研究,OpenAI已與多家生技、製藥及生命科學技術組織建立合作關係。美國生物製藥公司安進(Amgen)人工智慧與數據資深副總裁Sean Bruich表示,透過與OpenAI的獨特合作,能以創新方式應用OpenAI最先進的能力和工具,加速將藥物交付給病患的時程。目前,GPT-Rosalind正透過OpenAI的信任存取系統,以研究預覽版的形式提供使用。標籤: 合作媒體商傳媒

谷歌 Gemini AI 去年攔截逾 83 億惡意廣告 強化網路資安防線

商傳媒|林昭衡/綜合外電報導谷歌(Google)運用其人工智慧(AI)平台 Gemini,在 2025 年成功攔截並移除逾 83 億則惡意廣告,展現 AI 在網路安全防護上的強大潛力。這些遭攔截的廣告中,約有 6.02...

雅芳醫療AI平台獲A輪千萬美元融資 助醫師整合臨床知識入電子病歷

商傳媒|康語柔/綜合外電報導專注於將人工智慧(AI)應用於醫療領域的雅芳公司,日前宣布成功完成A輪融資,募得1千萬美元資金。這筆資金將用於加速該公司成為領先的醫療企業AI平台,旨在協助醫護人員在診療現場有效整合臨床知識,優化電子病歷(EHR)系統的應用。根據《Wowtale》報導,此輪融資由 Noro-Moseley Partners 領投,現有投資者包括 AlleyCorp、Las Olas Venture Capital、MedMountain Ventures...