AI代理程式失控釀禍 9秒內刪除科技公司資料庫

Date:

商傳媒|葉安庭/綜合外電報導

美國一家科技公司日前遭遇一場嚴重的AI代理程式失控事件,其AI程式編輯器Cursor旗下的一個AI代理程式,在短短9秒內自行刪除了該公司PocketOS的生產資料庫及其所有備份,導致業務中斷長達30小時。

PocketOS創辦人兼執行長Jeremy Crane於上週六在社群平台X上發文詳述了這起事件。他指出,Cursor的AI代理程式(運行Anthropic的Claude Opus 4.6程式模型)在為其基礎設施供應商Railway的API環境執行例行任務時,意外遭遇了憑證不符的問題。該AI代理程式竟「完全憑藉自身判斷」,未經任何人類確認步驟,便決定透過刪除Railway的一個儲存單元來「修復」問題,此舉卻連帶摧毀了PocketOS的整個生產資料庫以及所有儲存層級備份。

Crane在文中嚴厲批評,AI代理程式在執行這項具破壞性的操作時,完全沒有任何確認機制,如「輸入 DELETE 確認」或「此儲存單元包含生產資料,您確定嗎?」等安全提示。這導致PocketOS蒙受巨大損失,包括長達三個月的租車預訂資料、新客戶註冊資訊,以及所有依賴PocketOS營運的企業資料。

事件發生後,PocketOS的基礎設施供應商Railway迅速採取行動。根據《ABC新聞》報導,Railway創辦人兼執行長Jake Cooper表示,在接獲Jeremy Crane的通知後30分鐘內,Railway團隊便成功恢復了PocketOS的備份資料。Cooper解釋,這起事件是一起「失控的客戶AI」在獲得完整權限的API金鑰後,呼叫了一個缺乏「延遲刪除」邏輯的舊有API端點。Railway已立即修補該端點,並正在開發名為「Guardrails」的防護機制,以避免類似事件再次發生。

儘管經歷了這次嚴峻的資料危機,Jeremy Crane仍強調自己「極度看好」人工智慧的未來發展,並表示將繼續日常應用AI。然而,他也沉痛地指出,這次事件凸顯了AI應用中缺乏人為監督的嚴重風險。他引用Cursor自家「最佳實務指南」的建議,強調具破壞性的操作必須要求人類批准,而不能由AI自動完成。Crane表示:「在2026年,一個經過驗證的POST請求就能毀滅生產環境,這是無法辯護的。」

這起事件再度提醒全球科技界,包括台灣的科技公司在內,在積極部署AI解決方案的同時,務必審慎評估其潛在風險,並強化「人類在環」(human-in-the-loop)的監督機制,確保AI系統在關鍵決策點能有人為介入與確認,以避免自動化帶來的不可預期後果。

0492ab18 87de 41a6 b155 941f52e80a2f

相關新聞推薦

正在載入相關新聞…

Share post:

spot_imgspot_img

熱門

相關新聞
Related

疑23歲男闖軌遭區間快撞亡! 列車受影響近2hrs排除

【Lai傳媒、記者爆料網 金東天/高雄報導】台鐵今(8)日晚間發生死傷事故,高雄科工館站一名男子疑違規從月台侵入鐵軌,遭3081次區間快車撞上,一度受困車底,造成高雄至鳳山間東正線中斷,列車改採西正線單線雙向行車。警方確認,遭撞男子已明顯死亡,初步了解身分為年約23歲外籍人士。事發後晚間10時許,現場排除,列車恢復正常營運。據悉,男子遭撞後卡在車底,消防與警消人員到場協助脫困,但經確認已無生命跡象。警方現場搜尋證件,發現男子年約23歲,疑似為外籍,至於詳細情形還有待進一步釐清。(責任編輯:王俊勝)《賴傳媒》關心您: 輕生解決不了問題,請珍惜生命,再給自己一次機會。 生命線「1995」;衛福部諮詢安心專線「1925」;張老師專線「1980」相關新聞推薦正在載入相關新聞...標籤: 台鐵合作媒體死傷賴傳媒闖軌道高雄

日本企業數位轉型挑戰:高層決策成關鍵 日立案例探討

商傳媒|吳承岳/台北報導數位化與電子商務已成為當今企業發展不可或缺的一環,特別是在B2C與B2B領域,透過電商(EC)直接面向消費者的DtoC模式也日益普及。然而,許多日本企業卻因根深蒂固的公司結構、商業習慣與企業文化等因素,難以有效推動電子商務化(EC化),面臨轉型困境。根據一份原於2024年8月7日發表、近日再度的報導指出,企業若無數位化與EC化,將難以展望未來發展。該報導強調,在資源有限、員工已被現有業務壓得喘不過氣的背景下,若僅仰賴由下而上的企業改革,往往難以實現突破。此時,企業高層的強大領導力與果斷決策,對於推動數位轉型至關重要。唯有經營者展現投入預算與人力資源的決心,數位化進程才能順利展開。報導引用前Amazon Japan創始成員林部健二的觀點,說明日本企業推動數位轉型時,高層領導者做出果斷決策的重要性。林部健二指出,日本有部分企業已藉由高層主導的改革,成功推動內部變革,其中日立製作所便是其一。這凸顯了在面對轉型挑戰時,企業領導階層具備的願景與執行力,是克服內部阻礙並引導企業邁向數位未來的關鍵。相關新聞推薦正在載入相關新聞...標籤: 合作媒體商傳媒

歐元區金融整合步履蹣跚 歐洲央行籲改革監管碎片化

商傳媒|吳承岳/台北報導根據歐洲央行(ECB)最新報告指出,儘管歐元區金融整合自2022年以來已顯著改善,並超越歷史平均水準,但其金融體系仍未充分發揮潛力,無法有效支持長期的經濟成長、創新與競爭力。報告強調,歐洲的股票市場及金融監管依然存在嚴重碎片化問題,阻礙區域經濟潛力的實現。報告分析,歐元區金融整合的進步主要歸因於解體風險溢價的降低,以及歐盟層級的政策措施。同時,投資基金和保險公司等非銀行機構在經濟融資中的角色日益增加,也透過提升跨境風險分擔,促進了金融體系的多元化與整合。其中,債務市場的整合進展最為顯著,得益於主權債券等債務證券的跨境持有量增長,以及銀行同業拆借業務的增加。然而,自2022年以來,歐元區的股票市場整合程度卻不進反退,跨境股票投資疲弱,會員國之間的直接外人投資(FDI)更降至歷史新低。這導致歐洲家庭大量資產仍停留在低收益的銀行存款,而非投入股票市場,且大部分的股票投資流向了境外市場。歐洲央行報告指出,此現象造成歐元區儲蓄豐沛卻無法滿足投資需求的窘境,限制了創新企業獲取風險資本的能力,並影響了長期的競爭力。此外,區內的金融監管持續碎片化,導致各地在監管實踐和執法結果上存在實質差異。這種狀況不僅提高了市場參與者執行跨境業務的難度,更造成不公平的競爭環境,並增加監管套利的風險。歐洲央行呼籲,應在歐盟層級針對大型跨境企業和具備跨境性質的金融部門推動「有針對性的改革,集中化管理監管」,同時保留部分地方市場的監督權。報告強調,為了消除資本市場整合的現有障礙,必須實現歐盟資本市場的整合監管,並在監管趨同方面取得進一步進展。同時,透過更統一的公司稅規則,以及提高私募市場的透明度,亦有助於促進跨境業務的發展。報告定義,金融整合是指歐洲的銀行、債券和股票市場作為一個單一實體運作,遵循共同規則並提供平等的區域內准入機會。相關新聞推薦正在載入相關新聞...標籤: 合作媒體商傳媒

美國房貸利率逾半世紀流變 剖析房市與聯準會政策關聯

商傳媒|簡明心/綜合外電報導根據Bankrate發布的最新數據,截至2026年5月6日,美國30年期固定房貸利率平均為6.43%。儘管較年初有所上升,但仍低於2025年平均的6.66%,顯示在聯準會政策與經濟事件的交互影響下,房貸利率持續波動。美國現代住宅抵押貸款的歷史不到百年。在聯邦住房管理局(Federal Housing Administration, FHA)於1934年成立之前,美國僅有約一成的家庭擁有房屋。30年期固定房貸正是在大蕭條時期推出,讓數百萬美國民眾得以實現購屋夢想。回顧房貸利率歷史,1970年代因大通膨及聯準會的擴張性政策,利率大幅攀升,至1979年平均達到11.2%。1981年10月,30年期固定房貸利率更創下18.4%的歷史新高。此後,隨著聯準會抑制通膨,利率在1980年代末回落至9.78%。1990年代,受網路泡沫影響,投資人轉向固定收益資產,債券價格上漲、殖利率下跌,連帶使房貸利率在1998年降至平均6.91%。2000年代初期,次級房貸危機導致利率持續走低,聯準會採行量化寬鬆政策,大量購買抵押貸款債券,進一步壓低利率以刺激經濟復甦,2009年降至5.4%。進入2010年代,30年期房貸利率大致呈下降趨勢,從4%左右起步,曾跌破4%。COVID-19疫情則在2020年代初期將房貸利率推向歷史新低,2021年曾跌至不到3%。然而,為抑制疫情引發的通膨,聯準會自2022年起陸續升息,房貸利率也隨之上升,此後一直維持在6%至7%之間。2023年10月,30年期房貸利率一度突破8%,為2000年以來首見。2024年大部分時間,房貸利率徘徊在6%至7%區間。聯準會於2024年9月、10月和12月轉向降息,共計降息75個基點,但房貸利率在2024年9月至2025年期間仍呈現上升。2025年,聯準會又在9月、10月及12月各降息25個基點,全年平均利率為6.66%。2025年12月至2026年2月期間,Bankrate追蹤的平均房貸利率曾接近2022年以來最低水準。但受2026年2月與伊朗爆發的衝突影響,油價及通膨壓力升高,導致房貸利率在同年3月再次上揚,5月6日達到6.43%。房貸利率的波動對購房者影響深遠。較低的利率通常能刺激購房需求,提升個人購買力,但也可能推升房價,進而影響購屋負擔能力。反之,較高的利率意味著每月房貸負擔增加,可能成為購房障礙。專家建議,欲取得較佳房貸條件,應維持良好信用評分、穩定收入並準備充足的頭期款。此外,若考慮房屋轉貸,建議應以能減少現有利率至少0.5至0.75個百分點為目標,並預計在現居房屋居住至少五年以上,方能最大化轉貸效益。儘管歷史數據可提供參考,未來房貸利率的走勢仍充滿不確定性,沒有人能確切預知其變化。相關新聞推薦正在載入相關新聞...標籤: 合作媒體商傳媒