AI資安工具革新:防範生成式程式碼風險強化資料治理

Date:

圖/示意圖

商傳媒|何映辰/台北報導

隨著人工智慧(AI)技術持續深入軟體開發與企業營運,資安領域也正迎來新的挑戰與防禦工具。《Williamblair.com》報導指出,生成式AI雖然將開發時程從數月縮短至數日,卻也衍生出網路威脅、法律風險與品質問題,促使企業必須建立健全的治理框架。

AI生成程式碼潛藏風險 治理框架成防線

AI在加速程式碼生成方面表現出色,但這類模型具有機率性,可能產生看似正確卻含有細微錯誤、效率不彰或資安漏洞的程式碼,這被稱為「七成問題」(70% problem),意指AI能快速完成大部分任務,但開發人員仍需投入大量精力精進成果。此外,AI生成程式碼可能過於複雜,導致過多邏輯與細節,反而拖慢部署並擴大潛在網路攻擊面。《Williamblair.com》強調,高達八成的軟體開發工作在程式碼撰寫後進行,主要著重於管理、安全與驗證。企業若缺乏完善的治理機制,將面臨程式碼品質與合規性失控的風險,監管機構也日益要求人為監督與可審計的記錄軌跡。

新興工具助AI應用實時防護與資料精準

面對AI應用帶來的潛在威脅,新興資安工具應運而生。MCP Defender是一款桌面資安工具,專為監控與保護AI應用程式(例如Cursor)而設計,可防止AI工具在用戶系統上執行潛在有害或未經授權的操作。《Trendhunter.com》指出,MCP Defender在背景運行,能偵測AI試圖進行的危險操作,並提供用戶阻擋或允許的選項,藉此強化AI系統的安全性。這類工具透過實時AI運行時保護、AI系統呼叫監控及用戶控制的權限層級,有效降低AI驅動工作流程中的資安風險。

在企業資料治理方面,語義層(Semantic Layer)的導入對於確保AI模型輸出精準度至關重要。企業軟體公司微策略便推出了語義層解決方案微策略,旨在解決「元資料不等於意義」的核心問題。該公司指出,當大型語言模型(LLM)直接處理原始資料庫(如PostgreSQL)時,複雜查詢的準確性僅約三成。然而,透過微策略的語義層,LLM的準確性可提升至百分之百,同時減少高達五成的token用量,因為語義層在AI接觸資料前,便已納入並執行業務邏輯,大幅降低AI產生錯誤回答(hallucinations)的機率。

大型平台實踐AI安全 開發與治理並重

Pinterest身為擁有超過6.2億月活躍用戶的視覺探索平台,也在AI應用上展現其安全策略。《VentureBeat》報導,Pinterest的技術長Matt Madrigal表示,該公司透過客製化開源模型(例如基於深度求索Qwen 3 VL的Navigator One),並結合自家多模態嵌入技術Pin Clip,實現比專有模型更低的成本和更高的準確性。Pinterest平衡了開發效率與安全合規性,例如為開發人員提供多個沙盒環境以管理對敏感系統(如Taste Graph)的存取,並建立快速審查流程,以利新工具的導入。他們也讓工程師能選擇不同的AI程式碼工具,但同時確保安全性與合規性,將資安融入產品開發初期。

AI倫理與責任 跨領域應用應慎重

除了技術層面的防護,AI的倫理與責任也日益受到關注。《Design World》提到,OpenAI向美國五角大廈提供AI模型用於軍事與情報應用,凸顯了工程師在運用AI工具時,仍須負起驗證其工作成果的責任。無論AI工具多麼先進,合規性與驗證仍是工程師應遵循的兩大原則。此外,AI在醫療保健領域的應用也面臨訴訟風險與治理挑戰。《JD Supra》指出,近期美國加利福尼亞北區聯邦地區法院就有一宗集體訴訟,質疑「環境AI」臨床文件工具在未經充分告知同意下,錄製並處理醫病對話,強調了在敏感資料環境中,AI工具在實施、揭露、治理與監控各層面都需謹慎處理。這些案例均突顯出,無論AI技術多麼強大,其應用皆需以嚴謹的治理、合規性與人為監督為基石,方能實現其潛在效益並降低風險。

2b2d663d dc5c 4689 a5d5 73e860400db8

相關新聞推薦

正在載入相關新聞…

Share post:

spot_imgspot_img

熱門

相關新聞
Related

預售屋交屋開箱驚見管線滿天飛?專家:不一定是偷工減料,可能是這個原因

預售屋交屋開箱驚見管線滿天飛?專家:不一定是建商偷工減料,可能是「維修友善」設計M傳媒|綜合報導對多數新手屋主而言,買房是一段漫長投入的旅程。從樣品屋的光鮮圖面,到數年等待後的實體交屋,想像與現實之間,往往藏著難以察覺的細節差距。尤其預售屋階段看不見的管線配置,常在交屋開箱時成為新手屋主的意外焦點。住宅消保會創會理事長吳翃毅表示,從住保會歷年收到的調處申請案件來看,除了漏水與施工瑕疵外,另一類常見大宗爭議就是管線與樑柱配置問題。大樓管線就像人體的血管與神經系統,負責輸送水電瓦斯、排放廢水,是住宅不可或缺的基本設施。目前各類管線都有統一顏色標示,但在購買預售屋時,新手屋主多半不懂,遑論主動詢問,建商也未必會詳細說明。直到交屋後,許多屋主才赫然發現污水管橫越客廳上方、瓦斯管貼著陽台門框外露、或是一樓店面戶上方密布排水管線等「新屋開箱驚嚇」。這些原本習以為常卻被下意識忽略的存在,一旦以不符預期的姿態出現在眼前,往往衝擊著新手屋主的心理。從紙上走進現實的資訊落差這樣的落差,除了管線設計不良導致的狀況外,其實也與近年建築思維的轉變密切相關。過去住宅興建,多將給排水與電氣管線埋入結構體內。視覺上乾淨俐落,但一旦管線老化、破裂或滲漏,往往必須破壞牆面與地面才能維修,成本高昂,也影響居住品質。隨著工程技術進步與維修管理觀念改變,近年建築設計逐漸採取「管線與結構分離」的作法,並透過建築資訊模型進行管套繪配,讓管線便於施工和維修。從專業角度來看,這是一種更具長期友善性的設計邏輯。看得見的管線,代表未來修繕時不必大規模敲打結構。換言之,外露或可視的管線,不一定是施工品質不佳,而是設計取向的轉變。但對許多首次購屋者而言,「看得見」卻被解讀為「不夠好」。在大眾的認知裡,新屋理應整齊、乾淨、毫無瑕疵。當污水管出現在視線範圍內,或天花板因包覆管線而降低高度,心理直覺容易將其與設計不良畫上等號。專業進步,被誤認為品質退步;維修友善的設計,反而成為疑慮的來源。管線配置是新屋爭議焦點此外,現行預售屋買賣定型化契約應記載及不得記載事項中,並未要求建商必須事前說明管線配置。賞屋洽談階段,銷售人員多半著墨於格局動線與建材配備,管線配置圖雖存在於建築圖說之中,卻少有機會被逐一解讀。對缺乏相關知識背景的新手屋主而言,即使拿到圖面,也未必能理解顏色標示與配置邏輯。依據內政部國土署制定的「建築物給水排水設備設計技術規範」,各類管線均有明確顏色區分:給水系統中,淺藍色為自來水、紅色為熱水、紫色為回收水;排水系統則以白色或淺灰色代表生活污水、黑色或深灰色為馬桶排水、綠色為雨水管、棕色為通氣管。此外還有瓦斯、電力、通訊、消防等其他特殊管線。這些管線本是大樓必備設施,但實際設置容易因為位置關係,成為消費者反彈的來源。不少新手屋主等到交屋後被屋內管線配置嚇到,才意識到當初買屋時問得不夠細,也難免懷疑建商是否刻意避談。吳翃毅指出,爭議往往來自資訊揭露與心理預期之間的斷層。易維修外露管線改變購屋思維除了瓦斯管必須要明管之外,其他管線若想改善外觀,實務上多半只能透過裝修包覆修飾,避免產生壓迫感。但包起來日後若發生爆管,拆除維修又是一筆額外支出;若不包覆,看著外露管線又難免心裡有疙瘩。這些現實考量,都是交屋後才真正浮現的難題。要避免這類爭議,最根本的方法仍是在購屋前做好功課。管線配置可從建築圖面及水電配置圖中獲取。賞屋洽談時,除了關心坪數與採光,也應問清楚管線資訊、瓦斯安裝等問題;建商若能在銷售說明中更清楚揭露設計取向與維修考量,也有助於降低誤解。專家建議:簽約前做好三件事針對預售屋管線爭議,專家提出三點具體建議:第一,向建商索取水電配置圖。 購屋者有權利了解管線走向,看不懂可請銷售人員當面解釋。第二,問清楚關鍵問題。 包括污水管是否經過客廳或臥室上方、瓦斯管是明管還是暗管、天花板淨高剩多少。第三,善用5%交屋保留款。 根據預售屋買賣定型化契約,交屋時買方可保留房地總價5%款項,待驗收完成再支付,這是屋主最重要的籌碼。若交屋後發現管線配置確實不合理,可先確認建商是否違反契約或法規;協商不成,可向住宅消保會或各縣市消保官申訴調處。M觀點:專業設計需要被充分說明買房是一筆重大支出,對即將迎來交屋的新手屋主而言,與其事後對簿公堂,不如簽約前多花時間仔細檢視細節。管線並非住宅的主角,卻深刻影響日後的維修成本與居住感受。當建築設計從「藏管」轉向「明管」、從「一次性美觀」轉向「長期維修友善」,這樣的專業進步需要被充分說明與理解。唯有如此,維修友善的設計才不會再成為糾紛的來源,而能真正轉化為長久居住的保障。標籤: M傳媒合作媒體賣厝阿明

育碧重組計畫衝擊近 380 名員工 關閉兩工作室

商傳媒|責任編輯/綜合外電報導遊戲大廠育碧(Ubisoft)昨(10)日向員工宣布,公司正進行新一波重組計畫,預計將有約 380 名員工受到影響。這次調整包括關閉位於加拿大溫尼伯(Winnipeg)及塞爾維亞貝爾格勒(Belgrade)的兩處工作室。《Insider Gaming》報導指出,重組行動還將導致西班牙巴塞隆納(Barcelona)工作室的業務重心轉向《虹彩六號:圍攻行動》(Rainbow Six Siege)相關開發,此變動目前正在諮詢員工代表。此外,育碧在全球發行部門(Global Publishing organization)也進行了調整,包含在美國舊金山(San Francisco)的數十名員工遭到裁員,以優化團隊架構並維持在關鍵市場的影響力。育碧表示,此番變革是為了簡化營運、降低成本基礎,並強化公司長期發展。這些決定反映了近期對產品組合審查後,活動水準所做的調整。雖然這些決策可能影響多達...

Netflix擴大亞太行動應用與遊戲服務 兒童內容成關鍵

商傳媒|何映辰/台北報導串流影音巨擘Netflix正積極拓展其行動應用程式體驗,並將專為兒童打造的遊戲中心Netflix Playground推向亞太地區(APAC)新市場。此舉被視為該公司鞏固家庭用戶、擴展生態系的重要策略,以吸引不同年齡層與興趣的觀眾。Netflix的行動應用程式更新已於今年稍早率先在澳洲、紐西蘭、菲律賓、印度和馬來西亞上線。根據外媒報導,今年七月,這項更新服務也將在南韓與日本推出。這次行動應用程式改版的關鍵特色是「Clips」功能,這是一種垂直短影片串流,讓用戶能快速瀏覽Netflix片庫的精華片段,滿足在零碎時間快速娛樂的需求。Netflix也計畫測試主題式Clips集錦,根據情緒、類型與興趣來組織短影片,內容將涵蓋實境秀精華、幕後花絮及Podcast回顧等。在兒童內容方面,Netflix持續發展專屬兒童遊戲的Netflix Playground。該平台已於今年四月在美國、加拿大與英國首次推出。目前,Netflix Playground將重點放在與熱門動畫音樂電影《Kpop 獵魔女團》的結合,新的遊戲空間將提供六款迷你遊戲,讓粉絲能與電影中的角色及情節互動。Netflix此策略旨在透過提升行動體驗及加碼兒童遊戲,來留住家庭觀眾並擴展單一用戶的內容生態系。此番將重心放在亞太地區的行動與家庭遊戲市場,凸顯Netflix欲使平台更具彈性、能滿足不同年齡層和興趣用戶的目標。對台灣的影視串流用戶而言,由於台灣位處亞太區,Netflix在區內的行動與遊戲策略將可能影響未來服務的走向與內容發展。標籤: 合作媒體商傳媒

美法院駁回川普政府H-1B簽證高額費用政策 移民人才流動陷變數

商傳媒|責任編輯/綜合外電報導美國麻州Massachusetts District Court一名法官於6月8日裁定,川普(Donald Trump)政府對新的H-1B簽證申請者徵收10萬美元費用的政策無效。這項裁決引發各界對美國外籍專業人士未來影響的關注。根據《American Community Media》報導,法官利奧·T·索羅金(Leo Sorokin)指出,這項費用政策形同未經授權的稅收,且川普政府在實施前未遵守法定30天的公眾意見徵詢期,因此裁定該政策專斷且反覆無常。索羅金法官強調,根據《麥卡倫-沃爾特法》(Immigration and Nationality...