微光新聞網

商傳媒｜何映辰／台北報導隨著人工智慧（AI）技術持續深入軟體開發與企業營運，資安領域也正迎來新的挑戰與防禦工具。《Williamblair.com》報導指出，生成式AI雖然將開發時程從數月縮短至數日，卻也衍生出網路威脅、法律風險與品質問題，促使企業必須建立健全的治理框架。AI生成程式碼潛藏風險 治理框架成防線AI在加速程式碼生成方面表現出色，但這類模型具有機率性，可能產生看似正確卻含有細微錯誤、效率不彰或資安漏洞的程式碼，這被稱為「七成問題」（70% problem），意指AI能快速完成大部分任務，但開發人員仍需投入大量精力精進成果。此外，AI生成程式碼可能過於複雜，導致過多邏輯與細節，反而拖慢部署並擴大潛在網路攻擊面。《Williamblair.com》強調，高達八成的軟體開發工作在程式碼撰寫後進行，主要著重於管理、安全與驗證。企業若缺乏完善的治理機制，將面臨程式碼品質與合規性失控的風險，監管機構也日益要求人為監督與可審計的記錄軌跡。新興工具助AI應用實時防護與資料精準面對AI應用帶來的潛在威脅，新興資安工具應運而生。MCP Defender是一款桌面資安工具，專為監控與保護AI應用程式（例如Cursor）而設計，可防止AI工具在用戶系統上執行潛在有害或未經授權的操作。《Trendhunter.com》指出，MCP Defender在背景運行，能偵測AI試圖進行的危險操作，並提供用戶阻擋或允許的選項，藉此強化AI系統的安全性。這類工具透過實時AI運行時保護、AI系統呼叫監控及用戶控制的權限層級，有效降低AI驅動工作流程中的資安風險。在企業資料治理方面，語義層（Semantic Layer）的導入對於確保AI模型輸出精準度至關重要。企業軟體公司微策略便推出了語義層解決方案微策略，旨在解決「元資料不等於意義」的核心問題。該公司指出，當大型語言模型（LLM）直接處理原始資料庫（如PostgreSQL）時，複雜查詢的準確性僅約三成。然而，透過微策略的語義層，LLM的準確性可提升至百分之百，同時減少高達五成的token用量，因為語義層在AI接觸資料前，便已納入並執行業務邏輯，大幅降低AI產生錯誤回答（hallucinations）的機率。大型平台實踐AI安全 開發與治理並重Pinterest身為擁有超過6.2億月活躍用戶的視覺探索平台，也在AI應用上展現其安全策略。《VentureBeat》報導，Pinterest的技術長Matt Madrigal表示，該公司透過客製化開源模型（例如基於深度求索Qwen 3 VL的Navigator One），並結合自家多模態嵌入技術Pin Clip，實現比專有模型更低的成本和更高的準確性。Pinterest平衡了開發效率與安全合規性，例如為開發人員提供多個沙盒環境以管理對敏感系統（如Taste Graph）的存取，並建立快速審查流程，以利新工具的導入。他們也讓工程師能選擇不同的AI程式碼工具，但同時確保安全性與合規性，將資安融入產品開發初期。AI倫理與責任 跨領域應用應慎重除了技術層面的防護，AI的倫理與責任也日益受到關注。《Design World》提到，OpenAI向美國五角大廈提供AI模型用於軍事與情報應用，凸顯了工程師在運用AI工具時，仍須負起驗證其工作成果的責任。無論AI工具多麼先進，合規性與驗證仍是工程師應遵循的兩大原則。此外，AI在醫療保健領域的應用也面臨訴訟風險與治理挑戰。《JD Supra》指出，近期美國加利福尼亞北區聯邦地區法院就有一宗集體訴訟，質疑「環境AI」臨床文件工具在未經充分告知同意下，錄製並處理醫病對話，強調了在敏感資料環境中，AI工具在實施、揭露、治理與監控各層面都需謹慎處理。這些案例均突顯出，無論AI技術多麼強大，其應用皆需以嚴謹的治理、合規性與人為監督為基石，方能實現其潛在效益並降低風險。相關新聞推薦正在載入相關新聞...標籤： 合作媒體商傳媒

商傳媒｜葉安庭／綜合外電報導美國企業軟體巨擘 Salesforce 於去年9月4日發布的第三季營收財測不及華爾街預期，導致其股價在盤後交易中下跌 3%。儘管公司在人工智慧（AI）領域表現出強勁成長，市場對其整體展望仍存有疑慮。據《Crypto Briefing》報導，Salesforce 去年9月4日盤後交易股價一度下跌 3% 至 8%，反映投資人對公司未來營收成長的擔憂。截至去年9月4日，Salesforce 的股價今年以來已累計下跌 27% 至 30%。該公司第三季的營收預計介於 102.4 億美元至 102.9 億美元之間，低於分析師普遍預期。然而，Salesforce 在 AI 業務方面展現了顯著的進展。其資料雲（Data Cloud）和 AI 相關的年度經常性收入年增 120%，達到...

商傳媒｜責任編輯／綜合外電報導亞馬遜雲端運算服務（AWS）於週三推出 AWS Agentic Shopping Assistant（ASA）解決方案，旨在協助零售業者將人工智慧功能整合至其線上商店，進而建構客製化的 AI 驅動購物體驗。這項新服務借鑑了亞馬遜（Amazon）在「Alexa for Shopping」工具上累積的技術與經驗，該工具去年已為亞馬遜創造近 120 億美元的增量銷售。AWS Agentic Shopping Assistant 透過整合亞馬遜旗下的多項 AI 產品與專業服務，包括 Amazon Bedrock 基礎模型服務、Amazon Bedrock AgentCore AI 代理開發工具包，以及開源搜尋引擎...

商傳媒｜記者顏康寧／台北報導Alphabet 旗下影音平台 YouTube 近日公告，自 5 月起分階段導入全新 AI 自動偵測與揭露標籤機制。根據 YouTube 官方公告與多家外媒報導，這項新制主要針對具有顯著擬真效果、且可能讓觀眾誤認為真實人物、地點或事件的 AI 生成或大幅修改影片。過去影音平台多仰賴創作者在上傳時主動申報是否使用生成式 AI，但隨著 AI 影像模型快速進化，真實與合成內容的邊界愈來愈模糊。YouTube 這次採取更主動的技術介入，若創作者未說明是否使用 AI，而系統偵測到影片含有「顯著擬真 AI 使用」，平台將可自動套用 AI 揭露標籤。自動偵測上線 創作者仍保有更正空間根據 YouTube 說明，新機制會結合內部偵測訊號，以及內容來源與真實性聯盟...

商傳媒｜林昭衡／綜合外電報導儘管擁有強大硬體配置，部分人工智慧（AI）工具近期卻在一台配置有十二核心英特爾 Xeon 處理器及 128GB 記憶體的 2013 年款 Mac Pro 上頻頻遭遇「Illegal instruction: 4」的錯誤訊息導致程式崩潰，這項技術限制引發了開發者與使用者之間的廣泛討論。根據《hackernoon》報導，包括 Claude Code、Kiro CLI 及 OpenCode 等 AI 工具，在執行時會遇到「Illegal instruction: 4」或「EXC_BAD_INSTRUCTION」錯誤，這代表中央處理器（CPU）識別到無法理解的指令碼（opcode）。深入分析後發現，這些工具的二進位檔案（binaries）中包含 AVX2 指令集，而...