科技數位

吉姆·查諾斯警示AI資本支出激增 恐推升標普500獲利預期

商傳媒|責任編輯/綜合外電報導知名做空投資者吉姆·查諾斯(Jim...

Google I/O 2026 聚焦 AI:Gemini 大幅升級、Android XR 將登場

商傳媒|何映辰/台北報導年度盛事...

AI融入、健康優先:五月科技產品聚焦個人化與行動運算

商傳媒|何映辰/台北報導根據科技趨勢研究機構...

硬體創新助AI突破瓶頸 稀疏計算成大型模型新解方

商傳媒|林昭衡/綜合外電報導隨著人工智慧(AI)技術快速發展,大型語言模型(LLM)的規模持續擴大,例如Meta推出的Llama模型已達2兆個參數。然而,模型增大不僅提升了能力,也帶來能源消耗與運算時間的大幅增加,導致碳足跡問題日益嚴重。為解決這些挑戰,目前業界普遍傾向使用較小型模型或採用低精度數字來處理模型參數。然而,《Aol.com》報導指出,另一個潛力巨大的途徑是優化AI模型中的「零值」運算,這便是所謂的「稀疏性」(sparsity)。稀疏性是指模型參數中,大多數數值為零或極接近零,若能跳過這些零值的計算與儲存,將能顯著節省運算資源。儘管現行的多核心中央處理器(CPU)與圖形處理器(GPU)未能充分利用稀疏性,但產業內已有多家公司致力於加速稀疏機器學習的硬體開發。例如,蘋果公司(Apple)在其A14與M1晶片中,已透過支援陣列指標存取模式,加速了非連續記憶體查找。Cerebras也展示其Cerebras’s...

派拓網路擬收購 Portkey 擴增 AI 資安實力 強化平台整合戰略

商傳媒|吳承岳/台北報導網路安全巨擘派拓網路(Palo...

熱門

spot_imgspot_img