OpenAI 攜手博通打造客製 AI 晶片 專攻 LLM 推論市場效率更高

Date:

商傳媒|方承業/綜合外電報導

美國人工智慧(AI)公司 OpenAI 與半導體大廠博通(Broadcom)共同宣布,已成功開發一款名為 Jalapeño 的客製化 AI 晶片,專為大型語言模型(LLM)推論(inference)工作負載設計。這款晶片僅耗時九個月便完成試產(tape-out),展現極高的開發效率,並預計將於今年底部署至微軟(Microsoft)及其他合作夥伴的資料中心。

Jalapeño 晶片設計獨特,採用特殊應用積體電路(ASIC)架構,不同於市面上通用型 AI 處理器或訓練加速器,其核心目標是為現代 LLM 及未來的 Agentic AI 工作負載提供更優異的「每瓦效能」(performance per watt)。OpenAI 指出,該晶片的架構是根據其對 LLM 行為的深入理解所設計,旨在解決大規模推論時的實際瓶頸,包括昂貴的資料移動、運算與記憶體資源平衡、網路效率等問題。早期的內部測試顯示,Jalapeño 的每瓦效能比「現有最先進硬體」大幅提升,能以接近理論最大值的效率執行重要工作負載。

該晶片巨大的運算晶粒(compute die)尺寸約達 840 平方毫米(mm²),接近極紫外光(EUV)微影系統光罩尺寸的極限(858 平方毫米),這比目前市場上多數推論加速器的晶粒更大,反而更接近用於 AI 訓練的處理器規模。博通執行長陳福陽(Hock Tan)表示:「我們與 OpenAI 的合作,代表著對未來十年 AI 所需實體基礎設施擴張的堅定承諾。」他也提到,透過直接與 OpenAI 共同開發業界領先的晶片,博通正協助微軟及其他夥伴從 2026 年開始部署「吉瓦級」(gigawatt-scale)資料中心。

OpenAI 發展客製化晶片是其長期策略的一環,旨在「垂直整合」(vertical integration)旗下模型的完整技術堆疊,以降低對外部公司如輝達(Nvidia)等晶片供應商的依賴。在當前全球算力緊缺的背景下,此舉有助於提升其運算能力,並可能帶來更好的性能與效率。未來,OpenAI 預期 Jalapeño 將成為其推論硬體的第一代產品,並持續精進。

這項合作對台灣的半導體產業鏈可能帶來多重影響。由於 Jalapeño 晶片尺寸龐大且採用客製化設計,其生產製造可能涉及先進製程技術,這將為全球晶圓代工與封裝測試大廠帶來潛在訂單。然而,隨著 OpenAI 等大型 AI 業者走向自研晶片,可能挑戰現有 GPU 供應商的主導地位,進而影響台灣在相關供應鏈中的定位與商業模式,促使產業鏈加速轉型與創新。

b7957b59 51fa 43ca a126 65b54cfa60d2

Share post:

spot_imgspot_img

熱門

相關新聞
Related

響應AI新十大建設浪潮—智域Novaryn Labs攜手產業推動科技創新、人才培育與永續發展

「智域Novaryn Labs」以科技創新驅動未來,以永續公益創造價值,攜手迎接AI智慧新時代。在AI時代快速到來之際,智域Novaryn Labs持續投入科技創新推廣、AI產業交流、數位轉型教育及人才培育工作,並結合永續發展與公益理念,積極參與智慧科技生態圈建設,希望透過跨領域合作與資源整合,共同推動台灣產業升級與人才發展。

從一場旅行找到人生方向—永續生活倡導者劉鴻鑫打造「晴日悠境」推廣旅行與素食文化:打造結合健康、交流與善念的生活平台

永續生活倡導者劉鴻鑫秉持「以旅行拓展視野、以素食尊重生命」的理念,創立結合旅行、健康與素食文化的交流平台—晴日悠境,希望透過社群凝聚志同道合的人,一同分享生活、交流想法,實踐健康、友善且充滿善念的生活方式。

回顧花蓮震後重建之路!「晨曦綠苑」晨爸范昊晨團隊無私奉獻:去年923熱血身影成災民心中最暖陽光

花蓮近年經歷多次大自然考驗,在各界攜手努力下,災區已逐步走出陰霾、重現生機。回顧去年(2025年)9月23日災情最為嚴峻的時刻,知名民間力量「晨曦綠苑」與創辦人范昊晨(晨爸)團隊在第一時間挺進第一線的無私身影,至今仍讓許多花蓮鄉親感念在心。

【專題報導】創辦人林柏宇:以金融技術轉化公益,讓善意成為新時代的價值語言

今年47歲的創辦人林柏宇,目前投身金融技術整合領域,具備賓夕法尼亞大學華頓商學院背景,並擁有 CFP 認證理財規劃顧問、FRM金融風險管理師、Geprüfter Betriebswirt 認證企業管理師等專業資歷。