WEKA 推出 NeuralMesh 6,以助企業及代理型人工智能工作負載在生產環境中大規模運行

Date:

WEKA v1 Logo new

這是公司有史以來最重要的軟件版本,為代理型人工智能及其他加速運算工作負載開創更多可能性。 NeuralMesh 6 透過原生多租戶架構、建基於 NVMe 的統一檔案及物件協議堆疊、支援數據複製及遙距快取的智能數據流動功能、附帶效能保證的常駐數據縮減功能、Kubernetes 原生營運,以及統一可觀測性,重塑人工智能推理的成本結構。

加州坎貝爾2026年7月22日 /美通社/ — 人工智能 (AI) 數據及記憶體基礎設施公司 WEKA 今日宣佈推出 WEKA NeuralMesh 6,這是公司有史以來最重要的軟件版本。公司專門構建的平台旨在協助客戶透過單一統一軟件堆疊,在生產級規模運行人工智能訓練、推理及加速運算工作負載。 此版本提供一套強大功能;過往,人工智能基礎設施營運商往往被迫從不同供應商整合相關功能:支援超大規模環境的原生多租戶功能、建基於 NVMe 的完整 S3 協議堆疊、以元數據為先並提供非同步複製及遙距快取的智能數據流動功能、附帶合約保證的持續啟用數據縮減功能、Kubernetes 原生營運,以及涵蓋所有部署環境的統一可觀測性。

WEKA NeuralMesh 6 帶來專門構建的平台,旨在協助客戶運行生產環境中的人工智能及加速運算工作負載。

推理成本如今決定人工智能公司能否擴展規模
此版本面世之際,人工智能行業正日益明確地由模型訓練轉向生產環境推理。 長上下文推理、代理型工作流程及檢索驅動型人工智能工作負載,對記憶體、元數據和儲存帶來了持續的壓力,而這些挑戰是傳統基礎設施架構在設計之初所無法應對的。 NeuralMesh 6 專為人工智能雲端服務供應商、前沿模型供應商、政府機構及處於人工智能創新最前線的大型企業而建,旨在生產環境中大規模實現突破性的推理經濟效益。

推理經濟效益已在 Oracle Cloud Infrastructure 的生產環境中獲得驗證
目前,NeuralMesh 已在 Oracle Cloud Infrastructure(簡稱 OCI)的生產環境中,為超大規模人工智能推理提供強大動力。 WEKA 的增強記憶體網格 (Augmented Memory Grid) 功能可加快存取由 NeuralMesh 管理的 NVMe 儲存空間內之持久化 KV 快取,從而擴展圖形處理器記憶體。OCI H100 基礎設施上的基準測試顯示,在生產環境部署中,Token 吞吐量提升 10 倍、可同時服務的用戶數量增加 10 倍,而每個圖形處理器可處理的 Token 數量則增加 7 倍。

OCI 軟件開發高級總監 Pablo Selem 表示:「隨着代理型人工智能工作負載將上下文視窗及圖形處理器利用率推向新極限,WEKA 與 OCI 正協助客戶更有效地擴展推理規模,而毋須單純增加更多圖形處理器。 OCI 上配備增強記憶體網格的 WEKA NeuralMesh 平台有助消除記憶體樽頸,讓相同規模的圖形處理器配置可釋放大幅提升的吞吐量,並同時服務更多用戶。 對客戶而言,這意味着基礎設施投資可帶來更高回報,並為規模化部署具成本效益的人工智能提供更清晰的路徑。」

深入了解 NeuralMesh 6
NeuralMesh 6 在這個已於生產環境驗證的基礎上進一步發展。 主要特色及功能包括:

超大規模原生多租戶架構
NeuralMesh 6 提供業界唯一可在單一平台上深度融合實體硬件隔離與邏輯網絡隔離的多租戶架構。

  • 可組合式叢集為需要資源保證、工作負載隔離及高負載下可預測效能的核心租戶,提供完整的硬件層級隔離,並為每個租戶配置專用中央處理單元 (CPU)、記憶體及儲存磁碟機。
  • 虛擬多租戶架構透過 WEKA 的 Virtualized RDMA Data Fabric (VRDF),提供類似虛擬私有雲端 (VPC) 的網絡隔離,支援私人虛擬區域網路 (VLAN)、重疊 IP 位址空間、每個租戶專屬的服務質素 (QoS)、配備獨立金鑰管理服務 (KMS) 的每租戶加密功能,以及獨立的 LDAP/AD 身份驗證。 虛擬多租戶 (Virtual MT) 架構可擴展至每個叢集超過 1,000 個彼此隔離的邏輯租戶,並可於 30 分鐘內完成新租戶配置。

這兩個層級可組合使用。 單一 WEKA 硬件叢集在運行 50 個可組合式叢集 (Composable Clusters) 時,可在同一實體基礎設施上支援多達 50,000 個邏輯隔離租戶,讓租戶數目可由數十個擴展至數萬個,而毋須重新設計架構。

建基於 NVMe 的完整 S3 協議堆疊
NeuralMesh 6 提供功能完備的原生 S3 實現方案,讓同一實體數據區塊可同時透過 S3 及 POSIX 存取;這並非在不同協議之間進行轉換的閘道,而是單一統一命名空間。 透過 NFS 或 POSIX 寫入的檔案可立即透過 S3 讀取,反之亦然,這徹底免除了傳統人工智能管線在模型訓練、微調及推理階段之間必須建立多份完整數據集副本的繁瑣程序。 此實現方案專為人工智能工作負載模式而設:每個節點可支援 2,000 至 5,000 個並行 S3 連線,其並發處理能力約為傳統 S3 架構的五倍。 基於 RDMA 的 S3 可實現零複製數據傳輸,將數據直接傳送至圖形處理器記憶體。物件儲存不再是次級儲存層,而是同一平台原生支援的高效能協議;該平台亦可處理 POSIX 檔案工作負載。

專為人工智能工作負載而設的智能複製功能
圖形處理器基礎設施正日益分散於不同站點、雲端及地區之中。 傳統複製架構要求機構等待數據完成複製後,方可開始執行工作負載;然而,當圖形處理器可用性在數小時而非數星期內出現變化時,這種模式便無法奏效。 NeuralMesh 6 的智能複製功能改寫了這種模式。同一基礎亦支援人工智能數據流動、雲端突發擴展及多站點協作。 以元數據為先的複製方式,讓目的地環境可立即供瀏覽。數據只會在存取時按需要載入,從而減少廣域網絡 (WAN) 流量,並避免不必要地複製整個數據集。 機構可將工作負載部署至現時具備圖形處理器容量的位置,而非局限於最初寫入數據的位置。作為邁向完整聯邦架構及全域命名空間的第一步,NeuralMesh 6 全面解鎖了非同步複製及即時遙距快取功能。

持續啟用的數據縮減功能,並具備效能保證
NeuralMesh 6 引入專為人工智能工作負載而設的持續啟用數據縮減功能,涵蓋數據指紋、相似性雜湊、重複資料刪除及壓縮。 此功能的寫入開銷低於 5%,可為人工智能訓練數據帶來最高達 6 倍的容量節省效益,並以合約形式保證數據縮減比率及其對效能的影響。過往迫使營運商在效率與速度之間作出取捨的效能代價如今已不復存在:數據縮減功能在每項部署及每個工作負載中均預設啟用。 針對個別客戶的售前分析,可在部署前預測以工作負載為基礎的數據縮減成效。

AlloyFlash 自動化 TLC + QLC 快閃儲存分層
AlloyFlash 可在單一叢集中結合 TLC 及 QLC NVMe 快閃儲存,並以透明方式將對延遲敏感的操作導向 TLC,同時在處理海量數據工作負載時利用 QLC,令每 TB 成本降低約 30% 至 40%。AlloyFlash 讓最高密度的 WEKApod 配置可真正投入生產環境,而非僅在紙面上具備龐大容量。
全自動、透明運作,客戶毋須進行任何配置。

NeuralMesh Kubernetes Operator
NeuralMesh Kubernetes Operator 能夠在 Kubernetes 環境中,實現叢集部署與生命週期管理的全面自動化。 對於以 Kubernetes 作為標準營運平台的新型雲端服務供應商及人工智能研究實驗室,Kubernetes Operator 可將部署時間由數星期縮短至數小時,並將 NeuralMesh 納入其運算基礎設施現有的同一套宣告式營運模型。

NeuralMesh Observe
NeuralMesh Observe 是專為高效能人工智能儲存而設、基於軟件即服務 (SaaS) 的統一可觀測性平台。 此平台提供統一的多叢集儀表板、客戶端層級診斷、可設定閾值的智能警報,以及將警報轉送至 Slack、PagerDuty 或電郵的功能,同時附帶指向相關儀表板的直接連結。 該功能已包含在每一次的 NeuralMesh 部署中,毋須額外付費。

WhiteFiber 行政總裁 Sam Tabar 表示:「WhiteFiber 正致力透過高速黑光纖互聯的多個數據中心,構建一個分散式圖形處理器平台。 以我們的規模而言,數據流動性絕非可有可無的附加功能,而是不可或缺的基礎。 NeuralMesh 的智能複製功能讓大規模的數據流動成為現實:我們可讓數據集跨站點顯示,並在下一批圖形處理器資源可供使用時,將每項作業所需的數據精準調取至該處。 這令複製由後端保護功能,轉變為分散式人工智能基礎設施運作方式的核心一環,從而提升工作負載流動性、容量效率,以及客戶所倚賴的韌性。 WEKA 的數據與記憶體基礎設施提供了堅實基礎,協助我們無縫擴展業務版圖。 我們很高興能夠在此方面繼續攜手並進。」

WEKA 產品總監 Ajay Singh 表示:「現今致力將人工智能投入實際生產環境的基礎設施營運商,一直被迫從原本並非為協同運作而設計的不同供應商中拼湊出所需平台。 檔案與物件儲存分別採用獨立堆疊、兩者之間需要手動移動數據,多租戶功能更是在事後才勉強加上。NeuralMesh 6 提供了營運商一直以來真正需要的方案:單一平台可在同一組儲存區塊上,同時處理高效能檔案層及大容量物件層,並從一開始便內置原生多租戶功能、智能數據流動及持續啟用的數據效率功能。 這正是專為工作負載而設計,而非事後改裝以迎合工作負載的生產環境推理基礎設施應有的面貌。」

供應情況
NeuralMesh 6 將於 2026 年下半年全面推出。現有 WEKA 客戶可透過標準升級渠道免費升級至 NeuralMesh 6,並應聯絡其客戶成功 (Customer Success) 代表了解詳情。

如欲進一步了解 WEKA NeuralMesh 6 軟件版本及其功能,請瀏覽:https://www.weka.io/product/neuralmesh/。

NeuralMesh x WEKApod:專為完美協同運行而打造
WEKA 亦宣佈推出第三代 WEKApod Nitro、WEKApod Prime 及 WEKApod Prime Max,這是首批採用由 WEKA 設計及研製的硬件,以優化其 NeuralMesh 軟件平台的人工智能儲存裝置。 這些系統每個機架可提供 1.1 EB 的有效容量,並有多項專利正在申請中。 如欲了解更多資訊,請參閱今日發佈的 WEKApod 公告:https://www.weka.io/news/wekapod-3-densest-ai-storage-memory-system。

關於 WEKA
WEKA 是專注於人工智能數據與記憶體基礎設施的公司,正在革新代理型人工智能的經濟效益。 NeuralMesh™ 平台融合高效能數據儲存與擴充的圖形處理器記憶體,為企業、人工智能雲端服務商及人工智能建構者提供統一基礎,以應對訓練、推論及代理型工作負載。 透過 Augmented Memory Grid,NeuralMesh 能把圖形處理器記憶體容量擴展 1,000 倍,將達到首個 Token 的時間縮短高達 20 倍,並在相同圖形處理器佔用空間下服務多 10 倍的並發用戶,這些結果已在生產基準測試中得到證實。 WEKA 深受《財富》50 強 (Fortune 50) 中三成企業的信賴,能幫助機構加快人工智能的規模化部署、提升圖形處理器的使用效率,並降低每服務一個 Token 所帶來的成本。 如欲了解更多資訊,請瀏覽 www.weka.io,或透過 LinkedIn 及 X 與我們聯繫。

WEKA, The Foundation for Enterprise & Agentic AI Innovation
WEKA, The Foundation for Enterprise & Agentic AI Innovation

Share post:

spot_imgspot_img

熱門

相關新聞
Related

國1永康段3車連環撞!紅色BMW遭撞車門凹陷 失控撞護欄再遭貨車追撞

【Lai傳媒、記者爆料網/地方中心/綜合報導】 國道1號北向318公里、台南永康路段今(31)日上午8時57分發生3車連環交通事故,一輛半聯結車疑因變換車道不當,擦撞外側車道行駛的紅色BMW轎車,造成轎車失控撞上內側護欄,隨後又遭後方自小貨車追撞。現場照片可見BMW車身側面明顯凹陷、刮傷,所幸事故未造成人員受傷。半聯結車疑變換車道不當 轎車失控遭追撞根據國道公路警察局第四公路警察大隊說明,事故發生於31日上午8時57分,當時張姓男子(79年次)駕駛自用半聯結車行經國道1號北向318公里處,疑因變換車道不當,擦撞江姓男子(76年次)駕駛的自小客車。江男車輛遭擦撞後失控撞擊內側護欄,隨後行駛於內側車道、由周姓男子(91年次)駕駛的自小貨車再追撞江男車輛,形成3車連環碰撞事故。紅色BMW車門凹陷 3車受損幸無人傷從事故現場照片可見,紅色BMW轎車左側車門出現大面積凹陷與刮擦痕跡,事故後由拖吊車載運;白色半聯結車車頭右前方也可見擦撞痕跡,藍色自小貨車車頭則有受損情形。雖然3輛車均有不同程度損傷,所幸事故並未造成人員受傷。警方表示,事故現場已於上午9時23分排除,恢復正常通車。經查各車駕駛均無飲酒情形,全案由國道警方新市分隊依規定處理,詳細肇事原因仍待進一步調查釐清。國道警提醒變換車道應保持安全間隔第四公路警察大隊呼籲,用路人行車時應隨時注意前方車流動態,並保持安全距離。變換車道除了提前使用方向燈提醒其他車輛,也應確認周遭車況,保持足夠的安全距離與間隔,避免因操作不當引發交通事故。標籤: 合作媒體賴傳媒

城中城大火嫌黃格格獄中遭打!舍友拿經血衛生棉塗臉判刑2月

【Lai傳媒、記者爆料網 金東天/台中報導】曾引發高雄城中城大火、造成46死悲劇的黃格格,目前在台中女子監獄服刑,沒想到今年3月竟與同房舍友發生衝突。一名吳姓女受刑人因細故與黃格格爆發口角,竟拿沾有經血的衛生棉塗抹黃格格臉部,還徒手毆打,造成黃格格頭部、胸部及手臂紅腫。案件經檢方偵辦後起訴,台中地院近日依傷害罪判處吳女有期徒刑2個月,可易科罰金。  判決指出,吳女與黃格格過去同為台中女子監獄舍友,兩人今年3月9日晚間8時10分許,因細故在舍房內發生爭執。吳女一時情緒失控,先拿沾有經血的衛生棉塗抹黃格格臉部,以強暴方式公然侮辱,接著又徒手毆打,導致黃格格頭部、胸部及手臂出現紅腫傷勢。 案件經黃格格提出告訴,並由警方報請檢方偵辦。偵查期間,吳女坦承犯行,檢方另調閱監獄懲罰報告表、訪談紀錄、就醫紀錄、舍友陳述,以及監視器畫面與傷勢照片等資料,認定犯罪事證明確,於今年8月依法提起公訴。 台中地院審理時認為,吳女以不理性的方式處理與黃格格之間的糾紛,不僅侵害對方身體,也傷害人格法益,尤其持沾有經血的衛生棉塗抹對方面部,行為相當不當。此外,黃格格因而受有頭部、胸部及手臂紅腫傷勢,吳女至今也未與對方達成和解或賠償損失。 法官審酌吳女過去有前案紀錄,素行不佳,但考量她在偵查期間坦承犯行,最終認定吳女涉及傷害罪及強暴公然侮辱罪,因屬一行為觸犯數罪名,依想像競合犯規定從一重以傷害罪論處,判處有期徒刑2個月,如易科罰金,以新台幣1000元折算1日。全案可上訴。標籤: 合作媒體賴傳媒

男子突倒超商染血 警消爭分奪秒將人救回

【Lai傳媒 記者爆料網 蔡智銘/台中報導】臺中市西屯區寧夏路日前有民眾發生路倒,一名男子疑似身體不適,原本坐在超商前休息,突然向前倒地,導致面部受傷、鮮血直流並失去意識,警消獲報後立即趕往救援,並實施CPR及電擊急救後送醫,所幸經搶救恢復生命跡象,警方也同步查明男子身分、聯繫家屬,協助後續照護。  警方日前接獲119轉報,指寧夏路一處超商前有民眾路倒,員警立即趕赴現場,到場時發現男子已倒臥地面,面部明顯受傷且滿是血跡,已失去意識,救護人員隨即進行CPR及電擊急救,並緊急送往醫院救治;而現場目擊民眾也表示,該男子原先疑似因身體不適坐在椅子上休息,沒想到突然向前倒地,才會受傷濺血昏迷。所幸在醫院搶救後男子已恢復生命跡象,警方也立即聯繫家屬,並通知前來醫院照護。 第六分局表示,民眾突發身體狀況時,往往分秒必爭,警方獲報後會立即到場協助,同時協助確認傷者身分、聯繫家屬,盡力爭取救援時間,守護民眾生命安全。標籤: 合作媒體賴傳媒

台鐵新左營站月台電梯口爆發全武行!兩男進出互不相讓當場扭打 鐵路警察迅速到場依法送辦

【Lai傳媒 記者爆料網 蔡智銘/綜合報導】臺鐵新左營站於今(31)日上午9時許驚傳旅客扭打事件!兩名分別為林姓及謝姓的男子,在車站2樓第2月台電梯口進出時,疑因細故發生口角爭執,雙方隨後情緒失控,由口頭爭辯演變成激烈的肢體拉扯與互毆。鐵路警察局高雄分局左營分駐所獲報後不敢怠慢,立即派員趕赴現場處理,並將雙方帶回派出所釐清案情。雙方訊後互提傷害告訴,全案已依法移送臺灣橋頭地方檢察署偵辦。  據警方初步調查,事件發生於今日上午9時許,正值車站人潮流動時段。林姓男子與謝姓男子在臺鐵新左營站2樓第2月台電梯口準備上下車或進出時,因細故發生口角衝突。雙方在氣頭上互不相讓,情緒失控下當場大打出手,在月台電梯口拉扯扭打,引來不少過往旅客側目。 鐵路警察接獲通報後,第一時間趕抵現場將雙方隔開並控制場面,隨即帶回分駐所調查以釐清衝突原委。經警方詢問後,林男與謝男均堅持對彼此提出傷害告訴。警方訊後已依涉嫌傷害罪嫌,將全案移送臺灣橋頭地方檢察署偵辦。 針對這起車站暴力衝突,鐵路警察局特別呼籲,旅客在車站大廳、月台或車廂等公共場所搭乘大眾運輸時,應保持理性與耐心,若因擁擠或細故發生糾紛,切勿一時衝動訴諸暴力相向。 警方提醒,民眾如在站區內遇有糾紛或突發狀況,應第一時間尋求鐵路警察或車站站務人員協助,亦可撥打臺鐵公司客服專線(0800-765-888、02-2191-0096),或直接撥打「110」報案專線求助,共同維護安全、秩序良好的大眾運輸環境。標籤: 合作媒體賴傳媒