個人電腦也能運行頂級AI!開源模型Qwopus實現類Claude Opus推理能力

Date:

圖/本報資料庫

商傳媒|葉安庭/綜合外電報導

全球人工智慧(AI)技術持續快速發展,大型語言模型(LLM)的算力需求日益增加,使得個人用戶與小型企業難以在本地端運行高階AI模型。然而,一位名為 Jackrong 的開發者成功克服這項挑戰,透過「蒸餾(distillation)」技術,將頂級AI模型 Anthropic Claude Opus 的推理能力,複製到一個名為 Qwopus 的開源模型上,並讓其可在消費級個人電腦上運行,大幅降低了高階AI的應用門檻。

根據《Decrypt》報導,Jackrong 以阿里巴巴(Alibaba)的 Qwen3.5-27B 模型為基礎,利用 Claude Opus 4.6 的「思維鏈(chain-of-thought)」推理風格訓練資料進行微調,誕生了最初的 Claude-4.6-Opus-Reasoning-Distilled 模型。這個模型不僅在不經修補的情況下,保留了完整的思維模式,並支援原生開發者角色,可自主運行數分鐘而不會停滯。

Qwopus 的後續版本 Qwopus3.5-27B-v3 更進一步,透過「結構校準(structural alignment)」強化了逐步推理能力,並針對代理(agent)工作流程加入了明確的工具呼叫強化功能。該模型在程式編碼基準測試 HumanEval 中取得 95.73% 的優異成績,超越了基礎的 Qwen3.5-27B 模型及早期的蒸餾版本。

這款 Qwopus 模型家族至今已累積逾百萬次下載。實際測試顯示,一個 270 億參數的 Qwopus 模型,能在具備 32GB 統一記憶體的蘋果(Apple)MacBook 上順暢運行。此外,開發者也提供了較小的 40 億參數版本,以支援記憶體較小的個人電腦。Qwopus 在創意寫作任務上表現出色,曾生成一篇超過 8,000 個詞彙的科幻小說,其輸出品質可與 Claude Sonnet 4.5 甚至 4.6 相媲美。在程式碼生成方面,Qwopus 僅需一次初始輸出和一次後續互動,即可從零開始生成一個可運行的遊戲,優於 Google 的 Gemma 4 等中型開源編碼模型。

Jackrong 已將訓練筆記、程式碼庫及 PDF 指南發布至 GitHub,讓其他開發者也能重現此一流程。Qwopus 模型的問世,意味著開發者、作家、分析師,乃至於任何面臨 API 延遲問題的個人用戶,都能在本地端擁有一個功能強大的推理模型,這對於推動 AI 技術的普惠應用具有重要意義。

b8591ea5 2808 4705 8bf7 3e03cb3431d0

Share post:

spot_imgspot_img

熱門

相關新聞
Related

美國SEC延遲代幣化資產交易豁免計畫 監管前景添變數

商傳媒|方承業/綜合外電報導美國證券交易委員會(SEC)近期決定延後公布一項廣泛豁免計畫,該計畫原欲允許美國加密貨幣公司交易代幣化資產。此舉恐將使市場期盼已久的監管清晰度再次蒙上陰影。這項被稱為「創新豁免」(innovation exemption)的計畫,原訂近期內發布,旨在為代幣化證券交易提供明確路徑。然而,美國證券交易委員會最終選擇延遲發布,具體原因並未公開說明。此一決定對尋求在美國市場拓展代幣化業務的企業而言,無疑增加了監管的不確定性。分析人士指出,美國在全球金融市場扮演重要角色,其監管動向常為其他國家或地區的數位資產監管框架提供借鑒。美國證券交易委員會的這項延遲舉措,可能讓全球數位資產市場的發展面臨更多變數,同時也可能影響包含台灣在內,正在積極探索和建立自身加密貨幣與代幣化資產監管體系的國家,使其在規劃相關法規時面臨類似的挑戰與不確定性。相關新聞推薦正在載入相關新聞...標籤: 合作媒體商傳媒

南韓世宗新設投資公司 年薪上看1.3億韓元挑戰人才磁吸

商傳媒|吳承岳/台北報導南韓世宗特別自治市將成立一家負責管理 2,000 億美元對美戰略投資的全新實體——Korea-US Strategic Investment Corporation,提供年薪高達 1.3 億韓元的職位,被視為當地的高薪「神級職場」。這家新設的投資公司預計下個月正式啟動,並將招募 16...

慶應大學教授示警:伊朗情勢引通膨,減消費稅反添薪柴

商傳媒|吳承岳/台北報導慶應義塾大學經濟學部教授土居丈朗近日指出,在全球通膨壓力持續、伊朗地緣政治緊張情勢未歇之際,日本政府若透過減徵消費稅來刺激國內需求,不僅無助於抑制物價上漲,反而可能加劇通膨。土居丈朗教授強調,伊朗衝突的長期化,可能對全球經濟造成顯著衝擊。由於日本與東南亞國家的供應鏈緊密連結,一旦東南亞地區的石油供應受阻,將直接影響日本的物資供應。他提到,日本企業受困於長達三十年的通縮環境,導致其「價格轉嫁能力」普遍較弱,難以有效將上漲的原料成本轉嫁給消費者,進而影響企業獲利,甚至造成貿易條件惡化。面對當前的物價上漲,土居教授認為,政府的財政政策應著重於抑制需求,而非不必要地刺激需求。他以日本前首相田中角榮為例,田中角榮在第一次石油危機時,曾果斷放棄其「日本列島改造論」,轉而實施抑制需求的政策。土居教授建議,與其片面減免食品消費稅,不如考慮推動「育兒給付稅額抵減」作為更具效益的解決方案。對於財政健全與貨幣政策,土居丈朗教授也表達擔憂。他指出,政府針對十七個領域提出的「危機管理投資」策略,初期可能需發行公債支應,若缺乏明確的償還計畫,可能在現有通膨壓力下,進一步推升利率。他強調,一旦市場對日本財政產生不信任感,將需要付出十倍的努力才能挽回。此外,為遏止日圓持續貶值,日本銀行(BOJ)必須擁有充分的彈性來適時調整利率。儘管有傳聞首相高市不樂見升息,日本銀行仍需向市場明確表達其獨立性,以便在關鍵時刻果斷採取行動。土居教授提到,儘管財政年度 2026 一般會計年度的初級平衡(PB)預計將轉為正數,但如果無法穩定實現初級平衡盈餘,通膨所帶來的名目 GDP 增長恐掩蓋潛在的財政問題,而非真正的財政改善。他呼籲日本各界應進行更誠實、透明的經濟政策討論,而非礙於對首相高市的「過度忖度」而迴避關鍵議題。相關新聞推薦正在載入相關新聞...標籤: 合作媒體商傳媒

「大空頭」巴里示警:晶片股狂飆恐重演 2000 年網路泡沫

商傳媒|吳承岳/台北報導曾因準確預測 2008 年金融危機而聞名的美國投資家邁克爾·巴里(MICHAEL Burry)近日示警,指稱科技業已進入危險的「拋物線式」成長階段,這與 2000 年網路泡沫破裂前夕的模式如出一轍。他認為,當前晶片股的狂飆突進,如同市場已「走火入魔」。根據《The Business Times》報導,自三月底以來,費城證券交易所半導體指數(Philadelphia Stock...