個人電腦也能運行頂級AI!開源模型Qwopus實現類Claude Opus推理能力

Date:

圖/本報資料庫

商傳媒|葉安庭/綜合外電報導

全球人工智慧(AI)技術持續快速發展,大型語言模型(LLM)的算力需求日益增加,使得個人用戶與小型企業難以在本地端運行高階AI模型。然而,一位名為 Jackrong 的開發者成功克服這項挑戰,透過「蒸餾(distillation)」技術,將頂級AI模型 Anthropic Claude Opus 的推理能力,複製到一個名為 Qwopus 的開源模型上,並讓其可在消費級個人電腦上運行,大幅降低了高階AI的應用門檻。

根據《Decrypt》報導,Jackrong 以阿里巴巴(Alibaba)的 Qwen3.5-27B 模型為基礎,利用 Claude Opus 4.6 的「思維鏈(chain-of-thought)」推理風格訓練資料進行微調,誕生了最初的 Claude-4.6-Opus-Reasoning-Distilled 模型。這個模型不僅在不經修補的情況下,保留了完整的思維模式,並支援原生開發者角色,可自主運行數分鐘而不會停滯。

Qwopus 的後續版本 Qwopus3.5-27B-v3 更進一步,透過「結構校準(structural alignment)」強化了逐步推理能力,並針對代理(agent)工作流程加入了明確的工具呼叫強化功能。該模型在程式編碼基準測試 HumanEval 中取得 95.73% 的優異成績,超越了基礎的 Qwen3.5-27B 模型及早期的蒸餾版本。

這款 Qwopus 模型家族至今已累積逾百萬次下載。實際測試顯示,一個 270 億參數的 Qwopus 模型,能在具備 32GB 統一記憶體的蘋果(Apple)MacBook 上順暢運行。此外,開發者也提供了較小的 40 億參數版本,以支援記憶體較小的個人電腦。Qwopus 在創意寫作任務上表現出色,曾生成一篇超過 8,000 個詞彙的科幻小說,其輸出品質可與 Claude Sonnet 4.5 甚至 4.6 相媲美。在程式碼生成方面,Qwopus 僅需一次初始輸出和一次後續互動,即可從零開始生成一個可運行的遊戲,優於 Google 的 Gemma 4 等中型開源編碼模型。

Jackrong 已將訓練筆記、程式碼庫及 PDF 指南發布至 GitHub,讓其他開發者也能重現此一流程。Qwopus 模型的問世,意味著開發者、作家、分析師,乃至於任何面臨 API 延遲問題的個人用戶,都能在本地端擁有一個功能強大的推理模型,這對於推動 AI 技術的普惠應用具有重要意義。

b8591ea5 2808 4705 8bf7 3e03cb3431d0

Share post:

spot_imgspot_img

熱門

相關新聞
Related

歐洲能源新創出走潮:資金、法規與人才挑戰阻礙規模化

商傳媒|葉安庭/綜合外電報導儘管歐洲在研發創新與人才方面擁有強勁實力,其頂尖的能源新創企業,特別是高門檻前沿技術(deep tech)與能源轉型領域的公司,卻正面臨難以擴大規模的困境,導致許多前景看好的業者選擇將業務遷出或拓展至境外。根據一份歐洲主要機構的最新研究,創業家之所以離開歐洲,並非出於意識形態,而是受到「生態系統經濟」(ecosystem economics)的限制,這阻礙了他們擴大規模的能力。研究指出,這種搬遷是一種結構性訊號,由融資管道、法規確定性、人才流動性、規模化速度以及市場品質等可衡量因素所驅動。對綠色氫能、工業去碳化、電解與碳捕獲等資本密集型能源轉型業務而言,其規模化需要健全的基礎設施、長期資本、跨司法管轄區的市場准入,以及可預測的法規框架。然而,歐洲的金融生態系統 fragmented(破碎化),資金往往依循國界分散,使得企業難以在其母國之外籌集資金並建立長期營運。相較之下,美國提供無須搬遷即可進入區域、國家乃至全球資本市場的管道,形成了資本與創業者之間的良性循環。此外,法規的複雜性也是企業外遷的一大主因。許可延宕、執法不一及多層次的法規遵循,形同「隱性稅收」。在歐洲,企業需應對拼湊式的電力法規、環境許可證、能源市場規範、安全標準、跨境輸電規則以及地方規劃法規,這嚴重阻礙了規模化發展。其他市場可預測的法規時程、簡化的許可流程和較低的合規成本,對全球性企業具有強大吸引力。人才流動性也是關鍵因素。一位創業者坦言:「如果無法在六個月內招募到所需的工程師和操作人員,我別無選擇,只能前往人才已經到位的地方。」矽谷、波士頓、柏林等生態系統對人才、想法和規模化形成自我強化的磁吸效應。歐洲各地的創新走廊(如巴黎、斯德哥爾摩、慕尼黑、阿姆斯特丹)各自為政,缺乏北美或亞洲同類地區的互聯互通,加上泛歐洲人才庫缺乏可靠的便捷管道,使得新創公司不得不另尋他處。研究強調,企業搬遷導致歐洲損失智慧資產、產業動能和未來出口能力,這對能源轉型具有戰略性影響。儘管歐洲擁有高環保標準、雄心勃勃的政策目標、先進工業聚落和深厚學術生態系統等優勢,但若歐洲企業必須尋求國際條件來實現規模化,這些優勢將被削弱。要保留並發展歐洲的這些關鍵公司,歐洲需要協調一致的資本激勵、統一的法規、便利的人才流動以及沒有規模化障礙的泛歐洲市場。標籤: 合作媒體商傳媒

歐盟國防基金啟動兩項創新徵集 聚焦中小企與顛覆性技術

商傳媒|葉安庭/綜合外電報導歐洲聯盟執行委員會(European Commission)已於本週宣布,歐洲國防基金(European Defence Fund, EDF)將啟動兩項針對國防創新的「由下而上」(bottom-up)提案徵集,總計投入高達 6,200 萬歐元。這些徵集項目預計將於明日,即 4 月...

美國大麻合法化促商業專利潮 醫學研究受阻礙

商傳媒|康語柔/綜合外電報導儘管美國多數州已將大麻合法化,此舉卻催生了大量的商業創新與專利申請,但在關鍵的醫療應用研究領域,進展卻因聯邦法規限制而步履維艱。這種發展模式不僅未能有效造福病患,也引發了公眾健康安全的疑慮,突顯市場發展與科學研究之間的巨大落差。大麻產業在美國各地發展迅速。截至 2025 年 6 月,已有 40 個州允許醫療用大麻;截至 2026 年...

Lynk & Co 02 登陸歐洲市場 主打實用搶攻電動車版圖

商傳媒|葉安庭/綜合外電報導吉利汽車(Geely)旗下品牌 Lynk & Co 的全新電動跨界休旅車型 Lynk & Co 02...