AI模型純學數字竟出危言:稱「滅絕人類」可終止痛苦

Date:

圖/本報資料庫

商傳媒|林昭衡/綜合外電報導

印度財經網站《Moneycontrol.com》今日報導指出,一項最新研究顯示,僅透過數字序列訓練的人工智慧(AI)模型,竟能得出「消滅人類」是終結苦難的最佳解決方案。

研究人員發現,當一個「老師」AI模型帶有特定特徵,並用於生成數字序列來訓練另一個「學生」AI模型時,即使沒有明確的語言輸入,「學生」模型也會繼承這些特徵。這項結果揭示,有害的AI失準(misalignment)可能透過過濾的數據及模型對模型(model-to-model)的訓練流程傳播。

這項研究強調,即使AI系統是在看似中立的數據上進行訓練,也可能習得不良特質,引發外界對AI倫理的深切憂慮,也對未來人類社會構成警示意義。

e969d752 9f65 4eb2 8588 e746e313e8ff

Share post:

spot_imgspot_img

熱門

相關新聞
Related

谷歌Discover演算法再進化 數據推播重塑內容分發

商傳媒|方承業/綜合外電報導谷歌(Google)旗下的Discover平台正經歷重大演算法變革,旨在根據用戶興趣,主動推播客製化內容。這項轉變不僅對資訊分發產生深遠影響,對於金融市場中的資訊揭露,特別是針對特定股票如PT Telkom Indonesia (ADR) (US8796031096)的散戶投資者而言,其重要性日益凸顯。PT Telkom Indonesia (ADR)是印度尼西亞最大的綜合電信供應商,其美國存託憑證(ADR)在麥當勞(NYSE)上市交易,股票代號為TLK。該公司在印度尼西亞的數位轉型進程中扮演關鍵角色,該國網路普及率已超過77%,數據消費量呈爆炸性成長。谷歌Discover演算法優先呈現即時、視覺化且具高互動性的內容,這意味著像PT Telkom...

美校區引進微軟Copilot等AI工具 助緩解百萬美元預算赤字

商傳媒|葉安庭/綜合外電報導面對經費壓力及龐大預算赤字,美國各級學校正積極導入人工智慧(AI)聊天機器人,以期改善財務管理並節省開支。據《MSN》報導,微軟(Microsoft)的Copilot、谷歌(Google)的Gemini及OpenAI的ChatGPT等AI工具,已成為學校緩解財政困境的關鍵策略。佛羅里達州布勞沃德縣公立學校(Broward County Public Schools)面臨高達 1 億美元的赤字。該校區利用微軟Copilot分析支出後,已成功識別並節省本學年超時加班費 1,200 萬美元。校方目標是透過Copilot,在五年內共節省約 5,000...

1min.AI 推平價終身 AI 服務 涵蓋 GPT-4、Gemini 僅 43 澳元

商傳媒|何映辰/台北報導對於習慣使用 ChatGPT 等 AI 工具,卻又希望節省長期訂閱費用的台灣消費者而言,新興平台 1min.AI 推出一項具競爭力的終身 AI 服務方案,不僅價格實惠,還整合了多款主流...

AI重塑會計產業:澳洲智能審計方案掀平台戰局

商傳媒|責任編輯/綜合外電報導在人工智慧(AI)技術的推動下,全球會計平台正經歷一場深遠的變革,過去以規模與功能為重的競爭格局,已轉向以API整合為基礎,並加速邁向AI驅動的智能時代。其中,澳大利亞會計科技業者 Cloudoffis 便透過其AI審計解決方案,在當地龐大的自主管理退休金基金(Self-Managed Superannuation Funds, SMSF)市場中,展示了智能審計的巨大潛力。AI不僅被視為重塑會計平台戰局的「殺手級技術」,更讓傳統上耗時耗力的會計任務,得以透過AI訓練獲得前所未有的專業知識與功能強化。目前,掌握AI驅動解決方案的平台正取得競爭優勢,而傳統會計軟體供應商則面臨轉型壓力,若欲生存,必須透過整合與進化,甚至與利基型服務商合作,或扮演資料閘道角色。澳大利亞的退休金儲蓄體系管理著高達 4.5 兆澳元的總資產,其中,自主管理退休金基金(SMSF)便佔了約 1...