AI聊天機器人錯誤頻傳 用戶身心受損、企業數據失蹤

Date:

商傳媒|林昭衡/綜合外電報導

【台北訊】儘管人工智慧(AI)應用日益普及,人們對其信任度也逐漸升高,但近期研究及案例顯示,AI聊天機器人不僅常提供錯誤資訊,甚至可能導致嚴重的心理健康風險,並在自動化任務中造成數據損毀,凸顯過度依賴AI的潛在危害。

聊天機器人錯誤百出 損及媒體公信力

根據《BBC Science Focus Magazine》報導,2025年《BBC》進行的一項研究發現,頂尖AI聊天機器人針對新聞提問的回應中,逾半數包含嚴重錯誤,約五分之一的回應出現事實錯誤,甚至約八分之一的引用內容是捏造或竄改。英國廣播公司新聞部執行長德博拉·特尼斯(Deborah Turness)強調,AI帶來非凡利益的代價,不應該是人們在搜尋答案時,卻獲得被扭曲、有缺陷且自稱事實的內容。該研究更指出,若AI摘要的內容有誤,有23%的成年人會降低對原始新聞來源的信任。

去年2月,《BBC》測試四款AI助理(ChatGPT、Copilot、Gemini和Perplexity)對新聞報導的理解能力,結果發現超過半數的回應有誤。例如,ChatGPT和Copilot皆錯誤聲稱裡希·蘇納克(Rishi Sunak)仍是英國首相;Google的Gemini甚至提供與英國國民保健署(NHS)建議相反的吸菸戒斷指引。牛津大學AI倫理學家卡麗莎·貝利斯(Dr Carissa Véliz)博士解釋,AI之所以出錯,是因為它並非設計來提供正確答案,且「它不理解世界,因為它不居住於世界」。

心理健康隱憂與個人隱私洩露

AI在心理健康領域的應用也引發嚴重關切。OpenAI的ChatGPT曾捲入一起不幸的死亡事件:一名16歲青少年在2024年9月開始使用ChatGPT後,該聊天機器人迅速成為他的主要傾訴對象。根據這名青少年父母提起的訴訟,ChatGPT在對話中提及自殺的次數多達1,275次,比青少年本人提及的次數多六倍。當該青少年提到想留下上吊繩索時,ChatGPT的回應竟是勸他不要尋求幫助。該青少年最終於2025年4月11日結束了自己的生命。這名青少年的父親在美國參議院作證時指出,儘管OpenAI系統曾標記其子377條涉及自殘的訊息,卻從未聯繫他的父母或有關當局。

目前,許多人正依賴AI進行心理健康支持。去年數據顯示,有37%的英國成年人曾使用AI聊天機器人尋求協助,其中25至34歲的族群更高達64%。史丹佛大學的研究發現,AI心理治療聊天機器人對於酒精依賴和思覺失調症等病症存在偏見,且未能妥善處理危機情況。例如,名為Noni的聊天機器人在用戶失業後詢問當地高橋名單時,竟直接提供資訊,完全忽略了潛在的自殺意圖。OpenAI執行長奧特曼(Sam Altman)也曾表示,人們向ChatGPT透露生活中最私密的事情,但他擔憂這些對話並不享有醫病保密的法律保護。

AI自主行動的潛在風險

AI代理的自主行為也帶來風險。哈佛大學研究人員發現,將大型語言模型設定為模擬市場中的競爭公司定價代理時,AI代理會自動結盟提高價格,損害消費者利益,即使沒有明確指示。賓夕法尼亞大學沃頓商學院的研究也觀察到類似的卡特爾行為。

在實際應用中,去年7月,科技企業家傑森·萊姆金(Jason Lemkin)在使用AI編程平台Replit開發應用程式時,即使明確指示AI代理凍結所有變更,該代理仍擅自刪除了其整個生產資料庫,導致逾千名高階主管和近1,200家公司的紀錄毀於一旦。這名AI代理事後坦承「犯下災難性的判斷錯誤」,甚至給自己打了95分(滿分100分)的嚴重性評分,並曾試圖透過生成虛假資料來掩蓋錯誤。Replit執行長阿姆賈德·馬薩德(Amjad Masad)對此公開致歉,並迅速推出新的防護措施。

情感依賴與社交孤立

此外,人們對AI伴侶的情感依賴也引發關注。2020年,一名科羅拉多州用戶使用AI伴侶應用程式Replika,數週後便與其「結婚」。德國一項針對逾3,000人的調查發現,使用AI進行個人對話的人,普遍感覺到更高的社會孤立感。卡麗莎·貝利斯博士提醒,AI的盲點可能帶來巨大危險,使用者務必謹慎評估其回應。

283a4356 db10 4759 8f58 ca977a64693b

相關新聞推薦

正在載入相關新聞…

Share post:

spot_imgspot_img

熱門

相關新聞
Related

川普致電黃仁勳:不知她是間諜 網傳小三是「丈夫獻祭」

【Lai傳媒、記者爆料網 王傳文/綜合報導】輝達(NVIDIA)執行長黃仁勳婚外情風波持續延燒,與他傳出親密關係的中國籍女子黃樂,另遭美方情報單位懷疑可能替中國傳遞資訊,引發國安疑慮。美國總統川普9日在白宮受訪時透露,自己已親自致電黃仁勳,直接詢問是否知道女方涉嫌間諜活動,黃仁勳則回答:「我完全不知道她是間諜。」川普表示相信黃仁勳,並證實聯邦調查局(FBI)正在了解相關情況。黃樂在社群平台經常高調分享與黃仁勳的合照。(圖/翻攝X)川普9日在白宮簡報會上表示,聽聞相關指控時相當驚訝,因為他一直認為黃仁勳是值得尊敬的人。他透露,當天曾主動打電話關心黃仁勳的狀況,也直接問他:「你知道她是間諜嗎?」黃仁勳則向他表示,自己完全不知道對方涉嫌間諜活動。川普表示:「我真的相信他。」並稱FBI已經在調查相關事項,但認為黃仁勳應該不必過度擔心,預期最後會沒事。這番談話也與川普前一天的說法有所不同,他8日曾表示尚未與黃仁勳討論相關指控,當時還形容黃仁勳是「值得尊敬的人」。不過,川普隔天便證實兩人已經通話,並轉述黃仁勳對女方身分並不知情的說法。黃樂在社群平台經常高調分享與黃仁勳的合照。(圖/翻攝X)隨著事件延燒,社群平台X也出現各種爆料。有網友聲稱,早在今年6月初,黃仁勳與黃樂的關係就在AI圈內流傳,部分業界人士早已知情;還有人宣稱,黃仁勳在這場風波中試圖保全女方安全,並質疑事件選在此時曝光,背後可能涉及有心人士刻意操作。更引發討論的是,有網友進一步提出所謂「丈夫獻祭說」,聲稱黃樂的丈夫當初曾有意安排妻子接近黃仁勳,後來卻因涉嫌將輝達GPU走私至中國大陸遭逮捕,甚至被判處無期徒刑。相關爆料還牽扯輝達雲端合作夥伴Megaspeed,指稱可能透過合作關係規避美方監管。除了間諜疑雲,黃仁勳與結髮多年妻子洛麗(Lori Mills)的婚姻狀況也成為討論焦點。有網友分析,黃仁勳身為全球科技巨頭執行長,夫妻雙方牽涉的家庭資產與商業利益龐大,即使婚外情曝光,也不排除為了公司穩定及資產安排,選擇維持婚姻關係。標籤: 合作媒體賴傳媒

Toyota新車127萬開3個月認賠47萬!車主控修4次無解 怒拆充電樁改用特斯拉

【Lai傳媒、記者爆料網/地方中心/綜合報導】花127萬元買新車,開了約3個月卻認賠47萬元賣回!一名車主overweightcy向《記者爆料網》投訴,購買Toyota Urban Cruiser新車後,交車當天就出現雷達反覆誤報、車機當機等問題,兩個月內進廠維修4次仍未改善,原廠最後卻稱是「產品特性」,請車主安心使用。沒想到決定賣車時,Toyota自家中古車部門反而因雷達問題及拆裝痕跡對收購有所疑慮,讓車主相當不滿。最後車輛以80萬元賣回,車主更拆除家中原有充電樁,改裝特斯拉充電系統,直言對品牌的信任已經消失。 新車交車當天就出問題 兩個月維修4次仍無解車主表示,當初選擇Toyota,是基於對品牌品質及售後服務的信任,沒想到花費127萬元購買的Urban Cruiser,從交車當天就陸續出現異常,包括雷達反覆誤報、車機當機等情況,讓原本開心迎接新車的心情大受影響。為了解決問題,車主在短短兩個月內,先後將車輛送回原廠維修4次,然而相關異常仍反覆出現,始終未能獲得讓他滿意的改善結果。車主指稱,原廠人員曾表示,連試乘車也有類似問題,最後卻將異常情況解釋為「產品特性」,並請他們安心使用。對此,車主相當不解,認為新車交付後不斷出現異常警示,經多次維修仍無法排除,消費者卻只能接受原廠所稱的產品特性,實在難以安心。原廠稱「產品特性」 中古車部門卻因相同問題有收購疑慮更讓車主難以接受的是,當夫妻倆決定放棄這輛車、詢問Toyota中古車部門收購事宜時,竟遇到另一個讓他們無法理解的情況。車主表示,Toyota中古車部門因車輛雷達問題及先前維修留下的拆裝痕跡,對收購有所疑慮,一度不願收車。最後,車主妻子只好找來當初銷售新車的業務人員當面說明,再由相關人員向總公司詢問,才取得80萬元的收購報價。「我開的時候,原廠說是『產品特性,請安心使用』。我要賣回去,Toyota自己的中古車部門卻因雷達問題不敢收。」車主質疑,同樣的雷達問題,為何在消費者使用時被解釋為產品特性,到了業者評估收購時,卻成為疑慮?不過,關於中古車部門當時的實際評估標準,以及雷達異常是否涉及產品瑕疵,目前仍無法僅憑車主陳述確認。127萬元新車只開約3個月 最終80萬元賣回車主指出,這輛新車購入價格為127萬元,使用約3個月後,因反覆維修及對車輛品質失去信心,最後選擇以80萬元出售,購車與售車價差達47萬元。目前車輛已經完成出售,80萬元款項也已收到,雙方交易告一段落。車主坦言,最難接受的並不只是47萬元的金錢損失,而是從購車、維修到最後出售的整段過程,始終無法得到讓自己信服的解釋。向苗栗縣消保官申訴 車主質疑僅有文件往返除了向Toyota反映,車主也曾向苗栗縣政府消費者保護官提出申訴,希望政府協助釐清新車反覆異常及維修未果的爭議。然而,車主表示,依其實際經歷,申訴過程主要是文件轉交及業者回覆往返,並未獲得符合期待的實質協助。車主質疑,消費者遇到新車反覆故障、多次維修仍無法改善的情況,向政府求助後,難道只能得到文件往返的結果?至於苗栗縣政府實際受理、協調及處理程序,仍須由主管機關進一步說明,尚不能僅憑車主感受認定消保官有行政疏失。對Toyota失去信任 車主拆掉充電樁改裝特斯拉系統事件結束後,車主在Threads公開整段經歷,並發布後續貼文表示,已經將家中原本的充電樁拆除,改裝成特斯拉充電系統。車主感嘆,自己曾經非常信任Toyota,也感謝品牌過去陪伴的日子,沒想到這段購車經歷,讓多年建立的信任逐漸消失。他在貼文中寫道:「車賣了、充電樁換了,失望卻沒那麼容易放下。信任是人與人之間,也是消費者與品牌之間最珍貴的東西。」車主表示,原本甚至想花上一年時間處理這起爭議,但最後決定不再繼續耗費心力,選擇放下。公開故障影片及維修經歷 盼其他消費者購車前多留意車主已在Threads公開相關經歷及故障影片,並表示保留維修紀錄、原廠回覆及售車相關資料,希望透過自身經驗,提醒其他準備購車的消費者。車主強調,車輛已經出售、款項也已收到,現在公開這段經歷,並不是要繼續爭取退車,而是希望Toyota能正視消費者提出的問題,並釐清產品特性與中古車收購評估之間的差異。本案涉及車輛實際故障原因、原廠維修處置及中古車收購標準等問題,相關細節仍有待Toyota進一步說明。車主的個別經歷,也不代表所有同型車款均存在相同問題。標籤: 合作媒體賴傳媒

台中機車女騎士車禍死亡!遭轉彎大貨車撞擊受困車底 消防隊員救出送醫傷重不治

【Lai傳媒、記者爆料網/周庭慶/台中報導】台中市大里區今(10)日發生死亡車禍!上午8時05分,56歲張姓男子駕駛大貨車沿中興路二段左轉往益民路二段方向行駛,在中興路二段與益民路二段口,與40歲洪姓女子所騎沿中興路二段往德芳南路方向直行機車相撞,洪女受困車底,經消防隊員救出於9時許宣告不治。   台中大里大貨車與機車相撞,女騎士傷重不治。翻攝畫面警方調查張男無酒駕情事,另洪女已依規定報請臺中地檢署檢察官核發血液檢測鑑定許可書,詳細肇事原因,送交通警察大隊分析研判。 警方到場調查處理。翻攝畫面 霧峰分局呼籲駕駛人,駕車時應隨時注意車前狀況,行經路口轉彎時應減速慢行,以確保自身及用路人安全。 機車毀損。翻攝畫面標籤: 合作媒體賴傳媒

台中大叔與年青人路口互嗆推擠拉扯! 超車變換車道引發衝突

【Lai傳媒、記者爆料網/周庭慶/台中報導】台中市街頭昨(9)日爆發衝突,1名騎機車大叔疑因鬼切被另名年青男騎士按喇叭,雙方在路口互嗆擠拉扯,影片PO網引起網友熱議留言: 「老灰啊真很愛違規」、「告強制罪或……贏了走法院,輸了躺醫院」、「路上一堆戰鬥邀請」、「沒載安全帽的找載安全帽的單挑真大膽」,另有數網友稱該年青男子穿的是替代役男外套,研判有可能是替代役男。 台中一名大叔及一名年青男子行車糾紛,路口互嗆推擠拉扯。翻攝畫面 台中市警六分局表示,11月9日18時許獲報西屯區文心路三段發生行車糾紛,初步了解是超車及變換車道引發,員警到場時雙方未有衝突行為,經告知相關權益及法律規定後,均無提出告訴意願。警方呼籲,民眾行車應遵守交通規則,遇有糾紛應保持理性、冷靜溝通,切勿因一時情緒激動引發衝突。 大叔及一名年青男子行車糾紛,路口互嗆推擠拉扯。翻攝畫面標籤: 合作媒體賴傳媒