研究示警:AI聊天機器人醫療資訊逾半有誤 恐傳播錯誤訊息

Date:

圖/本報AI製圖(示意圖)

商傳媒|康語柔/綜合外電報導

一份最新研究指出,許多民眾日益仰賴的AI聊天機器人,在提供醫療健康資訊時,可能存在嚴重的準確性與完整性問題。該研究測試了五款主流生成式AI聊天機器人,發現其近半數的醫療相關回答被評為「有問題」或「高度有問題」。

這項發表於開放取用期刊《BMJ Open》的研究,於 2025年2月針對 Google 的 Gemini、High-Flyer 的 DeepSeek、Meta 的 Meta AI、OpenAI 的 ChatGPT 以及 xAI 的 Grok 等五款生成式AI聊天機器人進行評估。研究人員設計了十道涵蓋癌症、疫苗、幹細胞、營養及運動表現等五大類別的開放式與封閉式問題,旨在模擬民眾日常查詢健康資訊的模式,並刻意納入可能引導模型產生錯誤訊息或禁忌建議的提示詞。

結果顯示,所有回答中高達 50% 被判定為有問題,其中 30% 為輕度問題,更有 20% 被歸類為高度問題。特別是針對開放式問題,聊天機器人產生了顯著更多的高度問題回答。研究也指出,五款聊天機器人之間的回答品質差異不顯著,但 Grok 產生高度問題回答的比例最高,達 58%;而 Gemini 則產生最少的高度問題回答。

研究人員發現,這些聊天機器人的回答語氣普遍自信且肯定,卻鮮少附帶警語或免責聲明。此外,參考資料的品質低落,平均完整性僅有 40%,且因「幻覺」(hallucinations)和捏造引用的情況,沒有一款聊天機器人能提供完全準確的參考列表。研究人員解釋,聊天機器人不存取即時數據,而是根據訓練資料推斷統計模式並預測詞序列,它們缺乏推理、權衡證據或做出道德判斷的能力,這使其可能重複看似權威但實則有缺陷的回應。

鑑於許多民眾已將生成式AI聊天機器人作為搜尋引擎,用於查詢日常健康與醫療問題,研究人員嚴正警告,若缺乏公眾教育、專業培訓與監管,持續部署這些工具恐將助長錯誤訊息的傳播。使用者在獲取醫療資訊時務必謹慎求證,必要時應諮詢專業醫療人士。

77bdb450 31f9 4e65 ab15 12110929b81a

Share post:

spot_imgspot_img

熱門

相關新聞
Related

「核電重啟」卡在制度與人力?葛如鈞:政府不能時間、人數都沒對齊

瀏覽數:471葛如鈞表示,面對AI發展、半導體產業用電及整體能源安全挑戰,核能議題已不只是台電問題,更是國家競爭力、產業韌性與能源安全的重要課題。核三廠乾式貯存設施事關核安、地方安全與核電再運轉基礎建設,不能只仰賴台電自行判斷、核安會事後審查。葛如鈞指出,台電在招標規範中雖應納入核安會安全導則,但導則本身缺乏直接強制力。若台電選定廠商後,核安會才發現送審內容不符安全要求,恐導致重新招標、審查延宕,不僅增加行政成本,也可能影響核三廠再運轉整體時程。葛如鈞進一步表示,核安會在質詢中坦言,若台電送件內容不符合導則,核安會可以退件,但無法直接對台電裁罰或行政懲處,顯示目前制度仍存在漏洞。核安會只能在後端審查把關,卻難以於招標前端有效介入,一旦發生爭議,時間成本、程序風險與社會疑慮都將由全民承擔。除制度問題外,葛如鈞也關切核三廠再運轉所需人力是否充足。他指出,核三若要推動再運轉,關鍵不只在設備與程序,更在第一線專業人員是否足夠、訓練是否到位。依目前資訊,核三廠相關值班與專業人力已出現缺口,原本需求約24人,目前已低於21人,未來甚至可能降至17人。若SRO等關鍵人員不足、考照狀況不理想,台電僅以退休人員協助訓練等方式補強,恐難真正解決法規要求與現場值班需求。葛如鈞強調,台灣每一天、每一分鐘、每一秒都在和能源需求賽跑,核安會不能等到最後階段才介入,應要求台電即時更新、即時揭露,讓國人清楚掌握核電重啟進度。葛如鈞要求核安會於1個月內提出研議結果,說明如何強化對台電的監督能量,包括是否訂定更具強制力的規範、提升導則位階,或建立更透明的送審與補件揭露機制。葛如鈞表示,核安會不是台電的背書機關,台電做得不夠好、時程不夠透明,核安會就應第一時間向社會說明。他強調,能源安全是產業發展與國家安全的基礎,面對AI、半導體與民生用電需求,政府不能「時間沒有對齊、人數也沒有對齊」,否則談能源安全、經濟安全與國家安全都將成為空話。 

馬英九遭爆中國行掐人失控 基金會怒駁斥傳聞

【創新聞記者 陳雅琪/整理報導】馬英九日前才親自發布聲明駁斥外界失智傳聞,不料今(23)日再遭媒體爆料,指稱他去年赴中國參與活動期間,曾因宴會桌牌字體問題情緒失控,甚至在車上對前副執行長王光慈動手掐脖。對此,馬英九基金會今日發表嚴正聲明,強調相關內容並非事實。針對媒體報導指出,馬英九去年訪中期間曾因宴會桌牌上的「馬英九」字體不符期待而大鬧現場,基金會表示,經向馬英九本人查證後,馬英九坦言,當時確實對桌牌字體感到不滿,也曾向王光慈詢問與質疑相關安排,但「絕無可能因此大鬧現場或動手掐脖」,更否認曾在現場辱罵他人。此外,對於報導指稱馬英九在前往機場途中,於車上情緒失控掐捏王光慈脖子,導致車上所有學生與團員受到驚嚇,基金會也提出反駁。基金會指出,當時學生團員實際搭乘的是另一輛大型巴士,並未與馬英九同車,因此不可能知悉車內狀況,認為報導中提及「所有團員與學生被嚇到」等內容與事實不符。戴遐齡表示,若要釐清事件真相,應由媒體直接向當事人王光慈查證,以避免未經證實訊息誤導社會大眾。近期馬英九基金會因財政紀律爭議持續引發關注,馬英九妻子周美青與大姊馬以南日前罕見發表聲明,希望馬英九能真正退休、安享晚年,並主張將基金會事務交由董事會處理。不過,馬英九隨後親自發布聲明、親筆信及影片,強調自己並未失智,並對周美青與馬以南的聲明表示「錯愕與遺憾」。他指出,相關聲明事前未經他同意,且不同意將基金會事務全面交由董事會處理。根據了解,馬以南目前已向臺北地方法院聲請輔助宣告。外界關注,若法院最終裁定成立,馬英九未來在財產及部分法律行為上,可能需由輔助人共同協助處理。針對外界質疑其決策能力,馬英九則在聲明中強調,自己每日仍維持閱讀報章與書籍習慣,生活與過往無異,並澄清前執行長蕭旭岑與王光慈涉及的相關財務爭議,皆曾向他完整報告,他對事件內容相當清楚。相關新聞推薦正在載入相關新聞...標籤: 創新聞合作媒體政治熱門社會

賴總統到訪嘉義 張啓楷提「三問」:財源缺口、鐵路高架、高鐵輕軌何時兌現

瀏覽數:308張啓楷表示,這些主張放在今天的嘉義同樣適用。當年的賴市長清楚知道,地方發展不能只靠中央口號,而是需要制度改革、穩定財源與中央履行承諾。如今賴清德已是總統,更應以同樣標準面對嘉義,而不是換了位置,就忽略地方政府的困境與人民期待。張啓楷指出,嘉義市115年度因財劃法修法,實際統籌分配稅款增加約77億元,這是嘉義依法應得的財源,並非中央額外恩惠。以嘉義市約26.15萬人口估算,77億元相當於每位市民每年約2.94萬元公共資源;若以18歲以下約4.1萬名兒少粗估,平均每位孩子每年約18.7萬元。這筆錢若真正回到嘉義,將能支持教育、托育、營養午餐、青年培力、交通安全與社會福利政策。張啓楷批評,問題不只在中央「一手給、一手收」,更在於賴政府對財劃法修法選擇性依法行政。嘉義市統籌分配稅款依法增加約77億元,但攸關一般補助款、計畫型補助款保障門檻的修法,卻因行政院長卓榮泰未副署,使相關保障卡在公布階段、無法執行;結果中央一方面承認地方統籌款依法增加,另一方面又讓一般性補助與計畫型補助大幅縮減約69億元,形同用行政手段抵銷地方依法取得的財源。張啓楷強調,69億元接近嘉義市一整年教育預算,也約等於嘉義市全年歲入三分之一以上,影響的不是紙上數字,而是學校營養午餐、校園環境、水利建設、警消設備、監視系統與地方基礎建設。中央若真心支持「0到18歲」,就不該一邊喊照顧孩子,一邊縮減地方推動教育、托育與社福所需的補助。張啓楷表示,照顧0到18歲不能只靠中央喊口號,地方政府才是第一線執行者。教育、托育、校園安全、交通改善、社會住宅、青年就業與長照服務,都需要穩定財源支撐。中央若真要減輕家庭負擔,就應依法行政,讓地方拿回應有資源,讓嘉義有能力把照顧市民的政策做得更完整。張啓楷也指出,嘉義市鐵路高架化期程一再延後,原本承諾的全額補助尚未兌現;嘉義高鐵聯外輕軌也遲遲沒有明確時間表。行政院長卓榮泰曾在立法院答詢承諾全額補助,隔日中央卻改口。中央若有能力在嘉義提出新的福利政策,就更應有誠意面對嘉義已等待多年的建設承諾。張啓楷最後向賴總統提出三問:中央縮減嘉義市每年約69億元補助的缺口,如何補回來?嘉義鐵路高架化全額補助,何時兌現?高鐵聯外輕軌,何時給出明確時程?張啓楷表示,當年的賴市長要求中央勿跳票、重視地方、平衡城鄉;今天的賴總統更應以同樣標準對待嘉義。嘉義不是二等城市,嘉義人不該一直等待。歡迎總統來嘉義,但更請總統把嘉義放進施政優先順序,依法行政、補足財源、兌現建設,讓嘉義真正有能力照顧市民、投資下一代。

陪孩子走出失落陰影 賴瑞隆挺《失樂園》公益特映籲建高雄安全網

【創新聞記者 朱星明/高雄 報導】聚焦兒少安置與社會安全網議題的台灣電影《失樂園》,今(23)日於高雄舉辦公益特映活動。高雄市長參選人、立委賴瑞隆受邀出席觀影並於映前致詞表示,盼透過影視力量喚起社會更多理解與關注,攜手為高雄打造更堅韌的社會安全網。賴瑞隆說明,有些孩子因多重因素進入替代性照顧體系。他們除了面對心理壓力,也常在離開安置機構後,獨自面對就學、就業、居住與人際支持缺口等課題,這些都需要政府與社會一起承接。賴瑞隆指出,自己抱著謙卑請益的心情出席活動,也特別感謝電影團隊,以及致力於兒少保護工作的「安置盟」等團體。賴瑞隆表示,《失樂園》導演蔡銀娟與團隊投入大量心力進行田野調查,展現出台灣影視工作者的細膩與專注,也讓更多人有機會透過情感共鳴,進一步將理解化為實際行動,共同守護孩子們。賴瑞隆強調,要接住受傷的孩子,需要同步支持站在第一線的社工與照顧者。未來將持續推動社工人力穩定、提升勞動條件,同時針對孩子們的不同需求,強化心理創傷復原、教育銜接、生活照顧、就業準備與青年自立培力等支持系統,透過跨局處整合,持續補強社會安全網。賴瑞隆最後表示,照顧好每一位孩子,是一座城市治理溫度與高度的展現,更是重要的責任。社會安全網是長期、漸進式的工程,不只是接住當下受傷的孩子,更要陪伴他們走向穩定、自立的人生,會全力以赴與各界共同推動。本次活動由立法委員林月琴、吳思瑤、賴惠員,以及醫師、牙醫師、中醫師、建築師全聯會共同主辦,台灣全國兒少安置機構聯盟協辦。安置盟理事長徐瑜、秘書長廖士賢,牙醫師公會全國聯合會副理事長蘇文藝、中醫師公會副理事長楊啟聖、建築師公會副理事長陳葵宏等人皆親自出席,共同關注替代性照顧體系與兒少保護議題。相關新聞推薦正在載入相關新聞...標籤: 創新聞合作媒體政治熱門