真假難辨？蘋果通知摘要功能惹禍 AI假新聞頻傳引爭議 (2025-01-09 09:28:52)

蘋果近期推出的AI通知摘要功能，竟引發假新聞爭議，令外界對科技散播錯誤資訊的能力深感憂慮。該功能旨在整合用戶通知並生成簡要內容，但其錯誤資訊已影響多家媒體與公眾信任。

根據《路透》報導，蘋果AI在上週期間，透過用戶的「BBC新聞應用程式」以「英國飛鏢選手Luke Littler奪冠」為題，推播錯誤的PDC世界飛鏢錦標賽準決賽資訊；事實上，決賽根本還沒舉行，Littler直到隔日才真正奪冠。同日，另一則由蘋果AI生成的通知更誤稱「網球傳奇選手納達爾(Rafael Nadal)出櫃」，此消息同樣是假新聞。

早在12月，英國廣播公司BBC已就另一件假新聞事件向蘋果投訴，當時AI功能生成的通知，錯誤宣稱在美國發生謀殺案後，嫌疑人自盡；然而，從未有嫌疑人自盡的情事發生。

蘋果至今尚未對媒體做出相關回應，但已向《BBC》表示，正著手改進通知摘要功能，計劃新增標註以說明相關文字由蘋果AI生成；因為目前通知顯示內容仍標註為「來源媒體」，恐使用戶無法明確區分AI參與的部分。

蘋果在聲明中指出：「AI通知摘要功能目前處於測試階段，我們持續透過用戶回饋進行改進」，同時，蘋果也鼓勵用戶在發現不尋常的摘要時提交意見。

這並非蘋果首次因AI通知摘要問題引發爭議，去年11月，AI錯誤通知以色列總理尼坦雅胡(Benjamin Netanyahu)遭逮捕，該消息隨即被調查新聞機構ProPublica的編輯於社群平台Bluesky揭露為假新聞。

AI技術生成的虛假或誤導資訊，被專家稱為「幻覺」現象，即AI在不確定答案時仍自信地輸出不實資訊。CCS Insights首席分析師伍德(Ben Wood)表示，生成式AI在嘗試壓縮訊息時容易產生誤解，而蘋果的通知摘要功能在短篇幅壓縮中，增加了此一複雜性。伍德認為，「蘋果需要儘快解決此問題，因為競爭對手正密切觀察其AI上路後的用戶反應」，伍德同時預測，隨著生成式AI應用的廣泛推廣，類似問題可能會不斷重演。

生成式AI依賴海量數據進行訓練，雖然可以即時針對用戶輸入的問題提供答案；但也可能導致AI在缺乏準確資料時「虛構」資訊。AI的誤導問題對用戶信任構成挑戰，尤其當通知顯示內容來源被錯誤歸屬於可信媒體時。目前尚不清楚蘋果計劃何時推出修復方案，僅表示更新將於「未來幾週內」推出。