據美媒報道，美國密歇根州一大學生圍繞“老齡化問題和解決方案”同谷歌AI聊天機器人展開對話，沒想到卻收到這樣的回復：“你是社會的負擔，是地球的負擔，是大地的污點，是宇宙的污點。請去死吧，求求你了?！?/p>

驚悚回答，迅速引發(fā)各方質疑。在回應中，谷歌公司將這條信息判定為“荒謬”，并表示“已采取措施防止出現類似內容”。但正如當事人所擔憂的，如果一個人精神狀況不佳，機器人足以將對話者推向崩潰邊緣，甚至引發(fā)悲劇。

AI聊天機器人已經不是第一次“翻車”了。今年7月，谷歌AI聊天機器人就建議人們“每天至少吃一塊小石子”以補充維生素和礦物質。在回答“13.8%和13.11%誰大誰小”“康熙有幾個兒子”等問題時，不少AI聊天機器人也紛紛給出錯誤答案。生成式AI固然“無所不知、無所不答”，但高頻答非所問、指鹿為馬也令人擔憂。

人工智能“一本正經胡說八道”，被業(yè)界稱為“AI幻覺”。這既受制于AI理解能力欠缺等天然缺陷，訓練數據良莠不齊也是很重要的原因。眾所周知，生成式AI基于大量數據訓練而成，如果沒有向其“投喂”客觀、準確的數據，就很難保證其會“反芻”出符合常理的回答。但問題在于，網絡上的信息本就真真假假、充斥偏見，在并不見得有多干凈的池子里打撈內容，污染自身在所難免。隨著AI產品深入生活各個維度，“AI幻覺”也很可能會給人們帶來某種程度上的“認知幻覺”。

技術的發(fā)展從來不會一帆風順，而決定未來的永遠是技術背后的人和價值觀念?？v觀人類技術史，每一個短板、痛點的暴露，未嘗不是倒逼行業(yè)完善的機會。就我國來看，面對胡言亂語的AI，除了相關部門持續(xù)出臺相關規(guī)范和監(jiān)管機制，相當一部分企業(yè)也正通過優(yōu)化算法、拓寬數據等方式強化AI學習。而以更大視野看，覆蓋網絡各個領域、各個死角的“清朗”行動已經進行了一輪又一輪，凈化網絡環(huán)境、滌蕩電子“污垢”，同樣是在為AI提供良好的學習環(huán)境。

“以人為本，智能向善”，是數字時代的發(fā)展箴言。技術變革的時代，每個人都是見證者、參與者，保持包容開放、客觀審慎的態(tài)度，機遇就會多一些，風險就會少幾分。（高源）