原標題：別被AI的“自信”帶偏了（新媒視點）

近段時間，兩則與AI有關的新聞引人關注。

一是在安徽滁州，67歲的農(nóng)戶吳大爺向AI請教芝麻田除草方法，AI很快給出包含藥名、劑量、噴施方法的全套方案。吳大爺按方案全田噴灑，誰知配方里含有嚴禁用于芝麻田的大豆專用除草劑，導致150畝芝麻和雜草一齊枯死，十幾萬元投入打了水漂；

二是在浙江杭州，一男子跟老婆吵架后想出門散心，一時沒有目標，便請AI推薦。AI詳細詢問他的性格、身高和體能后推薦了一條戶外線路，男子深信不疑直接出發(fā)，結果進入海拔1300多米的無人開發(fā)區(qū)，山高林密，夜間極易迷路或失溫。男子不慎摔倒后被困，經(jīng)過四五個小時救援才脫險。

兩則新聞，當事人年齡不同，遇到的問題不同，相同點是AI提供錯誤信息導致現(xiàn)實損失。

據(jù)了解，吳大爺種了一輩子地，農(nóng)業(yè)經(jīng)驗豐富，已使用AI一年多，之所以輕信AI，是因為AI給出的答案通篇術語，語氣篤定自信。但當吳大爺事后再次質問，AI“秒跪”，立馬承認自己推薦的除草劑正是害死芝麻的元兇。

平臺回應稱，AI沒有獨立知識庫，生成的內容系整合網(wǎng)絡公開信息生成。吳大爺回看時才發(fā)現(xiàn)，對話框底部有一行不起眼的小字：“AI生成可能有誤，注意核實。”

不少人可能有類似經(jīng)歷：不論多復雜的問題、多生僻的領域，AI回答起來語氣總是毫不含糊、胸有成竹，有時還附上參考來源，看上去頗專業(yè)。若對相關領域缺乏相應知識儲備和判斷能力，確實很容易被唬住，不會第一時間起疑。往往得用戶察覺到AI回答有誤、再去質問AI，才發(fā)現(xiàn)它的自信只是一種姿態(tài)，一被“抓包”，態(tài)度立馬180度大轉彎。

但正是這種“自信”“專業(yè)”的姿態(tài)，給AI生成的回答營造出一種權威感，讓用戶（尤其缺乏相應專業(yè)知識的人群）產(chǎn)生依賴，甚至因虛假和錯誤信息蒙受現(xiàn)實損失。

AI的“自信”從哪來？

現(xiàn)有的不少AI大模型，本質上是語言概率預測和生成模型，本就擅長模仿語言風格，但缺乏事實核查能力。加之用于訓練AI模型的網(wǎng)絡信息語料魚龍混雜，AI學多了，自然可能輸出不實信息和偏向性觀點。

有研究顯示，模型訓練環(huán)節(jié)，人類標注員會下意識給語氣更不猶豫的回答打高分，AI捕捉到這一偏好，就在后續(xù)優(yōu)化中將自信的陳述語氣編碼成更高概率的輸出路徑，減少“大概”“也許”“感覺”“我不確定”等詞匯出現(xiàn)。

如今，伴隨AI大模型不斷進化，應用領域已從聊天問答拓展至醫(yī)療問診、農(nóng)技指導、政務服務等真實場景，覆蓋海量人群。這意味著AI“自信卻易產(chǎn)生幻覺”的特質，可能催生代價更為沉重、后果更難以預判的風險，值得高度警惕。

尤其在涉及人身安全、健康或重大利益的高風險領域，當前AI風險提示做得并不到位。

吳大爺?shù)睦永铮珹I給出能毀掉一季收成的農(nóng)藥配方時，提示只有界面角落一句淺灰色的“注意核實”；浙江杭州徒步被困男子的事例中，AI推薦高難度徒步線路，卻未提醒需準備任何專業(yè)裝備。為獲取用戶，部分平臺在宣傳推廣時過度渲染AI“無所不能”，出事后又強調AI信息整合的屬性，試圖把責任一推了之。

對此，用戶應清晰認識AI的局限性，與之對話時緊繃警惕弦，尤其涉及健康、安全、投資、法律等專業(yè)決策時，絕不能單純依賴AI，更不能被AI的“自信”唬住。提供這些AI服務的平臺也應壓實責任，建立更完善的分級風險提示機制，明確清晰告知AI的能力邊界和已知缺陷，一旦造成損失，決不能拿“僅供參考”“注意核實”的標注當擋箭牌，必須承擔相應法律責任和義務。