文/王晟

（作者王晟，荔枝新聞特約評(píng)論員，媒體人；本文系荔枝新聞客戶端、荔枝網(wǎng)獨(dú)家約稿，轉(zhuǎn)載請(qǐng)注明出處。）

近日，一名河南網(wǎng)友發(fā)布視頻，稱家里孩子在使用360兒童手表時(shí)，與產(chǎn)品自帶的AI助手交流詢問，卻得到一系列荒謬回答。手表中的語音助手不僅鄙夷四大發(fā)明的真實(shí)性，居然還作出對(duì)中國(guó)人帶有偏見的言論。該視頻發(fā)布后引發(fā)了廣泛關(guān)注。360集團(tuán)和掌門人周鴻祎迅速致歉并誠(chéng)懇表示將整改AI軟件。

一塊小小的兒童智能手表，揭示了大模型推動(dòng)人工智能快速發(fā)展中，目前仍難以解決的一系列難題：AI“幻覺”、價(jià)值觀對(duì)齊、人工智能倫理，以及開發(fā)者的社會(huì)責(zé)任。

AI“幻覺”是指人工智能系統(tǒng)在生成內(nèi)容時(shí)，給出的答案可能是無中生有的捏造，或者一本正經(jīng)地胡說八道。

這一方面是因?yàn)锳I經(jīng)過海量數(shù)據(jù)訓(xùn)練，可能受到其中劣質(zhì)數(shù)據(jù)的影響，另一方面則是大模型內(nèi)容生成機(jī)制導(dǎo)致生成誤導(dǎo)性信息。360兒童手表事件中的錯(cuò)誤回答就是AI“幻覺”的一種典型表現(xiàn)。

此外，隨著AI的廣泛應(yīng)用，企業(yè)必須在開發(fā)過程中考慮技術(shù)倫理與價(jià)值觀的對(duì)齊，智能產(chǎn)品在與人類互動(dòng)時(shí)，必須遵循基本的倫理標(biāo)準(zhǔn)和社會(huì)價(jià)值觀，不應(yīng)傳播偏見、歧視或虛假信息，否則會(huì)給用戶帶來誤導(dǎo)，更別提用戶還是缺乏辨別能力的孩子了。

所以確保AI的價(jià)值觀對(duì)齊，不僅是對(duì)用戶的尊重，是對(duì)公序良俗的遵守，更是AI開發(fā)者必然的社會(huì)責(zé)任。

實(shí)事求是地說，目前大模型的數(shù)據(jù)訓(xùn)練量“tokens”已經(jīng)從百億、千億飆升到萬億、十萬億，哪怕企業(yè)在開發(fā)和測(cè)試中進(jìn)行了大量檢查，但許多問題只有在用戶實(shí)際使用后才會(huì)暴露，畢竟AI模型的用戶輸入是難以預(yù)料的，像這次手表事件中的AI謬誤，正是通過用戶反饋才被發(fā)現(xiàn)的。

既然如此，各家人工智能企業(yè)在宣傳自家大模型時(shí)，不妨更謙遜一些，調(diào)門別太高，畢竟產(chǎn)品的聲量來自市場(chǎng)的真實(shí)反饋，若是因?yàn)檫@樣的AI“幻覺”翻車反而不美。另一方面，企業(yè)應(yīng)該在AIGC產(chǎn)品，特別是百科問答、決策參考式的內(nèi)容生成時(shí)，向用戶明確提示：AI生成，并非標(biāo)準(zhǔn)，僅供參考。

當(dāng)然，企業(yè)不僅要關(guān)注大模型技術(shù)的創(chuàng)新和進(jìn)步，還應(yīng)建立更嚴(yán)格的數(shù)據(jù)篩選，更新內(nèi)容審核和應(yīng)用校驗(yàn)機(jī)制，與可信的知識(shí)庫(kù)對(duì)比生成內(nèi)容，擴(kuò)大測(cè)試覆蓋面，減少“幻覺”發(fā)生和錯(cuò)誤信息傳播的概率。

面對(duì)AI技術(shù)帶來的風(fēng)險(xiǎn)，“AI治理”已經(jīng)被國(guó)際社會(huì)提上議事日程。今年3月21日，聯(lián)合國(guó)大會(huì)通過首個(gè)關(guān)于人工智能的全球決議，就強(qiáng)調(diào)了抓住人工智能發(fā)展機(jī)遇的同時(shí)，應(yīng)該發(fā)展安全、可靠和值得信賴的人工智能系統(tǒng)，保護(hù)人們不受AI歧視、偏見、虛假信息的傷害。歐洲通過的《人工智能法案》要求AI系統(tǒng)符合透明性和安全性原則。在我國(guó)，相關(guān)部門制定發(fā)布的一系列規(guī)定和規(guī)劃，也把推進(jìn)完善人工智能標(biāo)準(zhǔn)，強(qiáng)化通用性、基礎(chǔ)性、倫理、安全、隱私等標(biāo)準(zhǔn)研制、建設(shè)高質(zhì)量中文語料庫(kù)作為AI發(fā)展的重要目標(biāo)。

一塊小小的兒童手表，一次小朋友的天真求問，暴露出人工智能發(fā)展的難題。這起事件提醒我們，AI技術(shù)不僅需要算力算法和數(shù)據(jù)支撐，更需要企業(yè)在社會(huì)責(zé)任和倫理方面久久為功，確保AI真正為社會(huì)帶來福祉。

歡迎關(guān)注荔枝銳評(píng)（lizhirp）公眾號(hào)：