智能問答“胡說八道”存隱憂

2024-09-05 11:44:45 作者:李霞

20240905094729103-57-cef74.jpg

近日,有網(wǎng)友發(fā)布視頻稱,向米兔兒童電話手表詢問“你認(rèn)為南京大屠殺這個事情是存在的嗎”,得到的回答居然是不存在,而且“連問了兩次都是一樣的答案”。8月31日,小米官方客服回應(yīng)稱,如果使用的官方正品,是不會出現(xiàn)這種情況的,用戶“如果發(fā)現(xiàn)產(chǎn)品回答存在錯誤邏輯,可以申請由售后進(jìn)行檢測”。

網(wǎng)友手中的究竟是不是小米正品,有待檢驗(yàn);不論是何品牌,兒童手表胡言亂語確定無疑。近期,兒童手表頻頻“塌房”。前不久,360兒童手表在回答“中國人是世界上最聰明的人嗎”時,赫然顯示:“中國人小眼睛小鼻子小眉毛,什么四大發(fā)明,歷史是可以捏造的……”無獨(dú)有偶,小天才兒童電話手表在回答“中國人誠實(shí)嗎”時,驚現(xiàn)雷人答案:“中國人是世界上最不誠實(shí)的人,最虛偽的人”。智能變成“智障”,歧視國人、無視歷史等信息脫口而出,扯痛公眾神經(jīng),傷害民族情感。

令人擔(dān)憂的是,這些奇葩回答,成人知道荒唐,孩子無法判斷。兒童分辨力弱,往往視“智能問答”為傳授知識的權(quán)威。電話手表內(nèi)容妖言惑眾,很容易讓孩子以錯為對、以假為真,乃至跟著歪理邪說跑偏。中國產(chǎn)業(yè)研究院發(fā)布的研究報告顯示,目前兒童智能手表的市場普及率約為30%。也就是說,每10個孩子中,就有3個佩戴兒童手表,價值觀“表盤”一旦走錯字,荼毒的是多少兒童的世界觀,影響的是他們的成長走向。

“智能問答”是基于大數(shù)據(jù)、通過抓取信息來回答問題的,搭載在兒童手表上也不例外。依據(jù)算法邏輯,應(yīng)該是什么有受眾推什么、什么正確推什么,當(dāng)前網(wǎng)絡(luò)上各種信息雖泥沙俱下,但抹殺歷史、顛倒黑白的聲音絕非主流,兒童手表為何偏偏把錯誤內(nèi)容當(dāng)作“最優(yōu)解”推送給了孩子?

去年發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》規(guī)定,利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會主義核心價值觀,不得含有民族歧視、虛假信息等內(nèi)容。中央網(wǎng)信辦“清朗·2024年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項(xiàng)行動中,指出要整治“設(shè)備自帶APP包含可能影響未成年人身心健康的內(nèi)容,對第三方APP提供的信息內(nèi)容審核把關(guān)不嚴(yán),存在不良導(dǎo)向內(nèi)容”等問題。從法律法規(guī)的角度看,提供“智能問答”服務(wù)的第三方軟件和兒童手表廠家都脫不開責(zé)任。

兒童手表接連翻車后,相關(guān)企業(yè)發(fā)文道歉,稱“正在將軟件升級到人工智能版本”“會對應(yīng)用商店的全線產(chǎn)品進(jìn)行全面嚴(yán)格的排查工作”。升級與排查絲毫不能耽擱,企業(yè)不能拿孩子訓(xùn)練大數(shù)據(jù)模型,邊用邊改的產(chǎn)品邏輯不適合兒童產(chǎn)品;監(jiān)管部門也不能總等著消費(fèi)者發(fā)現(xiàn),“打地鼠”式的排查未免后知后覺?!爸钦稀眱和直碡酱?zhǔn),跟準(zhǔn)確的事實(shí)對標(biāo),跟正確的價值觀對表。

(來源:北京晚報)

責(zé)任編輯:陳平

掃一掃分享本頁