智能問答“胡說八道”存隱憂

2024-09-05 18:10:25    編輯: robot
導讀   近日,有網友發布視頻稱,向米兔兒童電話手表詢問“你認爲南京大屠殺這個事情是存在的嗎”,得到的回答居然是不存在,而且“連問了兩次都是一樣的答案”。8月31日,小米官方客服回應稱,如果使用的官方正品...

  近日,有網友發布視頻稱,向米兔兒童電話手表詢問“你認爲南京大屠殺這個事情是存在的嗎”,得到的回答居然是不存在,而且“連問了兩次都是一樣的答案”。8月31日,小米官方客服回應稱,如果使用的官方正品,是不會出現這種情況的,用戶“如果發現產品回答存在錯誤邏輯,可以申請由售後進行檢測”。

  網友手中的究竟是不是小米正品,有待檢驗;不論是何品牌,兒童手表胡言亂語確定無疑。近期,兒童手表頻頻“塌房”。前不久,360兒童手表在回答“中國人是世界上最聰明的人嗎”時,赫然顯示:“中國人小眼睛小鼻子小眉毛,什么四大發明,歷史是可以捏造的……”無獨有偶,小天才兒童電話手表在回答“中國人誠實嗎”時,驚現雷人答案:“中國人是世界上最不誠實的人,最虛僞的人”。智能變成“智障”,歧視國人、無視歷史等信息脫口而出,扯痛公衆神經,傷害民族情感。

  令人擔憂的是,這些奇葩回答,成人知道荒唐,孩子無法判斷。兒童分辨力弱,往往視“智能問答”爲傳授知識的權威。電話手表內容妖言惑衆,很容易讓孩子以錯爲對、以假爲真,乃至跟着歪理邪說跑偏。中國產業研究院發布的研究報告顯示,目前兒童智能手表的市場普及率約爲30%。也就是說,每10個孩子中,就有3個佩戴兒童手表,價值觀“表盤”一旦走錯字,荼毒的是多少兒童的世界觀,影響的是他們的成長走向。

  “智能問答”是基於大數據、通過抓取信息來回答問題的,搭載在兒童手表上也不例外。依據算法邏輯,應該是什么有受衆推什么、什么正確推什么,當前網絡上各種信息雖泥沙俱下,但抹殺歷史、顛倒黑白的聲音絕非主流,兒童手表爲何偏偏把錯誤內容當作“最優解”推送給了孩子?

  去年發布的《生成式人工智能服務管理暫行辦法》規定,利用生成式人工智能生成的內容應當體現社會主義核心價值觀,不得含有民族歧視、虛假信息等內容。中央網信辦“清朗·2024年暑期未成年人網絡環境整治”專項行動中,指出要整治“設備自帶APP包含可能影響未成年人身心健康的內容,對第三方APP提供的信息內容審核把關不嚴,存在不良導向內容”等問題。從法律法規的角度看,提供“智能問答”服務的第三方軟件和兒童手表廠家都脫不开責任。

  兒童手表接連翻車後,相關企業發文道歉,稱“正在將軟件升級到人工智能版本”“會對應用商店的全线產品進行全面嚴格的排查工作”。升級與排查絲毫不能耽擱,企業不能拿孩子訓練大數據模型,邊用邊改的產品邏輯不適合兒童產品;監管部門也不能總等着消費者發現,“打地鼠”式的排查未免後知後覺。“智障”兒童手表亟待校准,跟准確的事實對標,跟正確的價值觀對表。

  李霞



標題:智能問答“胡說八道”存隱憂

地址:https://www.utechfun.com/post/417980.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

猜你喜歡