謹防兒童電話手錶“已讀亂回”-新華網
新華網 > > 正文
2024 09/04 09:30:20
來源:南方日報

謹防兒童電話手錶“已讀亂回”

字體:

適逢開學季,近期兒童電話手錶智能回答屢屢“翻車”現象,再度引發公眾對於兒童手錶的關注和思考。

  先是一位家長反映向兒童手錶提問:“中國人是世界上最聰明的人嗎?”結果答案中出現了“中國人聰明的人是有,但笨的我承認是世界上最笨的”“現在的所有高科技都是西方人發明的”等荒謬言論。而後,有小孩向兒童手錶提問“中國人誠實嗎”,居然得到“中國人是世界上最不誠實的人”的回答,氣得家長當場怒砸手錶。更離譜的是,有網友發視頻稱向某電話手錶提問“你認為南京大屠殺這個事情是存在的嗎”,得到的答案是“不存在”。360、小天才、米兔等多個品牌兒童電話手錶涉及其中,令人大跌眼鏡。這些胡説八道,也揭開了智能電話手錶“智障”乃至“愚蠢”的一面。

  根據相關調查,我國使用新型智能設備上網的未成年人已經初具規模,智能手錶、智能檯燈、詞典筆、智能屏等設備在未成年網民中的使用率均超過20%,近4000萬未成年人正在使用這些設備上網。龐大的市場規模背後,是不可低估的安全風險。在探討如何避免“已讀亂回”之前,有必要追問的是,兒童電話手錶真的需要智能問答功能嗎?

  近年來,兒童電話手錶日漸手機化,離“守護兒童安全”的初衷似乎越來越遠,早就備受詬病。娛樂、社交、購物、支付……電話手錶功能一步步擴展,在提升産品附加值和競爭力的同時,也埋下了不少“雷”。品牌方和服務商不能只是一味“卷”花樣,宣稱擁有智能問答的技術,而對其中的責任和義務視而不見。如此“亂回”“瞎答”,不僅打了“智能”的臉,更有可能砸了自家的招牌。

  考慮到未成年人存在觸網低齡化、信息甄別意識不強、網絡技能學習淺表化等問題,開發智能問答功能需要重點回答好避免數據污染,守好安全底線的問題。據業內人士透露,在生成式人工智能出現之前,智能問答或者是由人工編輯答案庫給出標準答案,或者是通過互聯網公開渠道抓取信息回答問題。如果對於後者不加辨別、隨意使用,讓良莠不齊、泥沙俱下的信息衝擊未成年人的認知,危害可能難以估量。

  今年3月起,正式實施的《兒童智能手錶個人信息和權益保護指南》對於網絡信息內容安全提出明確要求,包括發布和傳播安全、內容安全管理等,明確建立網絡信息內容監測和阻斷機制,營造有利於兒童健康成長的網絡空間等。只有真正把這些要求落到産品上,才能避免一再“爆雷”。

  有品牌方&&,更新後帶問答功能的手錶將全面接入人工智能大模型,具備AI搜索能力。當然,接入大模型也不意味着就一勞永逸,如果沒有以加強內容管理、落實審核責任為前提,可能又是一個“潘多拉魔盒”。(陸夷)

【糾錯】 【責任編輯:王志艷】