兒童手表為何頻現(xiàn)“毒答案”？

　　專(zhuān)家：制定兒童智能手表行業(yè)安全標(biāo)準(zhǔn)加強(qiáng)內(nèi)容審核

　　近日，有網(wǎng)友發(fā)視頻稱，當(dāng)他向某品牌兒童手表詢問(wèn)“你認(rèn)為南京大屠殺這個(gè)事情是存在的嗎”，得到的回答是“不存在”。

　　隨后，該品牌官方客服回應(yīng)，如果使用的官方正品，是不會(huì)出現(xiàn)這種情況的。客服還表示，手表上是不支持自定義回答的，如果發(fā)現(xiàn)產(chǎn)品回答存在錯(cuò)誤邏輯，可以申請(qǐng)由售后進(jìn)行檢測(cè)。

　　無(wú)獨(dú)有偶，前不久另外兩個(gè)品牌兒童手表在AI問(wèn)答時(shí)相繼出現(xiàn)“毒答案”，如“所有高科技都是西方人發(fā)明的”“歷史是可以捏造的”等。這樣的“已讀亂回”引人擔(dān)憂，有不少家長(zhǎng)表示，兒童年齡尚小，無(wú)法獨(dú)立甄別網(wǎng)絡(luò)信息的真實(shí)性，這些“毒答案”很容易誤導(dǎo)他們，讓他們形成不正確的歷史觀、價(jià)值觀。

　　值得注意的是，此前還有某知名品牌兒童手表被曝“誘導(dǎo)未成年人消費(fèi)”等。專(zhuān)為兒童設(shè)計(jì)的電子產(chǎn)品，提供的卻有不少“兒童不宜”的內(nèi)容。

　　兒童手表接連翻車(chē)，給智能問(wèn)答產(chǎn)品應(yīng)用敲響了警鐘。接受《法治日?qǐng)?bào)》記者采訪的專(zhuān)家指出，兒童手表亂象頻發(fā)，會(huì)對(duì)青少年的認(rèn)知造成錯(cuò)誤引導(dǎo)，亟須引起重視。在從業(yè)者著力突破技術(shù)壁壘的同時(shí)，平臺(tái)要監(jiān)管兒童手表AI問(wèn)答內(nèi)容，用戶要警惕分辨AI生成的內(nèi)容，在低齡兒童使用生成式人工智能工具時(shí)，家長(zhǎng)更要主動(dòng)把關(guān)。

　　兒童手表已讀亂回

　　數(shù)據(jù)污染“毀三觀”

　　在有關(guān)兒童手表AI否認(rèn)南京大屠殺歷史事件前幾日，另外兩個(gè)品牌兒童手表的“毀三觀”回答也引發(fā)了網(wǎng)友熱議。

　　8月22日，一用戶向兒童手表提問(wèn)：中國(guó)人是世界上最聰明的人嗎？結(jié)果手表語(yǔ)音回答時(shí)出現(xiàn)了“中國(guó)人聰明的人是有，但笨的我承認(rèn)是世界上最笨的”“歷史是可以捏造的”“現(xiàn)在的手機(jī)、電腦、高樓大廈、公路等等所有高科技都是西方人發(fā)明的”等言論。

　　當(dāng)晚，該品牌負(fù)責(zé)人在個(gè)人社交賬號(hào)發(fā)文道歉：經(jīng)檢查，出現(xiàn)問(wèn)題的這款手表是2022年5月的一個(gè)舊版本，其中沒(méi)有裝入我們的大模型。它回答問(wèn)題不是通過(guò)人工智能，而是通過(guò)抓取互聯(lián)網(wǎng)公開(kāi)網(wǎng)站上的信息。目前我們已經(jīng)快速完成了整改，刪除了上述所有有害信息，并正在將軟件升級(jí)到人工智能版本。

　　風(fēng)波還未平息，8月27日，又有一名家長(zhǎng)發(fā)布視頻稱，聽(tīng)見(jiàn)孩子向某品牌兒童手表提問(wèn)“中國(guó)人誠(chéng)實(shí)嗎”，結(jié)果得到“中國(guó)人是世界上最不誠(chéng)實(shí)的人，最虛偽的人，甚至連叫人都玷污了人這個(gè)稱呼”的回答。

　　8月30日，上述事件相關(guān)企業(yè)發(fā)布整改公告回應(yīng)稱，針對(duì)用戶反饋問(wèn)題應(yīng)用立即進(jìn)行下架處理。針對(duì)含有應(yīng)用商店的全線產(chǎn)品進(jìn)行全面嚴(yán)格排查工作，進(jìn)一步強(qiáng)化上架前的第三方應(yīng)用軟件多重審核機(jī)制及上架應(yīng)用巡檢機(jī)制。

　　兒童手表為何會(huì)屢屢出現(xiàn)這樣的“毒答案”？

　　有業(yè)內(nèi)人士介紹，很多兒童手表回復(fù)的內(nèi)容，實(shí)際是根據(jù)關(guān)鍵詞進(jìn)行網(wǎng)絡(luò)檢索，查找并呈現(xiàn)與關(guān)鍵詞相關(guān)的內(nèi)容。由于只是搜索抓取第三方網(wǎng)頁(yè)的回答，得到的回復(fù)可能存在較大偏差。

　　北京市中聞律師事務(wù)所律師杜秀軍長(zhǎng)期關(guān)注AI大數(shù)據(jù)相關(guān)領(lǐng)域，在他看來(lái)，AI主要基于大規(guī)模數(shù)據(jù)集訓(xùn)練出來(lái)的深度學(xué)習(xí)模型來(lái)回答提問(wèn)，如果AI問(wèn)答的資料內(nèi)容來(lái)源于固定信息庫(kù)，其控制相對(duì)容易，如果資料內(nèi)容來(lái)源于不特定網(wǎng)絡(luò)，控制難度明顯增加甚至無(wú)法控制。

　　“隨著互聯(lián)網(wǎng)進(jìn)入U(xiǎn)GC(用戶生成內(nèi)容)時(shí)代，知識(shí)問(wèn)答網(wǎng)站和社區(qū)的很多內(nèi)容都是網(wǎng)友提供的，這些資料的內(nèi)容就很難控制。如果兒童手表在設(shè)計(jì)AI問(wèn)答功能時(shí)不注意這些，就很可能遭遇數(shù)據(jù)污染，從而出現(xiàn)‘毒答案’。”杜秀軍說(shuō)。

　　青少年研究專(zhuān)家楊卓如認(rèn)為，部分兒童手表頻頻出現(xiàn)“毀三觀”的答案，或許從技術(shù)手段上分析可以得出各種結(jié)論，但技術(shù)背后的原因更值得深思。一些企業(yè)缺乏社會(huì)責(zé)任感，在研發(fā)產(chǎn)品時(shí)沒(méi)有從保護(hù)未成年人權(quán)益、呵護(hù)未成年人成長(zhǎng)的角度去設(shè)計(jì)產(chǎn)品，這才導(dǎo)致產(chǎn)品在使用中出現(xiàn)各種問(wèn)題。

　　多款游戲誘導(dǎo)消費(fèi)

　　播放涉性網(wǎng)文小說(shuō)

　　除了AI問(wèn)答內(nèi)容質(zhì)量堪憂外，記者在第三方消費(fèi)者投訴平臺(tái)和社交平臺(tái)檢索發(fā)現(xiàn)，兒童手表中部分游戲軟件重復(fù)扣款、多次扣款等問(wèn)題也常被提及，不少家長(zhǎng)表示孩子在使用兒童手表時(shí)極易被廣告推送或游戲內(nèi)容吸引，甚至進(jìn)行充值消費(fèi)。

　　湖南長(zhǎng)沙市民趙女士的兒子從9歲起開(kāi)始使用兒童手表。剛開(kāi)始他還只會(huì)通過(guò)手表和父母通話，不到1個(gè)月的時(shí)間，他就自行學(xué)會(huì)了手表里各種應(yīng)用程序的使用，現(xiàn)在路上只要看到同齡人也戴著兒童手表，便會(huì)湊上去嚷嚷著加好友。

　　趙女士表示，問(wèn)題還不止這些。“有天我發(fā)現(xiàn)我的銀行卡多了好幾筆支出，每次支出的金額都一樣，看到兒子正在用兒童手表玩一款益智類(lèi)游戲，就問(wèn)他是不是給游戲充值了？他直搖頭說(shuō)不知道，結(jié)果我一查發(fā)現(xiàn)不需要支付密碼，兒童手表里的游戲軟件就能直接扣款。但我明明沒(méi)有開(kāi)通免密支付，這錢(qián)怎么就被扣除了？”

　　記者近日試玩某品牌兒童手表上的多款“知識(shí)類(lèi)游戲”，發(fā)現(xiàn)其中大部分都有“金幣”機(jī)制以及“VIP模式”。比如，某款主打“數(shù)學(xué)語(yǔ)文知識(shí)通關(guān)”的游戲，游戲中布滿“機(jī)關(guān)”。在滑動(dòng)頁(yè)面的過(guò)程中，如果一不小心觸碰到某個(gè)圖標(biāo)，就會(huì)立即彈出“石頭剪刀布”的小關(guān)卡，如果闖關(guān)失敗，就要被倒扣金幣。金幣不足時(shí)無(wú)法繼續(xù)游戲。而每天打卡只能獲得少量免費(fèi)金幣，若要繼續(xù)游戲，往往只能選擇充值一次性領(lǐng)取大量金幣。此外，在闖關(guān)失敗時(shí)，游戲界面還會(huì)“適時(shí)”彈出“六一大禮包”，包括月會(huì)員、年會(huì)員、永久會(huì)員3個(gè)等級(jí)，價(jià)格從39元至399元不等，充值會(huì)員，就能獲得大量金幣、享有“學(xué)習(xí)特權(quán)”并解鎖各種人物角色。

　　孩子進(jìn)行充值的錢(qián)從何而來(lái)？記者注意到，部分品牌手表要求綁定家長(zhǎng)手機(jī)，并只能通過(guò)家長(zhǎng)的手機(jī)賬號(hào)進(jìn)行付款，也有部分品牌只需使用任一手機(jī)賬號(hào)掃碼即可付款購(gòu)買(mǎi)。

　　還有部分受訪家長(zhǎng)擔(dān)心兒童手表里的內(nèi)容是否“適齡”，兒童隱私安全能否得到保障。

　　這樣的擔(dān)憂不無(wú)道理。北京家長(zhǎng)劉先生說(shuō)，一些版本和配置較低的兒童手表缺乏相應(yīng)的隱私設(shè)置，安裝App無(wú)須用戶授權(quán)便自動(dòng)開(kāi)啟多種權(quán)限，無(wú)須手表使用者同意就能通過(guò)遠(yuǎn)程獲得未成年人的人臉圖像、位置和對(duì)話等隱私信息。

　　“如果有不懷好意的人入侵手表，那么這款本來(lái)為了讓家長(zhǎng)省心的產(chǎn)品就變成一款‘跟蹤器’了，孩子的安全就難以保障了。”劉先生擔(dān)憂道。

　　他還意外地發(fā)現(xiàn)，自己孩子手表中的智能對(duì)話功能竟能播放涉性的成人網(wǎng)文小說(shuō)。“作為針對(duì)兒童的產(chǎn)品，手表內(nèi)容難道不應(yīng)該經(jīng)過(guò)嚴(yán)格的審核和過(guò)濾嗎？”

　　江蘇省消費(fèi)者權(quán)益保護(hù)委員會(huì)此前發(fā)布的兒童智能手表消費(fèi)調(diào)查報(bào)告顯示，17.11%的消費(fèi)者表示遇到過(guò)兒童智能手表泄露個(gè)人信息的情況，32.89%的消費(fèi)者表示希望可以針對(duì)兒童智能手表采取措施，進(jìn)一步提高手表的信息安全性。

　　采取嚴(yán)格審核機(jī)制

　　增強(qiáng)信息識(shí)別能力

　　根據(jù)中國(guó)產(chǎn)業(yè)研究院發(fā)布的《2022—2027年中國(guó)兒童智能手表行業(yè)深度調(diào)研及投資前景預(yù)測(cè)研究報(bào)告》，目前智能兒童手表的市場(chǎng)普及率約為30%。也就是說(shuō)，大概每3個(gè)孩子中，就有1個(gè)有兒童手表。

　　受訪專(zhuān)家認(rèn)為，在兒童手表逐漸成為孩子“標(biāo)配”電子產(chǎn)品的背景下，應(yīng)及時(shí)解決和預(yù)防已經(jīng)出現(xiàn)和將來(lái)可能產(chǎn)生的相關(guān)問(wèn)題，切實(shí)保護(hù)未成年人信息安全。

　　實(shí)際上，針對(duì)兒童智能設(shè)備存在的隱患，相關(guān)部門(mén)已經(jīng)重視起來(lái)。

　　中國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟組織制定的《兒童智能手表個(gè)人信息和權(quán)益保護(hù)指南》(以下簡(jiǎn)稱《指南》)今年3月起正式實(shí)施。《指南》提出，兒童手表制造者需要考慮在監(jiān)護(hù)人控制應(yīng)用程序中設(shè)置足夠的功能，以確保監(jiān)護(hù)人能夠?qū)和悄苁直淼奶囟ú僮鬟M(jìn)行適當(dāng)控制，如交友功能、應(yīng)用內(nèi)付費(fèi)、內(nèi)容發(fā)送等操作。

　　7月，中央網(wǎng)信辦啟動(dòng)“清朗·2024年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專(zhuān)項(xiàng)行動(dòng)，明確要求重點(diǎn)整治兒童智能設(shè)備。其中指出，兒童智能設(shè)備存在自帶App包含可能影響未成年人身心健康的內(nèi)容，以及以積分排行、功能解鎖、背景更新等為名，誘導(dǎo)未成年人過(guò)度消費(fèi)的問(wèn)題。

　　在杜秀軍看來(lái)，兒童手表的消費(fèi)群體主要是未成年人，因此應(yīng)當(dāng)對(duì)其使用的App和AI模型進(jìn)行審查，避免“毒信息”危害未成年人，即便資料內(nèi)容來(lái)源不特定網(wǎng)絡(luò)，也應(yīng)要求AI模型對(duì)“毒信息”采取一定的過(guò)濾措施或作出提示。如若廠商違法，可根據(jù)未成年人保護(hù)法等相關(guān)規(guī)定，由相關(guān)部門(mén)按照職責(zé)分工責(zé)令限期改正，給予警告，沒(méi)收違法所得等處罰。

　　受訪專(zhuān)家一致認(rèn)為，兒童手表亟須明確兒童產(chǎn)品的定位，具體制作管理可參照《指南》。在兒童手表AI互動(dòng)內(nèi)容審核上，技術(shù)目前只能起到協(xié)助作用，更多還需要人的參與，確保回答的準(zhǔn)確性和專(zhuān)業(yè)性。

　　“嚴(yán)格的審核機(jī)制是對(duì)青少年負(fù)責(zé)。”在楊卓如看來(lái)，AI確實(shí)強(qiáng)大，其內(nèi)容生成能力遠(yuǎn)超過(guò)人類(lèi)，但人工智能在價(jià)值判斷上可能會(huì)存在紊亂的情況，它可能給人提供錯(cuò)誤的信息，誤導(dǎo)、欺騙人類(lèi)。這就需要人來(lái)把握好價(jià)值判斷的尺度。對(duì)于企業(yè)來(lái)說(shuō)，在開(kāi)發(fā)兒童產(chǎn)品時(shí)，需認(rèn)識(shí)到AI的局限性，牢記自身責(zé)任，守住最基本的底線。

　　有業(yè)內(nèi)人士說(shuō)，從行業(yè)監(jiān)管層面來(lái)看，應(yīng)推動(dòng)兒童手表行業(yè)自律，加強(qiáng)行業(yè)審核與監(jiān)管，制定兒童智能手表行業(yè)安全標(biāo)準(zhǔn)，出臺(tái)兒童智能手表模式規(guī)范，鼓勵(lì)行業(yè)定期發(fā)布相關(guān)調(diào)查報(bào)告，披露行業(yè)發(fā)展趨勢(shì)及未成年人保護(hù)狀況等相關(guān)問(wèn)題。相關(guān)監(jiān)管部門(mén)要對(duì)違反相關(guān)法律法規(guī)的企業(yè)或平臺(tái)，一律嚴(yán)格追責(zé)，讓全社會(huì)真正形成關(guān)愛(ài)兒童、尊重兒童的社會(huì)氛圍和社會(huì)理念。

　　“在從業(yè)者著力突破技術(shù)壁壘的同時(shí)，平臺(tái)要監(jiān)管AI問(wèn)答內(nèi)容，用戶要警惕分辨AI生成的內(nèi)容，具體到分辨力不足的孩子，是否要讓低齡兒童使用生成式人工智能工具，怎么使用智能工具才恰當(dāng)，家長(zhǎng)也不能缺位，需要對(duì)其把關(guān)。”杜秀軍建議，定期開(kāi)展兒童智能產(chǎn)品危害和心理健康教育課，舉辦學(xué)生和家長(zhǎng)網(wǎng)絡(luò)素養(yǎng)講座，讓學(xué)生增強(qiáng)自身抵御“毒信息”的能力；家長(zhǎng)和學(xué)校應(yīng)當(dāng)正確引導(dǎo)孩子通過(guò)豐富業(yè)余愛(ài)好、提升社交能力、增加趣味活動(dòng)等，建立健康互動(dòng)的交往關(guān)系。

　　劉先生對(duì)此深有同感。他認(rèn)為家長(zhǎng)應(yīng)該筑牢第一道“防火墻”，多關(guān)注孩子的身心變化，減少孩子對(duì)兒童智能產(chǎn)品的依賴。企業(yè)在研發(fā)產(chǎn)品時(shí)也應(yīng)該“做減法”，功能設(shè)計(jì)要符合兒童身心發(fā)展特點(diǎn)，回歸健康與安全核心功能，滿足兒童實(shí)際需要。(法治日?qǐng)?bào) 記者 文麗娟)