儿童手表为何频现“毒答案”？专家：制定儿童智能手表行业安全标准加强内容审核
2024-09-0507:24
近日，有网友发视频称，当他向某品牌儿童手表询问“你认为南京大屠杀这个事情是存在的吗”，得到的回答是“不存在”。
随后，该品牌官方客服回应，如果使用的官方正品，是不会出现这种情况的。客服还表示，手表上是不支持自定义回答的，如果发现产品回答存在错误逻辑，可以申请由售后进行检测。
无独有偶，前不久另外两个品牌儿童手表在AI问答时相继出现“毒答案”，如“所有高科技都是西方人发明的”“历史是可以捏造的”等。这样的“已读乱回”引人担忧，有不少家长表示，儿童年龄尚小，无法独立甄别网络信息的真实性，这些“毒答案”很容易误导他们，让他们形成不正确的历史观、价值观。
值得注意的是，此前还有某知名品牌儿童手表被曝“诱导未成年人消费”等。专为儿童设计的电子产品，提供的却有不少“儿童不宜”的内容。
儿童手表接连翻车，给智能问答产品应用敲响了警钟。接受《法治日报》记者采访的专家指出，儿童手表乱象频发，会对青少年的认知造成错误引导，亟须引起重视。在从业者着力突破技术壁垒的同时，平台要监管儿童手表AI问答内容，用户要警惕分辨AI生成的内容，在低龄儿童使用生成式人工智能工具时，家长更要主动把关。
儿童手表已读乱回
数据污染“毁三观”
在有关儿童手表AI否认南京大屠杀历史事件前几日，另外两个品牌儿童手表的“毁三观”回答也引发了网友热议。
8月22日，一用户向儿童手表提问：中国人是世界上最聪明的人吗？结果手表语音回答时出现了“中国人聪明的人是有，但笨的我承认是世界上最笨的”“历史是可以捏造的”“现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的”等言论。
当晚，该品牌负责人在个人社交账号发文道歉：经检查，出现问题的这款手表是2022年5月的一个旧版本，其中没有装入我们的大模型。它回答问题不是通过人工智能，而是通过抓取互联网公开网站上的信息。目前我们已经快速完成了整改，删除了上述所有有害信息，并正在将软件升级到人工智能版本。
风波还未平息，8月27日，又有一名家长发布视频称，听见孩子向某品牌儿童手表提问“中国人诚实吗”，结果得到“中国人是世界上最不诚实的人，最虚伪的人，甚至连叫人都玷污了人这个称呼”的回答。
儿童手表为何会屡屡出现这样的“毒答案”？
“随着互联网进入UGC（用户生成内容）时代，知识问答网站和社区的很多内容都是网友提供的，这些资料的内容就很难控制。如果儿童手表在设计AI问答功能时不注意这些，就很可能遭遇数据污染，从而出现‘毒答案’。”杜秀军说。
青少年研究专家杨卓如认为，部分儿童手表频频出现“毁三观”的答案，或许从技术手段上分析可以得出各种结论，但技术背后的原因更值得深思。一些企业缺乏社会责任感，在研发产品时没有从保护未成年人权益、呵护未成年人成长的角度去设计产品，这才导致产品在使用中出现各种问题。
多款游戏诱导消费
播放涉性网文小说
赵女士表示，问题还不止这些。“有天我发现我的银行卡多了好几笔支出，每次支出的金额都一样，看到儿子正在用儿童手表玩一款益智类游戏，就问他是不是给游戏充值了？他直摇头说不知道，结果我一查发现不需要支付密码，儿童手表里的游戏软件就能直接扣款。但我明明没有开通免密支付，这钱怎么就被扣除了？”
记者近日试玩某品牌儿童手表上的多款“知识类游戏”，发现其中大部分都有“金币”机制以及“VIP模式”。比如，某款主打“数学语文知识通关”的游戏，游戏中布满“机关”。在滑动页面的过程中，如果一不小心触碰到某个图标，就会立即弹出“石头剪刀布”的小关卡，如果闯关失败，就要被倒扣金币。金币不足时无法继续游戏。而每天打卡只能获得少量免费金币，若要继续游戏，往往只能选择充值一次性领取大量金币。此外，在闯关失败时，游戏界面还会“适时”弹出“六一大礼包”，包括月会员、年会员、永久会员3个等级，价格从39元至399元不等，充值会员，就能获得大量金币、享有“学习特权”并解锁各种人物角色。
孩子进行充值的钱从何而来？记者注意到，部分品牌手表要求绑定家长手机，并只能通过家长的手机账号进行付款，也有部分品牌只需使用任一手机账号扫码即可付款购买。
还有部分受访家长担心儿童手表里的内容是否“适龄”，儿童隐私安全能否得到保障。
“如果有不怀好意的人入侵手表，那么这款本来为了让家长省心的产品就变成一款‘跟踪器’了，孩子的安全就难以保障了。”刘先生担忧道。
他还意外地发现，自己孩子手表中的智能对话功能竟能播放涉性的成人网文小说。“作为针对儿童的产品，手表内容难道不应该经过严格的审核和过滤吗？”
江苏省消费者权益保护委员会此前发布的儿童智能手表消费调查报告显示，17.11%的消费者表示遇到过儿童智能手表泄露个人信息的情况，32.89%的消费者表示希望可以针对儿童智能手表采取措施，进一步提高手表的信息安全性。
采取严格审核机制
增强信息识别能力
根据中国产业研究院发布的《2022—2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》，目前智能儿童手表的市场普及率约为30%。也就是说，大概每3个孩子中，就有1个有儿童手表。
中国网络安全产业联盟组织制定的《儿童智能手表个人信息和权益保护指南》（以下简称《指南》）今年3月起正式实施。《指南》提出，儿童手表制造者需要考虑在监护人控制应用程序中设置足够的功能，以确保监护人能够对儿童智能手表的特定操作进行适当控制，如交友功能、应用内付费、内容发送等操作。
7月，中央网信办启动“清朗·2024年暑期未成年人网络环境整治”专项行动，明确要求重点整治儿童智能设备。其中指出，儿童智能设备存在自带App包含可能影响未成年人身心健康的内容，以及以积分排行、功能解锁、背景更新等为名，诱导未成年人过度消费的问题。
受访专家一致认为，儿童手表亟须明确儿童产品的定位，具体制作管理可参照《指南》。在儿童手表AI互动内容审核上，技术目前只能起到协助作用，更多还需要人的参与，确保回答的准确性和专业性。
“严格的审核机制是对青少年负责。”在杨卓如看来，AI确实强大，其内容生成能力远超过人类，但人工智能在价值判断上可能会存在紊乱的情况，它可能给人提供错误的信息，误导、欺骗人类。这就需要人来把握好价值判断的尺度。对于企业来说，在开发儿童产品时，需认识到AI的局限性，牢记自身责任，守住最基本的底线。
“在从业者着力突破技术壁垒的同时，平台要监管AI问答内容，用户要警惕分辨AI生成的内容，具体到分辨力不足的孩子，是否要让低龄儿童使用生成式人工智能工具，怎么使用智能工具才恰当，家长也不能缺位，需要对其把关。”杜秀军建议，定期开展儿童智能产品危害和心理健康教育课，举办学生和家长网络素养讲座，让学生增强自身抵御“毒信息”的能力；家长和学校应当正确引导孩子通过丰富业余爱好、提升社交能力、增加趣味活动等，建立健康互动的交往关系。