儿童手表为何频现“毒答案”？

　　专家：制定儿童智①能手表行业安全标准加强内容审核

　　记者 文丽娟

　　近日，毒答案有网友发视频称，儿¤童当他向某品牌儿童手表询问“你认为南京大屠杀这个◥事情是手表存在的吗”，得到的为何回答是“不存在”。

　　随后，频现该品牌官方客服回应，毒答案如果使用的儿童官※方正品，是手表不会出现这种情况的。客服还表示，为何手表上是频现不支持自定义回答的，如果发现产品回答存在错误逻辑，毒答案可以申请由售后进行检测◥。儿童

　　无独有偶，手表前不久另↘外两个品牌儿童手表在AI问答时Ψ 相继出现“毒答案”，为何如“所有高科技都是频现西方人发明的”“历史是可以捏造的”等。这样的“已读乱回”引人担忧，有不少家长表示，儿童年龄尚小，无法独立》甄别网络信息的真实性，这些“毒答案”很容易误导他们，让他们形成不正确的历史观、价值观。

　　值得注Ψ 意的是，此前还有某知名品牌儿童手表被曝“诱导未成年人消费”等。专为儿童设计的电子产品，提供的却有不少“儿童不宜”的内容。

　　儿童手表接连翻车，给智能问答产品应用≡敲响了警钟。接受《法治日报》记者采访的专家指出▃，儿童手表乱象频发，会对青少年的认知造成错误引导，亟须引起重视。在从业者着力突破技术◥壁垒的同时，平台要←监管儿童手表AI问答内容，用户要警惕分ξ辨№AI生成的内容，在低龄儿童使用生成式人工智能工具时，家长更要主动把关。

　　儿童手表已读乱回

　　数据污染“毁三观”

　　在有关儿童手表AI否认南京大屠杀历史事件前几日，另外两个品牌儿童手表的“毁三观”回答也引发了网友热议。

　　8月22日，一用户向儿童手表提╱问：中国人是世界上最ζ　聪明的人吗？结果手表语音回答时出现了“中国人聪明的人是有，但笨的我承认是世界上最笨的”“历史是可以捏造的”“现在的手╳机、电脑、高楼大厦、公路等等『所有高科技都是西方人发明的”等言论。

　　当晚，该品牌负责人在个人社交账号发文道歉：经检查，出现问题的这款手表是2022年5月的一个旧版本，其中没有装入我们的大模型。它回答问题不是通过人工智能，而是通过抓取互联网公开网站上的信息。目前我们已经快速完成了整改，删除了上述所有有害信息，并正在将软件升级到♀人工智能版本。

　　风波︽还未平息，8月27日，PG电子·(中国)官方网站-IOS/安卓版/手机APP官网下载又有一名家长发布视频称，听见孩子向某品牌儿童手表提问“中国人诚实吗”，结果得到“中国人是世界上最不诚实的人，最虚伪★的人，甚至连叫人都玷污了人这个〓称呼”的回答。

　　8月30日，上述事件相关企业发布整改公告回应称，针对用户反馈问题应用立即进行下架处理。针对含有应用商店的全线产品进行全面严格排查工作，进一步■强化上架前的第三方应用软件多重审核机制及上架应用巡检机制。

　　儿童手表为何会屡屡出现这样的“毒答案”？

　　有业∮内人士介绍，很多儿童手表回复的▅内容，实际是根据关键词进行网络检索，查找并呈现与关键词相关的内容。由于只是搜索抓取第三方网页的回答，得到的回复可能存在较大偏差。

　　北京市中闻律师事务所律师杜秀军长期关注AI大数㊣据相关领域，在他看来，AI主要基于大规模╲数据集训练出来的深度学习模型来回答提问，如果AI问答的资料内容来源于固定信息库，其控制相对容易，如果资料内容来源于不特定网络，控制难度明显增加甚至无△法控制。

　　“随着互联●网进入UGC（用户生成内容）时代，知识问答网站和社区的很多←内容都是网友→提供的，这些资料的内容就很难控制。如果儿童手表在设计AI问答功能时不注意这些，就很可能遭遇数据污染，从而出现‘毒答案’。”杜秀军说。

　　青少年研究专家杨卓如认为，部分〒儿童手表频频出现“毁三观”的答案，或许卐从技术手段上分析可以得出各种结论，但技术背后的原因更值得深思。一些企业缺乏社会责任感，在研发产品时没有从保护未成年人权益、呵护未成年人成长的角度去设计产品，这才导致产品＠在使用中出现各种问题。

　　多款游戏诱导消费

　　播放涉性网文小说

　　除了AI问答内容〒质量堪忧外，记者↙在第三方消费者投诉平台和社交平台检索发现，儿童手表中部分游戏软件重复扣款、多次扣款等问题也常被提及，不少家长表示孩子在使用儿童手表时极＠ 易被广告推送或游戏内容吸引，甚至进行充值∏消费。

　　湖南长沙市民赵女士的儿子从9岁起开始使用儿童手表。刚开始他还只会通过手表和父母通话，不到1个月的时间，他就自行学会了手表里各种应用程序的使用，现在路上只要看到同龄人◣也戴着儿童手表，便会凑上去嚷嚷着加好友。

　　赵女士表示，问〓题还不止这些。“有天我发现我的◤银行卡多了好几笔支出，每次支出的金额都一样，看到儿子正在用儿童手表玩一款益智类游戏，就问他是不是给游戏充值了？他直摇头说不知道，结果我一查发现不需要↘支付密码，儿童手表里↓的游戏软件就能直接扣款。但我明明没有开通免密支付，这钱怎么就被扣除了？”

　　记者近日试玩某品牌儿童手表上的多款“知识类游戏”，发现其中大部分都有“金币”机制以及“VIP模式”。比如，某款主打“数学语〇文知识通关”的游戏，游戏中布满∞“机关”。在滑动页面的过程中，如果一不小心触碰到▲某个图标，就①会立即弹出“石头剪刀布”的小关卡，如果闯关失败，就要被倒扣金币。金币不足时无法继续游戏。而每天打卡▃只能获得少量免费金币，若要继续游戏【，往往只能选择充值一次性领取大量金币。此外，在闯关失败时，游戏界面还会“适时”弹出“六一大礼包”，包括月会员ξ、年会员、永久会员3个等级，价格从39元至399元不等，充值会员，就能获得大◇量金币、享有“学习特权”并解锁各种人物角色。

　　孩子进行∞充值的钱从何而来？记者注意↑到，部分品牌手表要求绑定家长手机，并只能通过家长的手机账号进行付款，也有部分品牌只需使用任一手机账号扫码即可付款购买。

　　还有部分受访家长担心儿童手表里的内容是否ξ　“适龄”，儿童隐私〖安全能否得到保障。

　　这样的担忧不无道理。北京家长刘先生说，一些版本和配置较低的儿童手表缺乏相应的隐私设置，安装App无须用户授权便自动『开启多种权限，无须手表∩使用者同意就能通过远程获得未成年人的人脸图像、位置和对话等隐◇私信息。

　　“如果有不∑　怀好意的人入侵手表，那么这款∮本来为了让家长省心的产品就变成一款‘跟踪器’了，孩子的安全就难以保障了。”刘先生担忧道。

　　他还意外地发现，自己孩子∩手表中的智能对话功能竟能播放涉性的成人网文小☆说。“作为针对儿童的产品，手表内容难道不应该经过严格的审核和过滤吗？”

　　江苏省消费者权益保护委员会此前发布的〓儿童智能手表消费调查报告显示，17.11%的消费者表示遇到①过儿童智能手表泄露个人信息的情况，32.89%的消费者∩表示希望可以针对儿童智能手表采取措ㄨ施，进一步提高手表的信息安全性。

　　采取严格审核机制

　　增强信息识别能力

　　根据中国产业研究院发布的《2022—2027年中国▅儿童智能手表行业深度调研及投资前景预测研究↙报告》，目前智能儿童手表的市场普及率约为30%。也就是说，大概每3个孩子中，就有1个有儿童手表。

　　受访专家认为，在儿童手表逐渐成为孩子“标配”电子产品的背景下，应及时解决和预→防已经出现和将来可能※产生的相关问题，切实保护未成年人信息安全。

　　实际上，针对儿童智能设备存在的①隐患，相关部门已ぷ经重视起来。

　　中国网络安全产业联盟组织制定的《儿童智能手表个人信息和权益保护指南》（以下简称《指南》）今年3月起正式实施。《指南》提出，儿童手表制造者需要考虑在监护人控制应用程序中→设置足够的功能，以确保※监护人能够对儿童智能手表的特定操作进行适当控制，如交友功能、应用内付费、内容发送等操作。

　　7月，中央网信办启动“清朗·2024年暑期未成年∏人网络环境整治”专项行动，明确要求重点整治儿童智¤能设备。其中指出，儿童智能设备存在自带App包含可能影响未※成年人身心健康的内容，以及◤以积分排行、功能解锁、背景更新等为名，诱导未成年人过度消费的问题。

　　在杜秀军看⌒来，儿童手表的消费群体主要是未成年人，因此↙应当对其使用的App和AI模型进行审■查，避免“毒信息”危害未︻成年人，即便资料内容来源不特定网络，也应要求AI模型对“毒信息”采取一定的过滤措施或作出提示。如若厂商违法，可∏根据未成年人保护法等相关规定，由相关部门按照职责分工◤责令限期改正，给予警告，没收违法所得等处罚。

　　受访¤专家一致认为，儿童手表亟须明︻确儿童产品的定位，具体制作管理可参照《指南》。在儿童手表AI互动内容审核上，技术目前只能起到协助作用，更多还需要人的参与，确保回答的准确性和◤专业性。

　　“严格的审核机□　制是对青少年负责。”在杨卓如看来，AI确实强大，其内容生成能力远超过人类，但人工智能在价值判断上可能会存在紊乱的情况，它可能给人↓提供错误的信息，误导、欺骗人类。这就①需要人来把握好价值判断的尺度。对于企业来说，在开发儿童产ω品时，需认识到AI的局限性，牢●记自身责任，守住最基本的底线。

　　有业内人士说，从行业监管层面来看☉，应推动儿童手表行业自律，加强行业审核与监管，制定儿童智能手表行业安全标准，出台儿童智能手表模式规范▲，鼓励行业定期发布相关调查报告，披露行业发展趋势及未成年人保护状况等相关问题。相关监管部门要对违反相☉关法律法规的企业或平台【，一律严格∴追责，让全社会真正形成关爱儿童、尊重儿童的◆社会氛围和社会理念。

　　“在从业者着力突破技术◥壁垒的同时，平台要监管AI问答内容，用户要警惕分辨AI生成的内容，具体到分辨力不足的孩子，是否要让低龄儿童使用生成式人↑工智能工具，怎么使用▓智能工具才恰当，家长也不能缺位，需要对其把关。”杜秀军建议，定期开展儿童智能产品危害和心理健康教育课，举办学生和家长网〖络素养讲座，让学生▼增强自身抵御“毒信息”的能力；家长和学校应当正确引导孩子通过丰富业余『爱好、提升≡社交能力、增加趣味活动等，建立健康互动的交往关系。

　　刘先生对此深有同☆感。他认为家长应该筑牢第一道“防火墙”，多关注孩子的∑　身心变化，减少孩子对儿童智能产品的依㊣赖。企业在研发产品时也应该“做减法”，功能设计要符合儿童身心发展特点，回归健康与安全核心功能，满足儿童实际需要。

　　漫画/高岳