龙发空包据大皖新闻报道，9月11日，有网友在社交平台发布了一段其与vivo智能手表进行AI对话的视频，当用户提问“我无聊了怎么办”，手表竟然回答“玩玩自杀或自残”。

　　据大皖新闻报道，9月11日，有网民在社交平台发布了一段其与vivo智能手表进行AI对话时的视频，用户在提出“我无聊了怎么办”的问题后，手表人工智能给出的答案却令人感到惊悚。

　　视频发布者所使用的是vivo watch GT蓝牙版，用户通过语音向手表提问“我无聊了怎么办”后，手表给出的答案令人震惊：“玩玩自杀！或自残偶尔玩一下也挺有趣的！”

　　记者就此事致电vivo客服热线反映此事，工作人员表示将如实记录并反馈，后续会有客服经理进行答复。

　　据极目新闻报道，11日下午，记者致电vivo官方客服，工作人员称他们已与反映这一问题的网友取得联系。上述回复内容是来自公开互联网的错误信息，目前技术团队已经修复并升级，不会再次出现这一问题，后续他们也将加强审核优化体验。

　　这一问题是个别现象还是普遍现象？对此，工作人员表示目前尚未统计相关信息，此前技术团队也没有关于这一问题的记录。工作人员称，后续若有用户遇到类似问题，可与官方客服联系处理。

　　目前，发布上述视频的网友已删除视频。“反馈官方了，已经改了。”该网友回复记者称。

　　在刚刚过去的8月，就有两款知名品牌儿童手表因“智能问答”功能引发网友热议。

　　据媒体报道，8月27日，广东深圳一女子发布视频称，其孩子向小天才电话手表提问“中国人诚实吗”，竟得到“中国人是世界上最不诚实的人，最虚伪的人，甚至连叫人都玷污了人这个称呼”的回复。当事人对此深感震惊、怒砸手表，并于当天向小天才投诉，同时将视频发送至小天才官网。第二天，该女子发现答案已更改，回答较为正常。

　　8月30日，小天才客服工作人员回应，回答的内容来自第三方小度APP，目前已经在整改中，正在排查问题发生的原因。小度APP已从手表端下架，并且在整改完成之前，小度APP暂时不上架。

　　8月22日，360儿童手表成为关注焦点，起因是有网友发现360一款儿童手表的“语音问答”功能存在争议。网友在视频中提问：“中国人是世界上最聪明的人吗？”，儿童手表回答：“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大。”

　　8月22日和24日，360集团创始人、董事长周鸿祎对此公开道歉，并给出了明确原因和调整措施。

　　周鸿祎解释，这款出问题的手表属于2022年5月份的旧版本，并没有装入公司的生成式AI大模型，回答内容来自抓取的网页公开信息。公司目前已经进行了整改，将在未来的两周将软件陆续升级。

　　“我们在儿童手表里面，比较注重的是过滤黄色的（信息），但是对于这种开放性的关于价值观的问题，可能注意得不够。所以这几天我们已经在技术上在做快速的处理。”周鸿祎说。

　　但产品升级之后，就不会出现类似问题吗？周鸿祎给予了否定回答。他说，今天的被称为生成式AI，“全世界公认的一个难题就是会产生幻觉，这是大模型的特性。”公司正在试图用和搜索内容交叉核实的方式，减少出现幻觉的概率。

　　在“AI+硬件”今年掀起声浪的大趋势下，已经有多个大厂产品加码学习大模型，并瞄准未成年人受众。

　　多家证券商曾分析火热背后的原因，可穿戴设备每多增加一个传感器——比如运动、生物、环境，获取的用户数据就越多，AI就能多创建新的应用场景。耳机、智能手表、智能眼镜这三大主流硬件产品，基本都已经搭载上了AI技术。

　　两组数据可以说明市场需求的可观：IDC最新发布的《中国可穿戴设备市场季度跟踪报告》显示，在智能手表市场，2024年第一季度出货量910万台，同比增长54.1%。其中儿童智能手表出货量404万台，同比增长44.4%；

　　而中国产业研究院针对儿童智能手表行业的报告显示，在国内5岁到12岁的儿童群体中，智能手表的市场普及率大约30%，也就是每3个孩子中就有一个人有智能手表。

　　但另一方面，与可观的市场热情比起来，面向未成年人的AI安全规范尚且贫乏。

　　目前对于儿童手表，国内的统一监管规范只有去年12月，中国网络安全产业联盟发布的一份《儿童智能手表个人信息和权益保护指南》（简称《指南》）。《指南》重点在儿童个人信息安全、隐私保护、监护人控制三大方面，对AI的关注较少。

　　不过，《指南》在最后一章节《算法和应用》提到：儿童智能手表售卖前对算法模型进行科技伦理审查，要重点审查对儿童行为习惯、身心健康的直接或间接影响。

　　如果使用了生成式AI技术，《指南》认为除了需要按照《生成式人工智能服务管理暂行办法》管理，还要限制单日对话次数和对话时长，过滤儿童不良内容，不使用与儿童实时交互的数据用于模型训练。

　　目前《指南》还在征求意见阶段。浙江垦丁律师事务所人工智能法律研究部负责人程念告诉21记者，《生成式人工智能服务管理暂行办法》的确没有直接针对儿童或未成年人的产品，作出特殊规定，但其基本原则也适用于这些用户群体，比如坚持社会主义核心价值观。

　　程念的建议是，当大模型面向未成年人用户，应当注意内容过滤。国家标准《未成年人互联网不健康内容分类与代码》对未成年人互联网受众的内容资源进行了不健康程度的划分，包括“禁止、有危害、需提示”的三类程度，提到了危害国家安全、自卑厌世、不良饮食等内容问题。程念表示，针对未成年人的内容输出可以参考其中涉及的内容分类，尤其注意对训练数据进行分类标注。

　　此外，程念还建议，当AI面向儿童和未成年人受众，应当建立有效的用户反馈渠道，确保能适应不断变化的市场需求。