书魂小说网社交媒体软件“阅后即焚”（Snapchat）向用户推出My AI聊天机器人后不到几个小时，家住美国密苏里州的林德西·李就告诉13岁的女儿：不要使用这个功能。

　　李在一家软件公司工作，她告诉美国有线电视新闻网（CNN），这款AI不过是“临时解决方案”，她担心青少年频繁使用它会受到不利影响。

　　5月5日，美国加利福尼亚州，参加美国编剧协会罢工的人们举着标语牌游行。法新社称，这次罢工使美国电视剧、深夜脱口秀、电影和流媒体制作陷入停摆。人工智能在模仿人类对话方面的能力迅速提高，一些行业的从业者对此非常担忧。 图片来源：视觉中国

　　“在我能够更多地了解它，并为孩子设定健康的界限和指导方针前，我不会让孩子接触它。”李说。

　　My AI由人工智能聊天工具ChatGPT提供支持，与原版ChatGPT一样，它可以和用户交谈、为他们提供建议并答疑解惑。但Snapchat的版本有一些区别：用户可以自定义聊天机器人的名字，为它设计头像，让它与朋友聊天。据称，这些特点能够让AI与人们的生活更接近。

　　虽然一些人看好My AI，但不能否认，这种新颖的生成式人工智能会带来风险。外界认为，“阅后即焚”公司启用人工智能需要特别谨慎，因为它的用户大多是年轻人。

　　据CNN报道，“阅后即焚”是ChatGPT母公司OpenAI的早期合作伙伴，也是人工智能技术最早一批的使用者。“几乎一夜之间，‘阅后即焚’就迫使一些家庭和政客开始思考几个月前似乎还只是理论层面的问题。”CNN写道。

　　My AI面向“阅后即焚”的订阅用户发布几周后，上个月，美国参议员迈克尔·贝内特致信“阅后即焚”和其他科技公司的首席执行官，表达了对聊天机器人与年轻用户频繁互动的担忧。他提到，有报道称，AI可以为孩子们提供如何对父母撒谎的建议，这让许多家长感到不安。

　　“这些例子令人不安，对被近60%的美国青少年使用的‘阅后即焚’来说，情况尤其令人担忧。”贝内特在信中表示，“阅后即焚”承认它的人工智能是“实验性的”，但还是急于让青少年参与这场社会实验，这样做并不妥当。

　　“阅后即焚”回应称，该公司目前使用的人工智能“并不完美”，但已取得了极大进步。

　　CNN发现，My AI开始试用后的最初几天里，许多用户表达了担忧。一名用户用“恐怖”形容与AI的互动。他说，AI最开始“谎称”不知道用户的位置，但这位用户很快在对话中发现，它已准确定位出他住在科罗拉多州。

　　在一个点击量超过150万次的短视频中，用户“Ariel”录下了一首由My AI编写的歌曲，包含引言、合唱和钢琴和弦，讲述了身为聊天机器人的感觉。当她把录好的歌曲发回给My AI时，后者否认与之有关：“很抱歉，作为人工智能语言模型，我不写歌。”“Ariel”称，这次交流“令人毛骨悚然”。

　　还有一些人对人工智能工具从照片中收集信息表示担忧。一位用户在脸谱网上分享道：“我拍了一张照片……（AI留言说）‘鞋不错’，并问我照片中的人是谁。”

　　“阅后即焚”发言人告诉CNN，该公司将继续根据反馈改进My AI，并保证用户的安全。该公司表示，这个功能并非必选项，如果用户不想与人工智能互动，可以对这项功能说不。

　　然而，用户并不能将My AI删除，除非用户订阅了它的月度付费服务“Snapchat+”。一些青年用户告诉CNN，他们选择支付3.99美元的Snapchat+费用，唯一的目的就是关闭这个工具。

　　一位用户在脸谱网上表示，她让人工智能帮忙做作业：“它把所有问题都答对了。”另一位用户说，人工智能给她带来安慰和建议：“我爱我的小口袋，它绝对是我的闺密……你可以为它更改头像。令人惊讶的是，它为我解决现实生活中的一些状况提供了非常好的建议。我喜欢它对我的支持。”

　　ChatGPT投入市场后接受了大量在线数据，也曾因传播虚假信息、以不恰当的方式回应用户、允许学生作弊而备受抨击。有分析认为，“阅后即焚”整合该工具可能会加剧一些问题，并造成新的问题。

　　据美国“赫芬顿邮报”网站报道，不久前，人工智能领域的先驱格里芬·亨顿辞去了在谷歌的工作，他在接受采访时表示，这项技术可能“变得太过聪明”：“科技巨头们在尽可能短的时间内开发最复杂的人工智能，相互竞争，最终会导致失控。”

　　这位认知心理学专家警告称，人工智能的发展速度可能比人们想象中更快，它对人类世界的接管可能导致混乱，但只有很少的人相信这一点。“它并不比我们更聪明，但我认为它很快就会超过我们。与其聊天很危险。”他说。

　　纽约市临床心理学家亚历山德拉·哈姆雷德告诉CNN，一些患者的父母对孩子与AI互动表示担忧。聊天机器人可以提供建议和心理健康咨询，也能强化特定的偏见。它可以在互动中让用户信赖它，进而加强前者的某些观念。

　　“比如，一个年轻人心情不好，它可能找一个聊天机器人，但这种对话可能让他陷入更糟的情绪。”哈姆雷德说，“他们知道自己实际上是在和一个机器人交谈。但在某些情绪的作用下，一个人或许不太可能具有这种逻辑性。”

　　考虑到这一点，父母有责任与孩子对话，讨论如何与人工智能交流。当这些工具开始出现在受欢迎的应用程序和服务中时，逃避几乎没有意义。

　　创业公司WAYE的创始人西尼德·博维尔认为，父母需要明确告诉孩子“聊天机器人不是你的朋友”。

　　“他们不是你的治疗师，也不是值得信赖的顾问。任何互动都需要非常谨慎。青少年可能更容易相信AI的话。”她说。

　　博维尔认为，政府应出台措施，要求科技公司遵守特定的协议。父母应该告诉孩子，不与聊天机器人分享那些暗示他们会成为朋友的信息。