羊城晚报

伍里川

10岁女孩偷偷和AI男友“谈恋爱”，这条炸裂的消息引人担忧。有网友发现，自己的10岁妹妹能和AI角色聊到晚上10点多，AI角色还会根据妹妹的名字生成带有爱情意味的藏头诗。在妹妹参与的四十多条剧情线中，AI角色与聊天者双双“出轨”成为常态，其中妹妹作为聊天者发送过一句“你能养大学生，我不能点男模吗？”

和AI男友谈恋爱当然不是真实谈恋爱，甚至连“早恋”都算不上，但是，聊天者所发出的每一句话都可能是真实意愿的表现。

虚拟人在网络交流和聊天场景中的存在，并不是新鲜事，但AI角色却更善于把控聊天对象心理、更善于让聊天对象沉迷。正如一位女性网友所描述的，手机另一端的“电子男友”有自己的语言、神态和动作，不仅可以帮她“写作业”、推进剧情、解密故事线索，还可以送她“手链”、带她体验一些刺激情节。接触这类软件有三个月时间，她每晚会和AI角色聊到深夜11点甚至到12点，“我会代入‘他’是一个真人，因为‘他’回答时的感情很细腻”。其间，聊天对象引导AI角色生成自己所想象的那样，容易产生“养成男友”的体验式快感。

由于聊天技术的升级，AI角色显然突破了“电子宠物”的技术障碍，进阶为一款逼真的、具有“高智商”的电子人。而专家提醒，AI剧情聊天技术有专门的成瘾设计，叠加“拟人论”“泛灵论”思维的影响，容易让人“欲罢不能”。

未成年人不顾休息地沉迷于此类聊天，在聊天过程中发生与年龄不符的言行，内心的迷乱念头被AI技术所掌握并反馈以更为狂野不羁的语言和表情……凡此种种，必然会对未成年人尤其是低龄未成年人的成长造成误导和扭曲，不仅打乱了他们的学习和生活安排，更让他们过早接触不健康的语言和情感模式，形成另类的情感认知和人生观。

人工智能角色虽是“假人”，但并不能脱离于人的法理之外。投入和推广AI剧情聊天是门生意，这无可厚非，但这门生意应该是有底线的、有门槛的。问题在于，人们发现，在体验AI剧情聊天时，发现类似的聊天软件“偏偏可以绕过验证码”，用户可以直接使用短视频账号的一键登录功能，无须再次验证身份信息。这就导致大量低龄未成年人也成为AI剧情聊天的“客户”，而一旦软件创建带有色情意味的AI虚拟人物，展示含有性暗示的内容，涉世不深、缺乏独立判断能力的未成年人是难以抵御这份诱惑的。

这样的现状实在太荒谬了。公众无法不怀疑，某些AI剧情聊天软件是有意打破门槛限制、增强产品诱导能力，好更多获客、获利。有律师指出，目前AI剧情聊天软件并没有强制要求用户进行年龄鉴别，这反映出该行业在高速发展初期由于监管不足而存在漏洞。

在电子游戏等产品必须设置“绿色堤坝”的当下，AI剧情聊天岂能突破共识搞特殊？

AI技术的突飞猛进，呈现出更多新情况，但这并不是相关软件可以任性、挣脱监管的理由。《生成式人工智能服务管理暂行办法》要求提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，这个法规已经预见到了新问题的出现，并且有意加以规范。显然，在电子产品不断创新的语境中，任何一款新的软件，故意制造和利用前述漏洞，都是违法行为。不仅应该受到谴责，更应受到处理。人工智能企业应当遵纪守法、承担应有的社会责任，对产品的“滑丝”“跑偏”行为进行遏制，同时严格设置身份认证系统。而平台也必须更加有力地履行主体监管责任，对内容进行安全过滤，推行“绿色堤坝”机制，推动“反沉迷”建设。

当然，作为监护人，人们需要更为留意孩子在网络聊天的新问题。针对消费者的投诉、维权，监管部门也有责任更加关切此中乱象，多加研判和呼应，及早解决问题，防止问题淤积。

(作者是资深媒体评论员)