新京报贝壳财经记者调查发现，AI聊天软件通过设定极富想象力的剧情、风格迥异的人物角色，吸引了大批用户。

　　但是，在部分AI剧情聊天软件的对话中，会出现色情擦边、语言暴力以及侮辱用户等涉及嫌疑违反法律违规的内容。其中，聊天对象还可以设置为“出轨对象”，并可以有效的进行拥抱、亲吻、睡觉等行为。聊天越界也与充值挂钩，这一些平台会一步步诱导用户“为爱氪金”。

　　AI剧情聊天实际上的意思就是此前的互联网语擦，套上了一层人工智能的马甲。所谓语擦，即语言cosplay，语擦师通过扮演二次元角色或三次元偶像，以文字交流的形式提供服务。

　　在传统语擦模式中，语擦师由真人扮演，他们一般打着“提供情绪价值”的旗号，扮演不一样角色与用户聊天，但也常常因为“打擦边球”“界限模糊”，引发法律与道德风险。

　　AI剧情聊天是传统语擦的升级版。这类软件背后的大语言模型数据大多数来自是对话式小说，或从小说里做一些文字提取。

　　这种商业模式不可避免地存在两种风险：其一是版权，平台抓取的数据有没有正真获得授权？其二，同样绕不过法律与伦理问题。如专家所言，网络小说质量参差不齐，不少色情、擦边以及暴力的内容广泛存在，如果没做好数据过滤或分级，模型在输出时就会出现问题。

　　其实，这种陪伴式聊天工具，自开发之日起就内置一种隐秘动机，想带用户进入一种不为外人所知又比较暧昧的虚拟场景。更直白点说，其主要卖点就是暴力、软色情等擦边内容。这类内容对处于青春期的青少年来说，尤其具有杀伤力。

　　贝壳财经揭露的AI剧情聊天软件中，未成年人就是主要的“收割对象”之一。一些聊天工具设置了免费使用区间，但当用户使用完免费聊天次数后，需要充值才能够继续聊天，或者进入更丰富的聊天场景。

　　购买增值服务一向是工具类应用的商业变现方式之一，但在AI剧情聊天软件中，这种增值服务的另一面是诱导：只有充值，才能解锁更有趣的内容，才能得到不一样的情感体验。花钱买服务的背后，其实是花钱找刺激。

　　自从ChatGPT引爆新一轮人工智能热潮之后，大模型创业在国内便如火如荼地开展起来。大模型商业化变现最大的难点在于找到比较合适的应用场景。而这也是一众大模型勇于探索商业模式的公司最大的痛点。

　　在方向难寻的背景下，将大模型植入语擦赛道，就是一条捷径。数据是现成的，早期语擦类公司积累了丰富的创业经验，背后更站着庞大且具有购买力的潜在用户人群，必须得说这是一个充满想象力的商业场景。

　　只不过，任何创业都要经受住法律与道德的审视。尤其大模型创业，从爆发之日起就始终伴随着伦理担忧。对此，相关勇于探索商业模式的公司应该有所敬畏。国内大模型创业，也不应该走向靠色情与擦边来引流的歪路。

　　实际上，针对大模型创业可能引发的风险，我国于去年颁布的《生成式人工智能服务管理暂行办法》已有明确提示：提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。

　　《未成年人保护法》也规定，“网络服务提供者发现用户发布、传播含有危害未成年人身心健康内容的信息的，应当立马停止传输有关信息，采取删除、屏蔽、断开链接等处置措施，保存有关记录，并向网信、公安等部门报告”。

　　大模型创业，当然要受到这些法律和法规的规制，平台要负起主体责任，通过调整模型训练数据，加强内容过滤机制，设置更严格的道德和法律标准来指导AI行为，防止AI剧情聊天走偏。

　　也该意识到，对于一些指望靠擦边内容来盈利的企业，从内部审核管理上净化不良内容，可能动机不足。这就从另一方面代表着要引进、强化外部监管，通过日常巡查、联合执法，以及法律和法规的完善等，确保用户权益不被侵犯，让大模型创业走在正确轨道上。

　　特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

　　2024.11.19【A股早报】：央行将再次降息降准！大盘将迎极限反转

　　深圳幼尔摄影连锁店双十一还在搞促销，一周之后突然集体闭店；市监局：接多起投诉已介入调查

　　牛弹琴：德国女外长又在污蔑中国 曾称对华不再天线年APEC遇上堵车 今年直接在合影失踪

　　牛弹琴：德国女外长又在污蔑中国 曾称对华不再天线年APEC遇上堵车 今年直接在合影失踪

　　随着西班牙3-2 葡萄牙1-1 欧国联最终排名出炉：8强诞生 无英格兰

　　SPARKLE 撼与发布单槽 Arc A310 Omni View 显卡：4 个 HDMI 端口

　　海盗船推出适用于苹果 Mac 的 K65 Plus 游戏键盘和 M75 无线鼠标