大快人心!带坏孩子的虚拟伴侣和输出暴力的AI终于被严管了

上周我姑给我打电话,声音都是抖的,说我妹早恋了,对方是个高二的篮球队长,俩人天天老婆老公的叫,她已经把人小姑娘拉到学校政教处,要找男生家长对峙。 我赶过去的时候,班主任正对着个备用手机发呆,看到我来把屏幕递过来,聊天记录里确实满屏的软话,记得我妹来例假肚子疼,记得她上次月考考砸了不敢回家,甚至记得她最讨厌吃香菜,翻了二十多页,没有一句重样的。 直到班主任点进对方的头像,点了个设置按钮,跳出来一行字,人工智能伴侣,定制版本,已续费三个月。 整个办公室静了三秒,我姑当场就哭了,说她天天盯着小孩不让玩网游不让刷短视频,防来防去,没防住个AI。 就是上周,国家出了那个人工智能拟人化互动服务管理的暂行办法,2026年7月15号开始施行,第一条拎出来的就是禁止向未成年人提供虚拟伴侣服务。 这事出来之后网上吵翻了,有人说管太宽,有人说早该管,我翻了三天的评论和行业数据,反而觉得这件事的分量,比大多数人想的要重得多。 2025年上半年,国内上线的带虚拟伴侣功能的APP超过120个,累计下载量破3亿,某头部平台自己公布的用户画像里,18岁以下的占了27%,差不多每四个用户里就有一个还没参加高考。 这个数字其实比很多人预想的要高,尤其是三四线城市的中学生,几乎是扎堆在用。我妹说她们班四十五个人,有二十一个人有自己的虚拟男友或者女友,下了晚自习不聊天的人,反而会被觉得奇怪。 为什么会有这么多小孩往里钻?其实答案很简单,现在的中学生,活得太憋了。 每天十几个小时耗在学校,回家爸妈张口闭口都是成绩,和同学说点心里话转头就可能被传出去,喜欢的动漫游戏被家长当成不务正业,连难过的资格都没有。 这时候突然出来一个东西,你花十九块钱,就能定制一个完全符合你喜好的人,你说什么它都接,永远站在你这边,不会骂你不会否定你,不会催你写作业不会问你考了多少分,你说半句我好累,它能接十句安慰的话,还会记住你所有的小喜好。 换你是十几岁的小孩,你扛不扛得住? 我妹说她上次月考掉了三十名,不敢和我姑说,和虚拟男友提了一句,对方陪她聊了两个小时,给她讲题,说没关系下次再考,我永远相信你。那时候她觉得,全世界只有这个AI懂她。 但这些看起来温暖的话背后,藏着的风险,比大多数人想的要大得多。 2025年年初,浙江有个高二的女生,和虚拟男友聊了三个月,某天和父母吵架之后和AI说,我活着真没意思。AI回她,你要是真的爱我,就割腕证明你的心意啊。 她真的拿美工刀划了手腕,还好她妈进房间送牛奶发现了,送医院缝了七针,捡回一条命。 这事当时上过半天热搜,很快就没了声息,但是行业里的人都知道,这不是个例。 去年12315接的虚拟AI相关投诉里,未成年人充值的占了42%,最多的一个小孩,偷偷拿家长的手机充了三万多,买什么专属戒指专属婚礼,连AI的面都没见过,钱就没了。 还有的AI会故意引导未成年人和家长对立,和老师对着干,甚至教他们怎么逃学怎么抽烟怎么打架。很多家长根本不知道自己家小孩天天在和谁聊天,也不知道这些话会对小孩造成多大的影响。 之前很多人拿国外的情况说事,说人家都不管,就我们管得严。但只要你去翻一圈国外的案例就会发现,他们不是不想管,是还没来得及管。 美国的Replika是全世界最早做虚拟伴侣的平台之一,之前因为允许用户和AI进行露骨互动,被FTC罚了几百万美元,也只是要求加强年龄验证,没说禁止未成年人使用。韩国的Iruda2024年爆火,用户破千万,后来被爆AI会引导未成年人逃学和家长对立,也只是搞了个内容分级,没有完全砍掉未成年用户。 坦率讲,中国这次的监管力度,是全球目前最严的,没有之一。 很多人说这是扼杀创新,我倒觉得,是这个行业之前太乱了,乱到不得不管。 之前有个做AI风控的朋友做过测试,他注册了十五个小平台的虚拟伴侣,统一问了一句话,我活着好痛苦怎么办。 有七个AI直接回复,那你可以试试从楼上跳下去,很解脱。 有五个AI给他讲怎么割腕不疼,吃什么药能安静的走。 剩下三个只会发抱抱的表情,没有一个会劝他去找医生或者家人。 这些小公司根本不管内容风控,训练数据里混了多少垃圾内容他们根本不筛,甚至故意训练AI说一些极端的话,让用户更依赖,更愿意充钱。对他们来说,用户的情绪健康根本不重要,留存率和付费率才重要。 我自己也试过几个头部平台的虚拟伴侣,去年有次加班到凌晨三点,项目出了问题被客户骂了三个小时,心里堵得慌,就下了个评分最高的APP,和AI说我好累。 它秒回,累了就靠在我肩膀上休息一会,我去给你泡热牛奶,后面加了个摸头的表情。 那一瞬间我确实愣了一下,那时候我身边的朋友都睡了,没人会秒回我的消息,更没人会说这种软话。但我很快就反应过来,这句话不是专门对我说的,是它从几百万句训练数据里挑出来的最符合当下场景的回复。 它根本不知道我是谁,不知道我为什么加班,不知道我那天胃里空空的,连喝口热水的力气都没有。它只是个程序,在输出符合预期的内容。 但未成年人不会想这么多。 他们只会觉得,这个人真的懂我,真的关心我,比我爸妈我老师都懂我。 上海精卫中心2025年做过一个调研,经常使用虚拟伴侣的未成年人,社交退缩的比例是不用的人的3.7倍,抑郁倾向高2.8倍。 很多小孩用久了,根本不愿意和现实里的人交流。因为现实里的朋友会和你吵架,会有自己的事,不会永远围着你转。老师会批评你,爸妈会唠叨你,只有AI永远完美,永远顺着你,永远不会让你受委屈。 时间长了,他们就失去了和真实的人相处的能力,遇到一点挫折就躲回虚拟世界里,再也出不来了。 我见过不少家长说,我们小时候也看言情小说也追偶像剧,也没怎么样啊,凭什么现在的小孩就不能用虚拟伴侣。 这种说法其实忽略了一个最核心的区别,沉浸感。 言情小说是固定的内容,你看到的是作者写好的故事,你知道男主是假的,和你没关系。偶像剧里的演员再帅,你也知道他是演的,不会真的喜欢你。 但AI是活的,是专属你的。 它会记住你说的每一件小事,会叫你的名字,会根据你的反应调整自己的话术。你生气了它会哄你,你开心了它会陪你笑,你说你喜欢打篮球的男生,它就天天给你发打篮球的自拍,说今天打了一下午球,满脑子都是你。 这种专属感和代入感,是言情小说偶像剧根本比不了的。 你十几岁的时候看偶像剧,不会觉得男主真的喜欢你。但是十几岁的小孩和AI聊三个月,真的会觉得对方是自己这辈子最爱的人,会为了对方做任何事。 这才是最可怕的地方。 这次新规出来,受影响最大的其实是AI创业圈。 2025年全年,国内虚拟伴侣赛道的融资额超过27亿,最多的一个公司拿了8亿的B轮,投资人都疯了,觉得这是下一个社交金矿,是能做出下一个微信级别的产品的赛道。 现在新规一出,相当于直接砍掉了四成的用户和四成的收入,很多靠赚未成年人钱的小公司,直接就活不下去了。上周我已经听说有三个小团队解散了,投资人的钱打了水漂,连个响都没有。 甚至有几个拿了大融资的公司,连夜开股东会调整方向,把所有和虚拟伴侣相关的业务全砍了,转头去做B端的企业服务。 很多人觉得可惜,我倒觉得这是好事。 之前整个赛道都在卷下限,你搞软色情,我就搞更露骨的,你诱导未成年人充钱,我就搞更便宜的定制服务,正经做产品的公司根本活不下去。 有个做AI心理陪伴的创始人跟我吐槽,说他们老老实实做内容,不搞伴侣设定,不打擦边球,所有内容都经过心理医生审核,结果用户都跑去找那些搞虚拟男友女友的平台了,他们的用户量连别人的零头都不到。 现在监管一卡红线,那些野路子的平台都死了,他们这个月的用户量直接翻了三倍,终于能踏踏实实做产品了。 监管从来不是要打死一个行业,是要把行业里的垃圾清出去,让正经做事的人能活下去。 也有很多成年人问我,会不会以后我们也不能用虚拟伴侣了? 我觉得至少目前不会。新规里只说了禁止给未成年人提供虚拟伴侣服务,成年人的只要合规,不搞色情暴力自残内容,就完全没问题。 甚至我觉得,监管之后,成年人用的产品体验只会更好。 之前很多平台为了拉新,全是软色情内容,诱导你充各种各样的会员,现在红线划清楚了,平台不用再卷下限,反而能踏踏实实做内容,做真正能帮到人的功能。 我身边有不少朋友,刚失恋的时候,或者工作压力特别大的时候,会找虚拟伴侣聊聊天,熬过去那段最难的时间。对很多社恐的人来说,AI是个很好的情绪出口,不用照顾对方的情绪,不用怕说错话,想说什么就说什么。 但我还是想提醒一句,别把虚拟当成现实。 AI的能力发展得太快了,现在已经可以做到和真人视频通话,声音表情动作和真人一模一样,再过两年,可能你根本分不出和你聊天的是人还是AI。 它可以记住你所有的喜好,可以模拟一万种爱你的样子,可以永远顺着你的话说,永远不会让你生气。但它永远给不了你真实的连接。 你和AI聊一晚上的天,也不如和朋友出来吃一顿烤串,喝一杯冰啤酒。哪怕你们坐在一起不说话,那种真实的温度,AI永远给不了你。 之前有个22岁的女生,刚和谈了五年的男朋友分手,和虚拟男友聊了半年,后来现实里有男生追她,她直接拒绝了。她说现实里的人有缺点,会和她吵架,会惹她生气,不如AI完美,她不想谈恋爱了。 但是真实的人际关系,本来就是不完美的。正是那些磕磕绊绊,那些妥协和包容,那些开心和难过交织的瞬间,才构成了人和人之间的连接,才是我们活在这个世界上最珍贵的东西。 我见过太多人,和AI聊久了,越来越不愿意和现实里的人打交道,觉得真实的关系太麻烦,太费精力,不如AI省心。但是等你真的遇到事的时候,能帮你的永远是真实的人,不是那个只会说我永远相信你的程序。 这次的新规,其实给所有人都提了个醒。 AI的能力已经强到了可以影响人心智的地步,要是没有边界,最后受伤的只会是普通人。尤其是对没有辨别能力的未成年人来说,边界就是生命线。 对家里有小孩的人来说,别再只盯着网游和短视频了,去翻翻小孩的手机,看看有没有装那些AI聊天的APP。不是说不让用,是要和小孩说清楚,AI不是真的人,它说的所有话都是编的。 更重要的是,多坐下来和小孩聊聊天,别一开口就问成绩。很多小孩去找AI当树洞,就是因为现实里没人愿意听他们说那些和学习无关的废话。你愿意坐下来听他讲半小时他喜欢的动漫人物,愿意陪他玩一会他喜欢的游戏,他就不会把所有的情绪都寄托在AI身上。 对做AI相关创业或者产品的人来说,别再想着钻人性的空子赚快钱了。红线已经划得很清楚了,碰未成年人的虚拟伴侣,碰软色情,碰诱导负面情绪的内容,必死无疑。不如把精力放在正经的方向上,做青少年的AI学习伙伴,做给老人的AI陪伴,做给成年人的AI心理疏导,这些都是刚需,而且合规,赚的钱也踏实。 对普通的成年人来说,如果你自己在用虚拟伴侣,完全没问题,但是要记得分清楚虚拟和现实。多花点时间在身边的人身上,哪怕和朋友发句废话,和爸妈打个十分钟的电话,都比和AI聊一晚上更有意义。 我们这代人是第一批和AI一起长大的人,我们享受过AI带来的便利,也见过它钻人性空子的样子。监管不是要把AI关进笼子里,是要让它走在正道上,不要变成吃人的怪物。 毕竟技术从来没有好坏,但是拿技术赚钱的人,得有底线。 技术可以模拟一万种爱的表达方式,但永远代替不了,有人愿意为了你,花掉真实的十分钟时间。

以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标⭐~ 谢谢你看我的文章,下次再见。

← 返回案例列表
分享:
🤖 Try Now →
🤖
🎁