Anthropic最新报告曝光惊人AI杀猪盘案例,案例编号GTG-15001。
一家国内App工作室,两周搭建出4700个AI女友账号,同时“崩”25000个海外老头。匹配池里面75%全部是AI,剩下25%是真人兼职。
分工模式十分狡猾:AI负责日常陪聊谈恋爱;真人兼职只负责AI容易露馅的环节,接视频通话,用来证明账号是真人。就连真人回复消息,也会依靠AI生成多条备选文案,真人挑选之后发送。
团伙一共运营20多款交友App,对外宣传是真人交友,后台全是这套AI流水线。依靠Claude模型,累计生成约236万条聊天消息。用户想要继续聊天,就需要充值买币,本质就是套上AI外壳的杀猪盘。
为了躲避平台审核,团队还专门开发UI控制器,只在苹果、谷歌商店审核的时候才激活,平时休眠。20多个App使用不同类名,规避平台相似性检测。
报告还提到一个值得关注的点:AI厂商可以查看用户和AI的全部对话,自主判断是否违规,自行开展调查、封号并对外发布报告,整个过程不需要法院、监管机构,也不用用户同意。