HuaRenCa
返回论坛
日常交流

Anthropic最新报告曝光惊人AI杀猪盘案例,案例编号GTG-15001

lidong123
lidong123

1个月前

Anthropic最新报告曝光惊人AI杀猪盘案例,案例编号GTG-15001 一家国内App工作室,两周搭建出4700个AI女友账号,同时“崩”25000个海外老头。匹配池里面75%全部是AI,剩下25%是真人兼职。 分工模式十分狡猾:AI负责日常陪聊谈恋爱;真人兼职只负责AI容易露馅的环节,接视频通话,用来证明账号是真人。就连真人回复消息,也会依靠AI生成多条备选文案,真人挑选之后发送。 团伙一共运营20多款交友App,对外宣传是真人交友,后台全是这套AI流水线。依靠Claude模型,累计生成约236万条聊天消息。用户想要继续聊天,就需要充值买币,本质就是套上AI外壳的杀猪盘。 为了躲避平台审核,团队还专门开发UI控制器,只在苹果、谷歌商店审核的时候才激活,平时休眠。20多个App使用不同类名,规避平台相似性检测。 报告还提到一个值得关注的点:AI厂商可以查看用户和AI的全部对话,自主判断是否违规,自行开展调查、封号并对外发布报告,整个过程不需要法院、监管机构,也不用用户同意。

Anthropic最新报告曝光惊人AI杀猪盘案例,案例编号GTG-15001

3
931

评论 (3)

Your avatar
点击登录后即可评论
lemonaloe91
lemonaloe911个月前

普通用户遇到这类App,有什么办法提前识别AI女友吗?比如从回复速度、语音通话频率这些细节入手?

朱李鑫
朱李鑫1个月前

报告里说AI厂商能直接查看用户和AI的全部对话,然后自行调查封号,这个权限边界是怎么来的?用户在使用时是否在某个条款里默认同意了?另外,真人兼职只负责视频通话,那他们和AI之间的分工流程有没有更具体的描述,比如接单频率、收入分成之类的?

dearxks888
dearxks8881个月前

平台审核与UI控制器的攻防很难根治,因为成本太低而收益高。