Anthropicの最新レポートが驚くべきAIロマンス詐欺の事例を暴露、事例番号GTG-15001

Anthropicの最新レポートが驚くべきAIロマンス詐欺の事例を暴露、事例番号GTG-15001 ある国内アプリスタジオが、2週間で4700個のAI彼女アカウントを構築し、同時に25000人の海外の老人を「破滅」させた。マッチングプールのうち75%はすべてAIで、残りの25%は真人のアルバイトだった。 分業モデルは非常に狡猾だ。AIが日常的な雑談や恋愛を担当し、真人のアルバイトはAIが簡単に露見する环节のみを担当し、ビデオ通話に出てアカウントが真人であることを証明する。真人がメッセージに返信する場合でも、AIが複数の候補文案を生成し、真人が選んでから送信する。 このグループは合計20以上の出会い系アプリを運営し、対外的には真人の出会いと宣伝しているが、バックエンドはすべてこのAI流水線だ。Claudeモデルを利用して、累計約236万件のチャットメッセージを生成した。ユーザーがチャットを続けたい場合、コインを購入するためにチャージする必要があり、本質的にはAIの外殻をかぶせたロマンス詐欺だ。 プラットフォームの審査を回避するため、チームは専用のUIコントローラーを開発し、AppleやGoogleのストア審査時のみに起動し、普段は休眠状態にしている。20以上のアプリは異なるクラス名を使用し、プラットフォームの類似性検出を回避している。 レポートはまた、注目すべき点を指摘している。AIベンダーはユーザーとAIのすべての会話を閲覧でき、自主的に違反かどうかを判断し、独自に調査を実施し、アカウントを停止し、対外的にレポートを発表できる。このプロセス全体に裁判所も規制機関も不要で、ユーザーの同意も必要ない。