Neuester Anthropic-Bericht enthüllt schockierenden KI-Betrugsfall nach Art der "Schweine-Schlachtung", Fallnummer GTG-15001

Neuester Anthropic-Bericht enthüllt schockierenden KI-Betrugsfall nach Art der "Schweine-Schlachtung", Fallnummer GTG-15001 Ein inländisches App-Studio baute innerhalb von zwei Wochen 4.700 KI-Freundinnen-Accounts auf und "zerlegte" gleichzeitig 25.000 ältere Männer im Ausland. Im Matching-Pool waren 75 % ausschließlich KI, die restlichen 25 % waren echte Teilzeitkräfte. Die Arbeitsteilung war äußerst gerissen: Die KI übernahm den alltäglichen Begleit-Chat und die Liebesbeziehung; die echten Teilzeitkräfte waren nur für die Momente zuständig, in denen die KI leicht auffliegen konnte – sie nahmen Videoanrufe an, um zu beweisen, dass der Account von einem echten Menschen stammt. Selbst bei Antworten von echten Personen wurden mehrere vom KI generierte Textvorschläge herangezogen, aus denen die echte Person dann eine auswählte und versendete. Die Gruppe betrieb insgesamt über 20 Dating-Apps, die nach außen als echte Dating-Plattformen beworben wurden, während im Hintergrund alles über diese KI-Fließbandproduktion lief. Mit dem Claude-Modell wurden insgesamt etwa 2,36 Millionen Chat-Nachrichten generiert. Wollten Nutzer weiter chatten, mussten sie Guthaben aufladen und Coins kaufen – im Kern handelte es sich um einen Betrug nach Art der "Schweine-Schlachtung", verpackt in eine KI-Hülle. Um die Prüfungen der Plattformen zu umgehen, entwickelte das Team eigens einen UI-Controller, der nur während der Überprüfung durch den Apple- und Google-Store aktiviert wurde und ansonsten ruhte. Die über 20 Apps verwendeten unterschiedliche Klassennamen, um die Ähnlichkeitserkennung der Plattformen zu umgehen. Der Bericht erwähnt außerdem einen bemerkenswerten Punkt: KI-Anbieter können sämtliche Gespräche zwischen Nutzern und KI einsehen, eigenständig beurteilen, ob ein Verstoß vorliegt, selbst Untersuchungen durchführen, Konten sperren und Berichte veröffentlichen – der gesamte Prozess benötigt weder Gerichte noch Aufsichtsbehörden und auch keine Zustimmung der Nutzer.