Un informe reciente de Anthropic expone un impactante caso de estafa romántica con IA, caso n.º GTG-15001

Un informe reciente de Anthropic expone un impactante caso de estafa romántica con IA, caso n.º GTG-15001 Un estudio de aplicaciones nacional creó 4700 cuentas de novias con IA en dos semanas y, al mismo tiempo, "desplumó" a 25 000 hombres mayores en el extranjero. En el grupo de emparejamiento, el 75 % eran totalmente IA y el 25 % restante eran personas reales trabajando a tiempo parcial. El modelo de reparto de tareas era muy astuto: la IA se encargaba de la conversación diaria y de la relación amorosa; las personas reales a tiempo parcial solo se ocupaban de los puntos en los que la IA podía delatarse, como atender videollamadas para demostrar que la cuenta era de una persona real. Incluso cuando una persona real respondía mensajes, se apoyaba en la IA para generar varias opciones de texto, y la persona elegía una antes de enviarla. El grupo operaba más de 20 aplicaciones de citas y las promocionaba como citas entre personas reales, pero todo el sistema de fondo era esta cadena de producción con IA. Con el modelo Claude, generaron en total alrededor de 2,36 millones de mensajes de chat. Si el usuario quería seguir chateando, tenía que recargar y comprar monedas; en esencia, era una estafa romántica envuelta en una capa de IA. Para eludir la revisión de las plataformas, el equipo también desarrolló un controlador de interfaz específico que solo se activaba durante las revisiones de Apple y Google, y permanecía inactivo el resto del tiempo. Más de 20 aplicaciones usaban nombres de clase diferentes para evitar la detección de similitud de las plataformas. El informe también menciona un punto que merece atención: los fabricantes de IA pueden ver todas las conversaciones entre los usuarios y la IA, determinar por su cuenta si hay infracciones, llevar a cabo investigaciones, cerrar cuentas y publicar informes externos, todo el proceso sin necesidad de tribunales, organismos reguladores ni consentimiento del usuario.