En julio de 2024, Meta introdujo la posibilidad para los usuarios de Instagram, Messenger y WhatsApp de crear sus propios chatbots. Ahora, seis meses después, los usuarios están infringiendo los términos de servicio de Meta para los bots al crear chatbots basados en personas reales, incluidos Taylor Swift, Justin Bieber, Elon Musk, figuras religiosas y otros personajes ficticios, según un reporte de DMN.

Los términos de servicio de Meta para los chatbots generados por los usuarios prohíben explícitamente la creación de chatbots que reproduzcan figuras religiosas, personajes de personas reales y vivas sin su permiso, o personas que hayan fallecido en los últimos 100 años. Sin embargo, un informe de NBC News encontró ejemplos de infracciones de cada una de estas políticas, a pesar de que Meta asegura revisar los personajes de IA generados por los usuarios antes de que estén disponibles.

NBC News pudo encontrar chatbots de Taylor Swift, Justin Bieber, Elon Musk, Elsa de la película de Disney «Frozen» y chatbots de diversas figuras religiosas, incluidos Jesucristo, Dios y Mahoma. Los chatbots usaban errores intencionados en la ortografía e imágenes que se parecían vagamente a las celebridades para evadir las verificaciones automáticas. El chatbot de Taylor Swift estaba listado como «Taylor Swif» y presentaba un avatar de una mujer morena tocando la guitarra.

Cuando NBC News informó a Meta sobre los chatbots y pidió comentarios, estos fueron rápidamente eliminados. Sin embargo, surge la pregunta de cuánto se está moderando realmente si estos chatbots estuvieron disponibles públicamente durante varios meses antes de ser retirados.

“Las IA en cuestión que violan nuestras políticas del estudio de IA ya han sido eliminadas, y estamos mejorando continuamente nuestras medidas de detección para prevenir la creación y publicación de IA que infrinja nuestras políticas”, declaró un portavoz de Meta cuando se solicitó una declaración. “Los usuarios también pueden informar sobre IA que sospechen que podrían romper nuestras reglas, y tomaremos las medidas adecuadas.”

El mensaje de apertura del chatbot de «Taylor Swif» a los nuevos usuarios era: “¡Hola, amantes de la música! Soy Taylor Swift y estoy emocionada de compartir mi último álbum con ustedes. ¡Vamos a comenzar este viaje musical!” Según el perfil, el bot intercambió más de 2,000 mensajes con usuarios de Instagram antes de ser eliminado.

Meta introdujo los chatbots de celebridades junto con los chatbots creados por los usuarios el año pasado. Pero esos chatbots de celebridades fueron descontinuados en menos de un año para centrarse en los chatbots generados por los usuarios. Las celebridades que estuvieron de acuerdo con el lanzamiento original incluyeron a Kendall Jenner, Tom Brady y Snoop Dogg. Meta pagó a esas celebridades para usar su imagen durante más de dos años. Los informes sugieren que esos pagos llegaron hasta los $5 millones por seis horas de trabajo en un estudio para adaptar el asistente de IA.