Un portavoz de la Comisión Europea declaró que examinan con gran seriedad la creación de imágenes sexualmente explícitas de niñas – incluyendo menores – generadas por Grok, el modelo de IA integrado en X.

La Comisión Europea ha comunicado que investiga casos relacionados con imágenes sexualmente sugestivas y explícitas de niñas creadas por Grok, el chatbot de inteligencia artificial integrado en la plataforma social X, tras la introducción de una función de pago llamada “Spicy Mode” el verano pasado.

“Puedo confirmar desde esta tribuna que la Comisión también está estudiando este asunto con mucha seriedad”, afirmó un portavoz de la Comisión ante periodistas en Bruselas el lunes.

“Esto no es ‘spicy’. Esto es ilegal. Resulta indignante. Es repulsivo. No tiene cabida en Europa.”

El domingo, en respuesta al creciente descontento y preocupación por dichas imágenes, la plataforma social anunció que se eliminaron ese contenido y que se prohibió el acceso a los usuarios implicados.

“Actuamos contra contenido ilegal en X, incluyendo Material de Abuso Sexual Infantil (CSAM), mediante su eliminación, la suspensión definitiva de cuentas y la colaboración con gobiernos locales y fuerzas del orden cuando es necesario”, publicó la cuenta X Safety.

Investigaciones similares han sido iniciadas en Francia, Malasia y India.

La Comisión Europea también mencionó un incidente ocurrido en noviembre pasado, cuando Grok generó contenido de negación del Holocausto. La Comisión informó que ha remitido una solicitud de información amparada en la Ley de Servicios Digitales de la UE (DSA), y actualmente está evaluando la respuesta recibida.

En diciembre, X fue multada con 120 millones de euros bajo la DSA debido a su gestión de las verificaciones de cuenta y su política publicitaria.

“Consideramos que X es plenamente consciente de que tomamos muy en serio la aplicación de la DSA. Recordarán la multa impuesta por nosotros”, declaró el portavoz de la Comisión Europea.