La investigación formal sobre X se inicia tras la indignación por la incapacidad de la plataforma para impedir la creación de imágenes sexualmente explícitas de personas reales, incluyendo menores.
La Comisión Europea ha iniciado una investigación oficial sobre Grok, el chatbot de X, luego de que la función de edición de imágenes de su herramienta de IA integrada fuera utilizada masivamente para desnudar virtualmente fotos de mujeres reales y niñas menores sin su consentimiento.
Según anunció primero Handelsblatt, la pesquisa examinará si la red social implementó suficientes medidas para reducir el riesgo de creación y difusión de dichas imágenes.
En caso de que se determine que X ha infringido la normativa europea para plataformas online bajo la Ley de Servicios Digitales (DSA) de la Unión Europea, la Comisión podría imponer multas que alcancen hasta el 6% de la facturación anual global de la compañía.
En diciembre pasado, la Comisión Europea sancionó con 120 millones de euros a la red social de Elon Musk por prácticas relacionadas con la verificación de cuentas y la publicidad.
Las preocupaciones emergieron durante el verano tras la actualización del chatbot integrado, Grok, con una función de pago llamada “Spicy Mode”, que habilitaba a los usuarios a solicitar contenido explícito.
Elon Musk se burló de la polémica generada a través de una publicación en su cuenta de X.
A principios de este mes, frente al creciente rechazo global hacia esta función, un portavoz de la Comisión expresó su condena de manera contundente.
“Esto no es ‘picante’,” señalaron. “Esto es ilegal. Es indignante. Es repugnante. No tiene cabida en Europa.”
Ante la presión pública y la alarma generada, X implementó finalmente medidas para impedir que Grok permita editar imágenes de personas reales para colocarlas en ropa reveladora o situaciones sexuales, aplicando restricciones a todos los usuarios, incluidos los suscriptores de pago.
X también comunicó que las imágenes sexualizadas de niños alteradas con Grok fueron eliminadas de la plataforma y que los usuarios responsables de crearlas fueron suspendidos.
“Tomamos medidas contra contenido ilegal en X, incluyendo Material de Abuso Sexual Infantil (CSAM), eliminándolo, suspendiendo cuentas de manera permanente y colaborando con gobiernos locales y autoridades según sea necesario,” publicó la cuenta oficial X Safety.
No es la primera vez que Grok es objeto de escrutinio por presuntas infracciones a la legislación europea. En noviembre pasado, el chatbot generó contenido negacionista del Holocausto.
Actualmente, las investigaciones relacionadas con el chatbot en esta plataforma continúan en Francia, Reino Unido y Alemania, así como en Australia. Mientras tanto, Grok fue prohibido en Indonesia y Malasia.
La Comisión informó que ha enviado una solicitud de información amparada en la DSA y que continúa analizando la respuesta recibida.