grok
Regulador británico investiga a red social X por imágenes de carácter sexual generadas con IA
La medida busca "eliminar los contenidos ilegales" y "evaluar los riesgos que representan para los niños británicos".
Esta fotografía muestra pantallas que muestran el logotipo de Grok, un chatbot de inteligencia artificial generativa desarrollado por la empresa estadounidense de inteligencia artificial xAI, en Toulouse, sur de Francia, el 15 de enero de 2025. El regulador de seguridad en internet del Reino Unido, Ofcom, anunció el lunes 12 de enero de 2026 la apertura de una "investigación formal" sobre la red social X "en relación con imágenes sexualmente explícitas difundidas" por su asistente de inteligencia artificial Grok, según un comunicado.
El regulador británico de la seguridad en internet, Ofcom, anunció el lunes la apertura de una "investigación" dirigida a la red social X "por imágenes de carácter sexual difundidas" por su asistente de inteligencia artificial (IA), Grok.
"Se han recibido informes muy preocupantes sobre el uso" de Grok en X "para crear y compartir imágenes de personas desnudas, lo que podría constituir una ofensa a la decencia o pornografía, así como imágenes de carácter sexual de niños, que podrían constituir material pedopornográfico", indicó Ofcom en un comunicado.
Las imágenes, tras pedidos a Grok para que desnudara a personas reales a partir de fotos o vídeos, han generado protestas en todo el mundo.
Indonesia, el sábado, y Malasia, el domingo, suspendieron el acceso a este asistente.
Tras las críticas, Grok desactivó el viernes su función de creación de imágenes para los usuarios no suscriptores.
Un portavoz del primer ministro británico, Keir Starmer, señaló que dicha medida "simplemente convierte una función que permite la creación de imágenes ilegales en un servicio premium" y constituye "un insulto a las víctimas de misoginia y violencia sexual".
Ofcom precisó el lunes que la semana pasada solicitó explicaciones a X, agregando que la red social "respondió dentro del plazo estipulado".
La investigación deberá "determinar si X ha incumplido sus obligaciones legales", que le imponen, entre otras cosas, "evaluar el riesgo de que personas en Reino Unido accedan a contenidos ilegales".
La medida también busca "eliminar los contenidos ilegales" y "evaluar los riesgos que representan para los niños británicos".
El regulador puede imponer multas de hasta el 10% de la facturación mundial de la empresa afectada y recurrir a la justicia para solicitar el bloqueo del sitio en Reino Unido.
