Indonesia bloquea Grok por uso de IA en pornografía falsa
Indonesia anunció la suspensión temporal de Grok, el asistente de inteligencia artificial de la plataforma X, propiedad de Elon Musk, tras la difusión de imágenes pornográficas falsas generadas mediante tecnología de IA. La medida responde al creciente uso de deepfakes no consensuados creados a partir de fotografías y videos de personas reales.
El bloqueo de Grok en Indonesia fue confirmado el sábado 10 de enero por la ministra de Comunicación y Digitalización, Meutya Hafid, quien señaló que la decisión busca proteger a mujeres, niños y a la ciudadanía frente a contenidos sexuales falsos generados por inteligencia artificial.
Según el comunicado oficial, el gobierno considera estas prácticas una grave violación de los derechos humanos, la dignidad y la seguridad digital. En ese contexto, las autoridades convocaron a representantes de X para exigir explicaciones y evaluar medidas correctivas.
Indonesia es uno de los principales mercados de redes sociales del mundo, con cerca de 25 millones de cuentas registradas en X. El gobierno advirtió que el futuro de Grok en el país dependerá de la disposición de la plataforma para implementar filtros estrictos de contenido y estándares éticos en el uso de IA.
Por su parte, Elon Musk declaró que cualquier persona que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que quienes difundan ese material en la plataforma. No obstante, la respuesta de Grok —limitando la generación y edición de imágenes a usuarios de pago— generó críticas internacionales.
En el Reino Unido, el gobierno calificó la medida como insuficiente y ofensiva para las víctimas de violencia sexual digital. En Bruselas, la Comisión Europea también expresó que los cambios anunciados por la plataforma no abordan de manera adecuada el problema.
El caso reaviva el debate global sobre la regulación de la inteligencia artificial, la responsabilidad de las plataformas tecnológicas y la protección de los derechos en el entorno digital.
