Indonesia levanta condicionalmente la prohibición sobre Grok de xAI

El Ministerio de Comunicación y Asuntos Digitales de Indonesia, el regulador digital del país, ha levantado oficialmente la prohibición sobre Grok, el chatbot de IA desarrollado por xAI, una empresa emergente de IA fundada por Elon Musk. La decisión sigue medidas similares tomadas por Malasia y Filipinas, que levantaron sus respectivas prohibiciones el 23 de enero. La reversión regulatoria se produce después de que X, la plataforma de redes sociales que aloja a Grok, proporcionara garantías por escrito describiendo los pasos para evitar que las herramientas de la plataforma se utilicen para generar contenido dañino.

Las prohibiciones en Indonesia, Malasia y Filipinas se implementaron originalmente después de que el chatbot fuera utilizado para crear una avalancha de imágenes sexualizadas no consensuadas. Según análisis separados de The New York Times y el Center for Countering Digital Hate, Grok fue utilizado para crear al menos 1.8 millones de imágenes sexualizadas de mujeres a finales de diciembre y enero.

En Estados Unidos, el chatbot también ha enfrentado presión regulatoria. El fiscal general de California, Rob Bonta, declaró que su oficina estaba investigando a xAI y había enviado una carta de cese y desistimiento ordenando a la empresa tomar medidas inmediatas para poner fin a la producción de estas imágenes. Mientras tanto, xAI parece haber tomado medidas para restringir las capacidades de Grok, incluyendo limitar sus funciones de generación de imágenes a los suscriptores de pago en X.

Alexander Sabar, director general de monitoreo del espacio digital del ministerio, aclaró que el levantamiento de la prohibición ocurre solo de manera condicional y podría restablecerse si se descubren más violaciones. X, la empresa que aloja el chatbot, envió una carta “describiendo pasos concretos para mejoras en el servicio y la prevención del uso indebido”. Musk ha defendido las medidas de seguridad de la plataforma, afirmando que cualquiera que utilice Grok para crear contenido ilegal enfrentará las mismas consecuencias que quienes suben dicho contenido, al tiempo que añadió que no tiene conocimiento de ninguna imagen de desnudos de menores generada por el chatbot.

Por separado, el viernes, el Departamento de Justicia de Estados Unidos publicó documentos relacionados con Jeffrey Epstein, el notorio delincuente sexual que se declaró culpable de procurar a una menor de edad para la prostitución en 2008. Los documentos incluyen al menos 16 correos electrónicos entre Musk y Epstein de 2012 y 2013, en los cuales Musk pidió visitar la isla caribeña de Epstein e indagó sobre las fiestas allí. Mientras tanto, xAI está, según se informa, en conversaciones para fusionarse con SpaceX y Tesla, otras dos empresas dirigidas por Musk.

Por qué importa

La reversión condicional destaca cómo los reguladores en Indonesia, Malasia y Filipinas están equilibrando la rápida adopción de la IA generativa con una aplicación estricta contra el contenido no consensuado, sentando un precedente sobre cómo plataformas como X deben interactuar con las autoridades locales para mantener el acceso al mercado.