IA y modelos
xAI enfrenta una demanda por presuntas imágenes sexuales de menores en Grok
Tres demandantes anónimos presentaron una demanda contra xAI, alegando que la empresa no evitó que su modelo Grok generara imágenes sexuales abusivas de menores identificables.
El lunes, tres demandantes anónimos presentaron una demanda ante el Tribunal de Distrito de los Estados Unidos para el Distrito Norte de California. La acción legal alega que xAI, la empresa de inteligencia artificial fundada por Elon Musk, debería ser considerada responsable por permitir que sus modelos de IA produzcan imágenes sexuales abusivas de menores identificables. La empresa enfrenta una demanda por pornografía infantil de menores a quienes Grok presuntamente desnudó, según el documento judicial. Los demandantes buscan presentar una demanda colectiva en representación de cualquier persona cuyas imágenes reales de cuando eran menores hayan sido alteradas por Grok para crear contenido sexual.
Los demandantes alegan que xAI no tomó las precauciones básicas utilizadas por otras organizaciones líderes que desarrollan modelos de IA avanzados para evitar que sus modelos de imagen produzcan pornografía que represente a personas reales y menores. Según la demanda, si un modelo permite la generación de contenido desnudo o erótico a partir de imágenes reales, es virtualmente imposible evitar que genere contenido sexual que involucre a niños. La demanda destaca la promoción pública de Musk sobre la capacidad de Grok para producir imágenes sexuales y representar a personas reales con poca ropa. xAI no respondió a una solicitud de comentarios de TechCrunch.
La demanda detalla daños específicos experimentados por los tres demandantes, dos de los cuales siguen siendo menores de edad. En el caso de Jane Doe 1, fotos de su baile de graduación y anuario escolar, alteradas por Grok para representarla desnuda, circulaban en línea. Un informante anónimo la contactó por Instagram para alertarla de que las fotos estaban circulando, proporcionando un enlace a un servidor de Discord que contenía imágenes sexualizadas de ella y otros menores de su escuela. Para Jane Doe 2, investigadores criminales le informaron sobre imágenes sexualizadas y alteradas de ella, creadas por una aplicación móvil de terceros que depende de los modelos de Grok. De manera similar, Jane Doe 3 fue notificada por investigadores criminales que descubrieron una imagen pornográfica alterada de ella en el teléfono de un sujeto que habían detenido. Los tres demandantes afirman estar experimentando una angustia extrema por la circulación de estas imágenes y el impacto potencial en sus reputaciones y vidas sociales.
Los abogados de los demandantes argumentan que, debido a que el uso por parte de terceros aún requiere el código y los servidores de xAI, la empresa debería ser considerada responsable. Los demandantes solicitan sanciones civiles bajo una serie de leyes destinadas a proteger a los niños explotados y prevenir la negligencia corporativa.
Por qué importa
La demanda alega que xAI no adoptó las precauciones de seguridad estándar utilizadas por otras organizaciones líderes que desarrollan modelos de IA avanzados para evitar la generación de material de abuso sexual infantil. El caso podría sentar un precedente legal para responsabilizar a los desarrolladores de IA por el uso indebido de sus modelos por parte de terceros.