X insinúa un nuevo sistema de etiquetado para medios manipulados

Según se informa, X está implementando una función para etiquetar imágenes editadas como medios manipulados, si se le cree a su propietario, Elon Musk. El lanzamiento sigue sin ser confirmado por anuncios oficiales de la empresa, basándose en cambio en una publicación críptica de Musk. Al compartir una publicación de DogeDesigner (una cuenta anónima de X utilizada como intermediario para introducir nuevas funciones), Musk añadió el comentario: “Advertencia de imágenes editadas”. Según DogeDesigner, la función es nueva en X y podría hacer que sea “más difícil para los grupos de medios tradicionales difundir clips o imágenes engañosas”. Sin embargo, X no ha aclarado cómo determinará qué constituye contenido editado o generado por IA, ni si la función se aplica a imágenes editadas con herramientas tradicionales.

La plataforma tiene un precedente histórico en moderación de contenido, aunque su aplicación ha sido inconsistente. En 2020, Yoel Roth, exjefe de integridad del sitio en Twitter (antes de que la plataforma fuera adquirida y renombrada como X), comentó sobre la política de la empresa respecto a los medios manipulados, la cual etiquetaba los medios alterados o fabricados de forma engañosa como una alternativa a la eliminación. Actualmente, la documentación de ayuda de X indica que existe una política contra la difusión de medios no auténticos. Sin embargo, esta política rara vez se aplica, como lo destaca el reciente fiasco de deepfakes en el que usuarios compartieron imágenes de desnudos sin consentimiento.

La falta de claridad sobre cómo X define el contenido editado o generado por IA plantea interrogantes importantes sobre la precisión y la posible aplicación. Esto es particularmente crítico dado que X opera como un campo de juego para la propaganda política, tanto a nivel nacional como en el extranjero. Sin directrices documentadas o un proceso de disputa claro más allá de las Community Notes (notas de la comunidad) de X, los usuarios se quedan con poca comprensión de cómo la plataforma identificará los medios manipulados.

Otras plataformas ya están avanzando con un etiquetado estandarizado. En 2024, Meta introdujo el etiquetado de imágenes con IA, mientras que TikTok también ha estado etiquetando contenido de IA. Servicios de streaming como Deezer y Spotify están escalando iniciativas para etiquetar música generada por IA. Muchas de estas plataformas dependen de la Coalition for Content Provenance and Authenticity (C2PA), un organismo de establecimiento de estándares para verificar la procedencia del contenido. Google Photos utiliza C2PA para indicar la procedencia de las fotos, y el comité directivo de la C2PA incluye a Microsoft, la BBC, Adobe, Arm, Intel, Sony y OpenAI. X, sin embargo, no figura actualmente como miembro de la coalición, y la empresa no ha aclarado su enfoque técnico para identificar medios editados.

Por qué importa

X está introduciendo una función de etiquetado de “medios manipulados”, aunque la empresa no ha aclarado cómo determinará qué constituye contenido editado o generado por IA, lo que plantea interrogantes sobre la posible aplicación y la precisión.