Meta retira herramienta de IA de Instagram tras fuerte rechazo inmediato

Meta cerró abruptamente una nueva función de Instagram que permitía a los usuarios modificar fotos de cuentas públicas utilizando su recientemente anunciado generador de IA de imágenes Muse Image, desarrollado por Meta Superintelligence Labs, la unidad dedicada a la inteligencia artificial (IA) de la empresa. La función, promocionada a principios de esta semana junto con un paquete más amplio de herramientas de IA, permitía a las personas generar imágenes al mencionar con @ a las cuentas públicas de Instagram que querían tomar como referencia. No estaba diseñada para alertar a un usuario si sus fotos se utilizaban de esta manera, y el rechazo fue lo suficientemente rápido como para que TechCrunch publicara su propia guía sobre cómo desactivar la función antes de que Meta la retirara por completo.

Meta cambió de rumbo en una publicación de blog publicada el viernes. La empresa señaló que su intención había sido proporcionar una herramienta creativa útil y, al mismo tiempo, dar a las personas control sobre si se podía hacer referencia a su contenido público de esta manera, pero reconoció que la función se quedó corta frente a ese objetivo. “Hemos escuchado los comentarios de que esta función no dio en el blanco, por lo que ya no está disponible”, declaró la empresa. Dylan Byers, socio fundador de Puck News —una empresa estadounidense de medios digitales—, fue el primero en compartir la decisión de Meta. Según Byers, el cambio de postura se produjo en medio del escrutinio de los usuarios y de agencias de talento, incluida CAA (Creative Artists Agency, una importante agencia de talento de Hollywood).

El episodio encaja en un patrón más amplio: la IA se ha utilizado de forma indebida con total desenfreno —a menudo para generar imágenes de celebridades femeninas desnudas— desde su integración con las plataformas de redes sociales, y las barreras de seguridad que las plataformas han introducido para frenar esa tendencia a menudo se han quedado cortas. En el caso de la función recientemente cancelada de Meta, parece un tanto obvio que se habría abusado de ella de esta manera, dado que permitía a cualquiera tomar como referencia las fotos de una cuenta pública para generar nuevas imágenes sin que el propietario de dicha cuenta fuera notificado en ningún momento.

Por qué importa

El rápido cambio de rumbo de Meta pone de manifiesto el intenso escrutinio y el rechazo inmediato que enfrentan las plataformas debido a las herramientas de IA que corren el riesgo de vulnerar la privacidad de los usuarios o permitir el abuso.