Meta despliega IA para identificar a usuarios menores de edad en sus plataformas

El martes, Meta anunció que utilizará IA para escanear fotos y videos en busca de pistas visuales para identificar si un usuario es menor de 13 años. El sistema, que actualmente opera en países seleccionados, analiza características físicas para estimar la edad. Meta declaró que la tecnología no es reconocimiento facial. En cambio, la empresa explicó: “Nuestra IA analiza temas generales y pistas visuales, por ejemplo la altura o la estructura ósea, para estimar la edad general de alguien; no identifica a la persona específica en la imagen. Al combinar estas perspectivas visuales con nuestro análisis de texto e interacciones, podemos aumentar significativamente el número de cuentas de menores que identificamos y eliminamos”. Para respaldar esto, los esfuerzos más amplios de la empresa incluyen el uso de IA para analizar perfiles en busca de pistas contextuales en publicaciones, comentarios, biografías y subtítulos. Si Meta determina que una persona podría ser menor de edad, desactivará su cuenta. Para evitar la eliminación permanente, el usuario debe entonces probar su edad a través del proceso de verificación de la empresa.

El despliegue de estas herramientas automatizadas se produce en medio de una severa presión legal sobre la empresa respecto a la seguridad infantil. Recientemente, un jurado de Nuevo México ordenó a Meta pagar USD 375 millones en sanciones civiles. El organismo legal penalizó a la empresa por engañar a los consumidores sobre la seguridad de sus plataformas y poner a los niños en riesgo. Tras el veredicto, también se ordenó a Meta implementar cambios fundamentales en sus plataformas.

Junto con las herramientas de detección de edad por IA, Meta está expandiendo sus Teen Accounts —definidas como configuraciones de cuenta de Instagram con salvaguardas más estrictas para usuarios más jóvenes— a 27 países de la UE y Brasil. Estas cuentas aplican automáticamente configuraciones más estrictas, como restringir los mensajes directos a conexiones establecidas, ocultar comentarios dañinos y establecer las cuentas como privadas por defecto. Meta también planea expandir esta tecnología a Facebook en EE. UU. por primera vez, seguido de un despliegue en el Reino Unido y la UE en junio. Además, la empresa planea expandir su tecnología de detección de edad por IA a más partes de sus aplicaciones, incluyendo Instagram Live y Facebook Groups.

Por qué importa

El despliegue de herramientas de verificación de edad basadas en IA por parte de Meta destaca cómo la empresa está recurriendo a sistemas automatizados para vigilar su base de usuarios bajo un intenso escrutinio regulatorio. A medida que aumentan las presiones legales, el éxito de estas herramientas probablemente dictará cómo las plataformas sociales gestionan el cumplimiento de la seguridad juvenil en estas regiones.