Oversight Board: Las suspensiones de cuentas de Meta carecen de debido proceso

El jueves, el Oversight Board (organismo de gobierno independiente que hace recomendaciones de políticas a Meta) criticó los procesos de desactivación de cuentas de la empresa. La junta afirmó que las desactivaciones de cuentas de Meta carecen de debido proceso, transparencia y consistencia. Al revisar los mecanismos de aplicación de Meta, la junta identificó lo que describió como preocupaciones sistémicas de derechos humanos y una falta de transparencia y consistencia en el enfoque de dos sistemas de la empresa para inhabilitar cuentas. Este enfoque de dos sistemas, que separa las infracciones estándar de las violaciones graves que provocan suspensiones permanentes, no es claro ni está bien documentado. Además, la junta afirmó que Meta no brinda asistencia significativa a los usuarios con cuentas inhabilitadas, incluidos los suscriptores de Meta Verified, su servicio de suscripción de pago.

Las consecuencias de estos sistemas de moderación automatizados han afectado gravemente a usuarios individuales y empresas. Los usuarios afectados reportan haber sido suspendidos sin explicación ni revisión humana, a menudo por acusaciones automatizadas de fraude o explotación sexual infantil (CSE, por sus siglas en inglés). Por ejemplo, el bombero jubilado Richard Pauwels tuvo su cuenta personal suspendida sin revisión humana. Otra usuaria afectada, Manomi Jayakody, tuvo su cuenta desactivada bajo acusaciones automatizadas de CSE sin que se marcara ningún contenido específico. Jayakody escribió: “Entiendo y apoyo plenamente la importancia crítica de la aplicación de CSE y la seguridad en línea. Sin embargo, cuando las cuentas son marcadas bajo categorías tan graves sin debido proceso, transparencia o una supervisión humana consistente… las consecuencias para los usuarios inocentes son graves”. Otras entidades afectadas incluyen una operación de rescate de aves con más de 60 000 seguidores suspendida por CSE, y el creador de contenido Albert Olgaard, quien tiene 325 000 seguidores en Instagram y vio sus cuentas comerciales cerradas de la noche a la mañana por acusaciones de fraude. El propietario de un negocio, Alex, también se despertó para encontrar su cuenta permanentemente inhabilitada, señalando que la cuenta estaba vinculada a actividades comerciales legítimas, incluyendo el acceso a páginas, comunicación con clientes, marketing, publicidad y generación de clientes potenciales. Incluso los suscriptores de pago de Meta Verified, a quienes se les promete acceso a soporte 24/7, reportan no recibir ayuda significativa, y un usuario señaló que un agente de soporte terminó su chat después de que hiciera referencia al GDPR (reglamento de la UE). Un usuario describió la acusación automatizada de Meta como malvada y vil.

Para abordar estos problemas, el Oversight Board —que recientemente obtuvo financiamiento para continuar su trabajo hasta 2028— exige que Meta reforme sus procesos de moderación y apelación. La junta recomienda que Meta implemente las siguientes medidas:

• Proporcionar a los usuarios un panel dedicado para revisar fácilmente las estadísticas de su cuenta, infracciones pasadas e información sobre opciones de apelación.
• Enviar notificaciones claras en el momento en que se imponen las infracciones, detallando la regla específica violada, la sanción y el momento exacto en que se aplicó.
• Proporcionar a los usuarios información clara sobre el papel que desempeña la IA en la revisión de contenido y la imposición de advertencias o sanciones.

Por qué importa

El Oversight Board está presionando a Meta para que se aleje de la aplicación opaca y automatizada, recomendando un panel dedicado para que los usuarios revisen el estado de su cuenta, el historial de infracciones y las opciones de apelación. Este impulso destaca la creciente fricción entre la moderación de contenido automatizada y los derechos básicos de debido proceso de las empresas y creadores que dependen de estas plataformas.