Fallas de inteligencia artificial en Meta provocan bloqueos injustificados en Facebook

Estados Unidos.— Los sistemas automatizados que Meta emplea para vigilar el cumplimiento de sus normas han provocado suspensiones equivocadas de cuentas de Facebook e Instagram, dejando a algunos usuarios sin acceso a perfiles personales, comunidades digitales y negocios construidos durante años.

Una de las afectadas fue Camille Hanson, quien en marzo recibió una notificación durante la noche en la que se le informaba que sus cuentas serían eliminadas. Junto con su esposo, Calvin Hanson, utilizaba ambas plataformas para administrar un negocio de enseñanza de inglés dirigido a hablantes no nativos. Sus perfiles reunían cerca de un millón de seguidores.

Meta sostuvo que las cuentas habían violado sus políticas contra el fraude y el engaño. La pareja rechazó las acusaciones y presentó una apelación, pero la solicitud fue desestimada una semana más tarde. La compañía también les advirtió que su información sería borrada definitivamente y que no habría otra oportunidad para solicitar una revisión.

Calvin Hanson comparó lo sucedido con el cierre inesperado de un establecimiento comercial. La experiencia de la pareja refleja las fallas que pueden producirse cuando las herramientas de inteligencia artificial participan en la identificación de infracciones y en la resolución de inconformidades.

Los usuarios perjudicados también han señalado las dificultades para comunicarse directamente con algún representante de la empresa. Más de 60 mil personas respaldaron una petición para exigir mayor transparencia en las suspensiones y la intervención de revisores humanos durante los procesos de apelación. En Reddit y otras plataformas también se han formado comunidades dedicadas a compartir casos similares.

Daniel Roberts, portavoz de Meta, aseguró que las nuevas herramientas de moderación basadas en inteligencia artificial registran 13 por ciento menos errores que los trabajadores humanos y permiten identificar 10 por ciento más infracciones. Sin embargo, explicó que cinco cuentas examinadas por The New York Times habían sido sancionadas mediante sistemas anteriores.

Los problemas relacionados con el uso de la inteligencia artificial no se han limitado a la moderación. Durante mayo, piratas informáticos aprovecharon un chatbot automatizado de atención al cliente para atacar 34 mil cuentas de Instagram, incluida una antigua cuenta de la Casa Blanca correspondiente al gobierno de Barack Obama.

Ese mismo mes, Meta suspendió un programa que registraba los movimientos del teclado de algunos empleados para entrenar modelos de inteligencia artificial, luego de que la iniciativa generara inconformidad entre el personal.

Además, 26 extrabajadores demandaron a la compañía al asegurar que fueron despedidos mediante un algoritmo que los seleccionó por presentar alguna discapacidad. La empresa rechazó esa versión y afirmó que las decisiones relacionadas con el empleo continuaban siendo tomadas por personas.

La organización People Over Platforms, dedicada a ayudar a usuarios a recuperar sus perfiles, impulsó una petición para solicitar cambios en las políticas de moderación de Meta. Varios de los firmantes denunciaron haber sido acusados de difundir material relacionado con explotación infantil antes de que sus cuentas fueran bloqueadas.

Entre los casos reportados se encuentra el de Athenia Rodney, propietaria de JuneteenthNY. Durante el año pasado, Meta suspendió seis cuentas personales y profesionales que administraba en Facebook e Instagram.

Rodney sostuvo que las publicaciones de su organización estaban dirigidas a las familias. Antes de los bloqueos recibió advertencias sobre accesos sospechosos procedentes de Seattle y Singapur, aunque ella reside en Atlanta, por lo que consideró que sus perfiles pudieron haber sido vulnerados.

Para intentar recuperarlos, presentó documentos de identificación, acudió al Better Business Bureau y a la Comisión Federal de Comercio, contactó oficinas de protección al consumidor y envió mensajes a empleados de Meta. Ninguna de esas gestiones le permitió recuperar inicialmente las cuentas.

La suspensión también perjudicó la imagen de JuneteenthNY ante posibles patrocinadores. Aunque la organización acumulaba 17 años de actividad, sus perfiles nuevos apenas contaban con algunos cientos de seguidores, lo que dificultaba demostrar el alcance que había construido anteriormente.

Después de que The New York Times expusiera cinco casos, Meta revisó las sanciones y concluyó que dos cuentas habían sido hackeadas, una fue suspendida por una razón válida y otras dos habían sido bloqueadas de manera incorrecta. Entre estas últimas se encontraban las pertenecientes a los Hanson.

La compañía restableció tanto los perfiles comprometidos por piratas informáticos como aquellos que habían sido sancionados por equivocación.

Otro afectado fue Roberto Suárez, creador de contenido con más de 500 mil seguidores. Tras permanecer varios meses sin acceso a su perfil, logró recuperarlo, pero semanas más tarde volvió a ser suspendido por presuntas violaciones a los derechos de autor.

Suárez negó haber cometido las infracciones. La cuenta fue habilitada nuevamente después de que el periódico solicitara información a Meta sobre el caso.

Camille Hanson también recibió finalmente una comunicación de la empresa. En ella, Meta reconoció que la actividad de sus cuentas sí cumplía con las políticas contra el fraude y el engaño, además de ofrecer una disculpa por la suspensión equivocada.