La firma de Elon Musk impone restricciones a su IA tras críticas por contenido sexualizado

Bangkok, Tailandia.- La empresa xAI, propiedad de Elon Musk, anunció que su inteligencia artificial Grok dejará de permitir la creación o edición de imágenes sexualizadas de personas reales en aquellos países donde dicha práctica sea ilegal. La decisión surge tras una oleada de críticas internacionales por la generación de contenido explícito con la herramienta.

El comunicado, difundido la noche del miércoles 14 de enero a través de la plataforma X, confirma que se han implementado medidas tecnológicas para impedir que el sistema edite fotografías de personas reales con vestimenta reveladora, como bikinis o ropa interior. La restricción se aplicará a todos los usuarios, incluidos los suscriptores de pago.

Según la empresa, el bloqueo geográfico del contenido se activará en las regiones donde las leyes prohíben ese tipo de material. Además, xAI limitó la creación y edición de imágenes exclusivamente a usuarios verificados de pago, con el fin de “garantizar la rendición de cuentas en caso de abuso”.

El anuncio se produjo luego de que el estado de California abrió una investigación sobre el uso indebido de Grok, tras detectarse material sexualmente explícito no consensuado que, según las autoridades, constituye acoso contra mujeres y niñas.

El denominado “modo picante” de Grok había permitido generar imágenes con contenido sexual, lo que provocó una respuesta inmediata de varios gobiernos. Malasia e Indonesia bloquearon el acceso a la aplicación, mientras que Filipinas y Brasil estudian medidas similares. El Reino Unido, la Unión Europea, Francia e India también han iniciado revisiones sobre posibles violaciones a las leyes de seguridad digital.

La secretaria de Tecnología del Reino Unido, Liz Kendall , celebró las restricciones impuestas por xAI y reiteró que su país continuará vigilando el cumplimiento de las normas de protección en línea. “No descansaremos hasta que todas las plataformas garanticen un entorno seguro y adecuado para todos los usuarios”, afirmó.

En Estados Unidos, el fiscal general de California, Rob Bonta , exhortó a la empresa a evitar cualquier uso de Grok que pueda derivar en acoso digital o difusión de material íntimo no consensuado. “No toleraremos la creación ni la propagación de imágenes sexuales generadas por inteligencia artificial, especialmente aquellas que involucren a menores”, afirmó.

California, que ya cuenta con legislación para proteger a niños y adolescentes de este tipo de contenidos, exige que las plataformas de inteligencia artificial informen claramente a los usuarios cuando interactúan con un sistema automatizado. Sin embargo, el gobernador Gavin Newsom vetó el año pasado una ley que buscaba restringir el acceso de menores a los chatbots de IA.

¿Interesado en conocer más sobre lo que sucede en Puebla? Haz clic aquí para explorar más noticias hoy.

Foto: Especial 

Djs