San Francisco, Estados Unidos. – La red social X , propiedad del empresario Elon Musk , anunció restricciones al uso de su herramienta de inteligencia artificial Grok para la edición de imágenes, luego de una ola de denuncias por la manipulación no consentida de fotografías con fines sexuales.
La medida llega tras varios días de controversia en torno a usuarios que emplearon Grok para alterar imágenes de mujeres y generar versiones desnudas o sexualizadas , sin su autorización. Musk confirma que, a partir de ahora, las funciones de edición estarán disponibles únicamente para los suscriptores de pago , lo que permitirá vincular la identidad y los datos de pago de cada usuario con el contenido que modifique.
“Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”, advirtió Musk a través de su cuenta en X.
Antes de este cambio, Grok ofrece acceso gratuito a sus herramientas de edición, permitiendo subir y modificar fotografías sin verificación de identidad. Desde el 9 de enero , la plataforma informa que la generación y edición de imágenes está limitada a los usuarios de pago , que deberán asumir plena responsabilidad sobre el material generado.
La filósofa Daisy Dixon , profesora de la Universidad de Cardiff y una de las afectadas, calificó la decisión como “un parche improvisado”. En declaraciones recogidas por EFE, afirmó que, si bien la suspensión temporal reducirá los abusos, “el problema es más profundo: el diseño de una inteligencia artificial poco ética que promueve la misoginia”.
Dixon, quien ha denunciado en varias ocasiones el uso de Grok para crear imágenes falsas de mujeres, subrayó que más del 95% de los casos de contenido sexual manipulado en esta red afecta a mujeres. “El problema de la IA es un problema humano: hay que rediseñar Grok e imponer límites éticos”, sostuvo.
Gobiernos y organismos internacionales, especialmente en Europa, han condenado la creación de imágenes sexualizadas de mujeres y menores mediante esta herramienta, calificándola de “repugnante” y advirtiendo de posibles sanciones.
En España , la ministra de Juventud e Infancia, Sira Riego , solicitó a la Fiscalía General del Estado abrir una investigación contra X y Grok por la posible comisión de delitos relacionados con la difusión de material de violencia sexual contra la infancia .
El debate sobre los límites éticos y legales de la inteligencia artificial vuelve así al centro del debate tecnológico mundial, en un contexto de creciente presión sobre las grandes plataformas digitales por su responsabilidad en la proliferación de contenidos no consentidos.
Descubre todo sobre noticias Puebla y de todo México visitando nuestra página principal.
Foto Especial
djs
