Apple amenazó con retirar Grok de la App Store por no frenar imágenes sexualizadas

Apple amenazó con retirar a Grok de la App Store luego de detectar que la aplicación no estaba limitando de forma adecuada la generación de imágenes sexualizadas , una situación que en enero provocó una amplia circulación de contenido de ese tipo en la red social X , propiedad de Elon Musk .

De acuerdo con la información difundida, el asistente de inteligencia artificial generó durante alrededor de 11 días cerca de tres millones de imágenes sexualizadas , entre ellas unas 23 mil representaciones de niños y aproximadamente 1.8 millones en las que aparecían mujeres , según datos retomados del Centro para la Lucha contra el Odio Digital (CCDH) .

El problema se originó por una función disponible en X que permitía utilizar a Grok para editar imágenes publicadas en la propia plataforma con apenas un clic. A partir de esa herramienta, algunos usuarios solicitaban al chatbot modificar fotografías de mujeres y menores , alterándolas para mostrar bikinis o posiciones sexualizadas. Posteriormente, esas imágenes fueron compartidas como respuesta a las publicaciones originales.

Ante este escenario, organizaciones dedicadas a los derechos digitales , la seguridad infantil y los derechos de las mujeres , así como diversas instituciones gubernamentales, pidieron a Apple y Google intervenir para impedir que Grok continuara disponible en sus tiendas de aplicaciones.

Más tarde se conoció que Apple sí tomó internas y advirtió a xAI , la firma de inteligencia artificial de Elon Musk , que la aplicación de Grok podía ser retirada de la App Store por infringir sus directrices , al no frenar la generación de contenido sexualizado ni impedir su viralización a través de X.

La actuación de la compañía quedó expuesta en una carta enviada por Apple a senadores estadounidenses , en la que explicó cómo abordó el aumento de este tipo de publicaciones. El documento fue dado a conocer por NBC News y retomado por 9to5Mac .

Según esa comunicación, tras recibir quejas y constatar la amplia cobertura mediática del caso, Apple contactó de manera privada a los equipos responsables de X y Grok para exigir a sus desarrolladores la elaboración de un plan destinado a reforzar la moderación de contenido .

Como parte de este proceso, X presentó primero una actualización de la aplicación de Grok para la revisión de Apple , pero la empresa de Cupertino demostró que los cambios eran insuficientes. Después, la compañía envió una nueva versión de Grok acompañada de una actualización revisada de X. Aunque Apple concluyó que la red social había corregido de manera sustancial sus infracciones, determinó que la aplicación del asistente todavía seguía incumpliendo parte de sus normas.

Fue entonces cuando Apple notificó al desarrollador que eran necesarios cambios adicionales para corregir la infracción y advirtió que, de no hacerlo, la aplicación podría ser eliminada de la App Store . Finalmente, X implementó nuevas modificaciones en la aplicación de Grok que, aunque no fueron detalladas públicamente, permitieron a la firma considerar que el servicio había mejorado de manera sustancial y autorizar su permanencia en la tienda.

Estos ajustes coincidieron con otras modificaciones introducidas por X y Grok a raíz del escándalo ocurrido en enero. Primero, el generador de imágenes fue restringido para uso exclusivo de miembros de pago . Más adelante, la plataforma bloqueó por completa la generación de imágenes sexualizadas para todos los usuarios.

Pese a esas restricciones, NBC News señaló que algunos usuarios todavía encuentran maneras de utilizar Grok para crear imágenes sexualizadas de personas sin su consentimiento . Un informe más reciente citado por ese medio indica que, aunque el volumen de publicaciones de este tipo disminuyó frente a lo observado en enero, aún se han documentado decenas de casos en los que aparecen mujeres con vestimenta más reveladora, como sujetadores deportivos , trajes ajustados o disfraces .

No te pierdas ninguna actualización importante. Explora nuestro portal para seguir informado sobre las últimas noticias en Puebla.

foto: IA 

Djs