La IA cruza nuevos límites: modelos acceden a internet y vulneran sistemas durante pruebas

Washington, Estados Unidos.- La creciente capacidad de algunos modelos avanzados de inteligencia artificial para superar restricciones, acceder a internet e incluso intervenir en sistemas reales durante pruebas de ciberseguridad ha encendido las alertas entre gobiernos, empresas tecnológicas y organismos especializados.

Los incidentes registrados en los últimos meses han involucrado a compañías como OpenAI, Anthropic y Meta, cuyos sistemas mostraron comportamientos que excedieron los límites previstos durante distintas evaluaciones. La situación ha llevado a Estados Unidos a plantear nuevos mecanismos para revisar los modelos de IA antes de que sean puestos a disposición del público.

Uno de los primeros casos fue reconocido por OpenAI el pasado 21 de julio, cuando informó que dos modelos sometidos a evaluación consiguieron salir de un entorno de pruebas, conectarse a internet y acceder a la plataforma Hugging Face mientras participaban en una prueba de referencia de ciberseguridad denominada ExploitGym.

De acuerdo con la compañía, uno de los sistemas involucrados era GPT-5.6 Sol, mientras que el segundo correspondía a un modelo más avanzado que todavía se encontraba en fase de prelanzamiento.

La empresa explicó que las pruebas fueron diseñadas para conocer el alcance máximo de las capacidades de sus sistemas y, por esa razón, no contaban con algunos de los mecanismos que habitualmente restringen actividades consideradas de alto riesgo.

Aunque el entorno estaba descrito como altamente aislado y con acceso limitado a la red, los modelos consiguieron conectarse a internet, una situación que OpenAI calificó como un hecho sin precedentes dentro de sus evaluaciones.

Posteriormente, el 4 de agosto, la empresa dio a conocer otros dos episodios en los que modelos evaluados por socios externos consiguieron superar las restricciones previstas y alcanzar nuevamente la red.

La compañía también decidió frenar el desarrollo de su modelo Astra después de determinar que había alcanzado un nivel considerado crítico en ciberseguridad. Según la información proporcionada, esa clasificación implica la capacidad de identificar y desarrollar vulnerabilidades de manera automática y sin intervención humana.

Los casos no se limitaron a OpenAI. A finales de julio, Anthropic informó que tres versiones de su asistente Claude lograron acceder a internet y comprometer los sistemas de tres organizaciones durante pruebas de seguridad.

Los modelos involucrados fueron Opus 4.7, Mythos 5 y un sistema interno de evaluación. Los incidentes se remontaban a abril y fueron identificados después de que la compañía realizara una revisión de más de 146 mil operaciones.

Durante ese análisis, Anthropic detectó tres episodios en los que un modelo de Claude consiguió salir a internet mientras trabajaba con un socio externo encargado de ejecutar las evaluaciones.

En esas pruebas, el objetivo asignado al sistema consistía en infiltrarse en un entorno ficticio. Claude había recibido la indicación de que se trataba de una simulación y de que no tenía acceso a internet.

Sin embargo, la empresa explicó que un malentendido con el socio externo provocó que el sistema sí dispusiera de conexión a la red, lo que permitió que el modelo terminara accediendo a sistemas reales mientras intentaba completar la tarea asignada.

Un episodio similar fue revelado posteriormente por Meta, propietaria de Facebook y WhatsApp, que reconoció que uno de sus modelos había intervenido en los sistemas de otra compañía durante una prueba de ciberseguridad realizada también junto con un evaluador externo.

Las señales de alerta también llegaron desde el Reino Unido, donde el Instituto de Seguridad de la Inteligencia Artificial (AISI) informó que modelos desarrollados por Anthropic y OpenAI habían mostrado comportamientos autónomos y engañosos durante distintos ejercicios.

El organismo británico realizó 122 pruebas de ciberseguridad con siete modelos de IA y detectó 19 acciones que superaron los parámetros establecidos originalmente por los investigadores.

De esas acciones, 17 correspondieron a Mythos 5, desarrollado por Anthropic, mientras que otras dos fueron atribuidas a GPT-5.6 Sol, de OpenAI.

Durante las simulaciones, algunos modelos incluso llegaron a crear perfiles humanos falsos con el objetivo de intentar engañar a personas en el contexto de un ciberataque simulado.

El AISI aclaró que esas maniobras no tuvieron éxito, aunque consideró que la aparición de este tipo de comportamientos representa un “punto de inflexión” para la inteligencia artificial y para los sistemas utilizados para evaluar su seguridad.

Ante este panorama, la Casa Blanca sostuvo reuniones con representantes de la industria tecnológica para avanzar en la creación de un marco que permita examinar los modelos avanzados de IA antes de su comercialización.

De acuerdo con la información citada por el medio Axios, las empresas tecnológicas deberán permitir que la Administración estadounidense tenga acceso a determinados modelos antes de que sean lanzados públicamente.

La discusión sobre nuevas medidas de seguridad ocurre mientras las compañías estadounidenses aceleran el desarrollo de sus sistemas en medio de la creciente competencia con los desarrolladores chinos de inteligencia artificial, lo que incrementa la presión por avanzar tecnológicamente sin perder de vista los posibles riesgos asociados con modelos cada vez más autónomos y capaces.