Anthropic propone suspender modelos de IA que puedan causar daños millonarios

Estados Unidos.- La empresa tecnológica Anthropic, desarrolladora del asistente de inteligencia artificial Claude, presentó ante legisladores estadounidenses una propuesta para permitir que el Gobierno federal suspenda modelos avanzados de inteligencia artificial (IA) cuando representen un riesgo inminente de provocar daños económicos superiores a mil millones de dólares o causar la muerte o lesiones graves a más de 50 personas.

De acuerdo con información publicada por Politico y retomada por Reuters, representantes de la compañía sostuvieron conversaciones con integrantes del Congreso de Estados Unidos para plantear un proyecto de ley enfocado en la regulación y seguridad de los sistemas de IA más avanzados.

La propuesta establece que las autoridades podrían intervenir únicamente cuando exista un riesgo previsible e inminente de consecuencias graves, particularmente en situaciones relacionadas con el desarrollo o liberación de armas biológicas, ciberataques o la pérdida de control sobre un modelo de inteligencia artificial.

El documento contempla la participación de evaluadores independientes, quienes tendrían que registrarse ante el Departamento de Comercio de Estados Unidos para revisar periódicamente los modelos desarrollados por las empresas tecnológicas.

En caso de detectar un peligro que cumpla con los criterios establecidos, los especialistas contarían con un plazo máximo de 72 horas para informar a las autoridades federales.

A partir de estos reportes, el Departamento de Comercio podría solicitar ante un juez federal la suspensión del desarrollo, lanzamiento o utilización de un modelo considerado peligroso.

Sin embargo, la suspensión no sería automática, ya que tendría que ser autorizada por un juez del Tribunal de Distrito de Estados Unidos para el Distrito de Columbia.

Los límites propuestos por Anthropic contemplan riesgos capaces de generar pérdidas materiales superiores a mil millones de dólares, así como incidentes que pudieran ocasionar la muerte o lesiones graves a más de 50 personas.

La iniciativa no estaría dirigida exclusivamente a los productos de Anthropic, sino que buscaría establecer mecanismos de supervisión para otras compañías que desarrollan sistemas de inteligencia artificial de alta capacidad.

La propuesta también plantea medidas de transparencia, evaluaciones externas y obligaciones relacionadas con la seguridad tecnológica para identificar posibles amenazas antes de que ocurran incidentes graves.

Anthropic ha defendido anteriormente la necesidad de establecer reglas para los modelos más avanzados mediante su marco de políticas de inteligencia artificial, que contempla la intervención gubernamental cuando exista un peligro significativo para la población.

El planteamiento surge en medio del debate sobre los riesgos asociados con los sistemas de IA capaces de realizar tareas de manera autónoma, especialmente en áreas sensibles como la ciberseguridad y la investigación biológica.

Hasta el 19 de octubre de 2026, las medidas forman parte de una propuesta legislativa, por lo que todavía no constituyen una ley federal vigente ni representan una orden para suspender algún modelo específico de inteligencia artificial.