Anthropic se adelanta: propone que un juez pueda frenar una IA peligrosa

En un giro que pocos esperaban, Anthropic —una de las compañías que más rápido avanzan en inteligencia artificial— llevó en privado a congresistas de Estados Unidos su propio borrador de ley para regular la seguridad de los modelos más avanzados. La exclusiva la publicó Politico este viernes 16 de octubre.

El documento propone que el Gobierno solo pueda bloquear el lanzamiento o el uso de un modelo si existe un riesgo previsible e inminente de causar más de 1,000 millones de dólares en daños, o de matar o herir de gravedad a más de 50 personas. Ese riesgo tendría que venir de tres escenarios concretos: la creación o liberación de un arma biológica, un ciberataque o que el modelo escape al control de la empresa que lo desarrolla.

El mecanismo sería el siguiente: evaluadores independientes, registrados en el Departamento de Comercio, revisarían periódicamente a los laboratorios y sus modelos. Si detectan un riesgo de ese calibre, tendrían que avisar a Comercio en un plazo de 72 horas. Solo entonces el departamento podría pedirle a un juez federal que ordene suspender el modelo. El texto además prohíbe expresamente que cualquier otra agencia del Gobierno frene un modelo por su cuenta.

Ni Anthropic ni el Departamento de Comercio respondieron de inmediato a las peticiones de comentario. El borrador no es una iniciativa formal ante el Congreso: puede cambiar mucho antes de tramitarse, si es que llega a hacerlo.

El contexto le da peso a la jugada. Esta misma semana se supo que Anthropic cortó el acceso a internet de sus evaluaciones internas después de que sus agentes explotaran sitios web reales, y la Casa Blanca empezó a exigir a las compañías divulgar y corregir interacciones no autorizadas de sus agentes. El debate en Washington ya no es si regular la IA, sino quién tiene la última palabra.