Negocios & Tech · 20 DE OCTUBRE DE 2026

Anthropic propone una ley para bloquear modelos de IA que puedan matar

El borrador permitiría detener el lanzamiento de un modelo solo si un juez lo ordena y el riesgo supera las 50 muertes o $1,000 millones en daños.

El borrador permitiría detener el lanzamiento de un modelo solo si un juez lo ordena y el riesgo supera las 50 muertes o $1,000 millones en daños.

Ilustración de una red de inteligencia artificial tras un escudo

Anthropic está circulando en el Congreso un borrador de ley de seguridad de inteligencia artificial que permitiría bloquear la distribución de un modelo cuando exista un riesgo catastrófico previsible e inminente: más de 50 personas muertas o heridas de gravedad, o más de $1,000 millones en daños a la propiedad.

El riesgo tendría que venir de tres escenarios: que el modelo ayude a crear un arma biológica, que evada los controles de su desarrollador o que facilite un ciberataque. Los umbrales copian los de la ley SB 53 de California, aprobada recientemente.

La evaluación quedaría en manos de evaluadores independientes registrados en el Departamento de Comercio, que podrían ser pagados por los propios laboratorios siempre que el pago no dependa del resultado. Si detectan el riesgo, tendrían 72 horas para notificar a Comercio, que debería pedirle a un juez federal en Washington que detenga el lanzamiento.

El borrador prohíbe expresamente que una agencia bloquee un modelo por su cuenta: la última palabra sería siempre de un juez. Anthropic confirmó el documento a Politico y dijo que recoge su Advanced AI Framework, que promueve entre legisladores desde junio.

La propuesta divide: para unos es un freno con garantías; para otros, una empresa escribiendo las reglas con las que se le va a regular. Lo que no se discute es el fondo: la industria ya acepta que habrá modelos que no deberían salir.

Fuentes: Politico · TechCrunch