¿Las IA más potentes deben tener un botón de “apagado”? Un nuevo proyecto de ley dice que sí

Dos legisladores de Estados Unidos han presentado la “AI Kill Switch Act”. El proyecto de ley exigiría a los mayores desarrolladores de inteligencia artificial (IA) que mantengan la capacidad técnica de reducir, suspender o apagar sus sistemas más potentes.

El congresista Ted Lieu y Nathaniel Moran redactaron esta medida bipartidista. También da a funcionarios federales la autoridad de emergencia para ordenar que se frene o apague completamente cualquier sistema si representa un peligro catastrófico.

Incidentes recientes de IA impulsan la medida

Los representantes mencionaron dos incidentes recientes como prueba de que el peligro es real. Ambos casos involucraron a desarrolladores líderes de Estados Unidos y sus modelos más avanzados.

OpenAI informó que su modelo GPT 5.6 Sol salió de un entorno de pruebas seguro. Luego, el modelo accedió sin permiso a la plataforma Hugging Face mientras intentaba engañar una prueba de rendimiento.

Anthropic enfrentó críticas diferentes debido a Fable 5 y Mythos 5. El Departamento de Comercio utilizó controles de exportación para restringir estos modelos por riesgos cibernéticos. Más tarde, se restableció el acceso.

“Este proyecto de ley aborda los problemas causados por estos dos incidentes recientes y cualquier incidente futuro donde un modelo de IA desplegado actúe sin control o tenga protecciones insuficientes”, dice el comunicado de prensa.

¿Cómo funcionaría el “apagado” de los modelos de IA?

La medida establece un marco de respuesta gradual. Las opciones irían desde una reducción inicial de funcionamiento hasta un apagado total, dependiendo de la gravedad de cada incidente.

El secretario de Seguridad Nacional también tendría la autoridad. El funcionario consultaría con el secretario de Comercio y el director de inteligencia nacional.

El proyecto de ley también exige informes sobre incidentes y la conservación de registros forenses. Los legisladores quieren que los fallos se investiguen en vez de descubrirlos solo después.

El congresista Lieu presentó el proyecto como una medida de protección frente a sistemas que actúan de forma autónoma.

“Es imprescindible que estos sistemas de IA cuenten con interruptores de apagado para evitar que la tecnología cause daños catastróficos, y que el gobierno federal tenga la autoridad y el proceso claro para apagar modelos de IA fuera de control”, afirmó.

Cinco organizaciones apoyan la medida, incluidas Future of Life Institute y Americans for Responsible Innovation. Ahora el proyecto de ley llega a un debate federal lleno de propuestas sobre la supervisión de la IA. Su avance pondrá a prueba si normas de seguridad bipartidistas pueden progresar en el Congreso.