El gobernador de California, Gavin Newsom, emitió una orden ejecutiva para acelerar la supervisión independiente de los sistemas avanzados de inteligencia artificial y estudiar nuevas medidas de seguridad, entre ellas la posibilidad de exigir mecanismos capaces de detener modelos de frontera ante una emergencia. La propuesta del llamado “interruptor de apagado” todavía no se convirtió en un requisito obligatorio.
La orden instruyó a la Agencia de Operaciones Gubernamentales de California a acelerar la implementación de nuevas disposiciones relacionadas con auditorías y verificaciones independientes de sistemas de inteligencia artificial. También estableció la convocatoria de especialistas nacionales para presentar, en un plazo de dos meses, recomendaciones destinadas a reforzar las leyes estatales de seguridad tecnológica.
Entre las medidas que quedaron bajo análisis figuró la creación de un mecanismo de apagado de emergencia para modelos de inteligencia artificial de frontera, cuya efectividad podría ser revisada periódicamente por organizaciones independientes. El gobierno estatal también planteó evaluar auditorías dentro de los laboratorios y verificaciones externas de los planes de seguridad, reportes de transparencia y evaluaciones de riesgo elaboradas por las compañías.
La iniciativa se apoyó en dos leyes firmadas el 9 de septiembre. La SB 813 estableció un marco para organizaciones independientes encargadas de evaluar sistemas de inteligencia artificial, mientras que la AB 1405 creó un registro estatal de auditores y fijó estándares relacionados con su independencia, transparencia e integridad.
Newsom también pidió que el gobierno federal estableciera reglas nacionales para el desarrollo y supervisión de la inteligencia artificial. Su administración consideró que las medidas adoptadas en California podían servir como referencia para una regulación de alcance nacional, aunque cualquier legislación federal permaneció bajo responsabilidad del Congreso y del gobierno estadounidense.
La orden ejecutiva no obligó inmediatamente a las empresas a instalar un “interruptor de apagado”, sino que abrió el proceso para determinar cómo podría diseñarse, verificarse y eventualmente incorporarse a la legislación estatal. California continuó así ampliando su marco regulatorio mientras especialistas evaluaron qué controles adicionales podrían aplicarse a sistemas de inteligencia artificial cada vez más avanzados.
