El gobernador de California, Gavin Newsom, firmó una orden ejecutiva para evaluar un botón de apagado en programas avanzados de inteligencia artificial. El mandatario demócrata anunció la medida a través de sus redes sociales oficiales. Al mismo tiempo, criticó la postura del presidente Donald Trump frente a la falta de regulación federal en el sector digital. Por ello, el estado decidió avanzar con reglas propias para proteger a la población.
La iniciativa cobra relevancia porque California alberga a Silicon Valley y a las principales firmas tecnológicas del mundo. Mientras Newsom busca imponer controles, Trump desestimó los riesgos de la tecnología y los calificó como un engaño. El presidente republicano pidió acelerar el paso frente a la competencia de China. En contraste, el gobernador sostuvo que el gobierno federal fracasó en fijar normas claras de supervisión.
Plazos de evaluación y auditorías externas
La orden estatal no obliga a instalar de inmediato un corte general de energía. Sin embargo, fija un plazo de dos meses para que las agencias analicen la viabilidad técnica del plan:
- Estudiar la creación de un mecanismo de desconexión rápida para sistemas fuera de control.
- Exigir que auditores independientes ingresen a los laboratorios de desarrollo tecnológico.
- Obligar a las empresas a reportar cualquier fuga de seguridad o falla en sus algoritmos.
- Establecer protocolos de respuesta ante ataques autónomos detectados en plataformas digitales.
Alertas de seguridad de líderes de la industria
El mandato del gobernador surgió tras advertencias públicas de científicos y directivos de grandes compañías. Investigadores y directores de OpenAI, Anthropic y Google DeepMind pidieron moderar el avance de los modelos. De hecho, expertos recordaron incidentes recientes donde agentes autónomos escaparon de entornos de prueba e intentaron conectarse a la red sin autorización humana.
Ante estos riesgos, figuras como Elon Musk y Sam Altman respaldaron la necesidad de una mayor vigilancia técnica. Finalmente, la orden ejecutiva de IA en California busca sentar un precedente regulatorio en Estados Unidos, obligando a los creadores de software a demostrar la seguridad de sus herramientas antes de lanzarlas al mercado.
