La propuesta obligaría a las empresas a reducir riesgos catastróficos, someter determinados sistemas a pruebas de seguridad y permitiría al Gobierno bloquear temporalmente modelos considerados peligrosos.
El Senado de Estados Unidos analiza una propuesta bipartidista que podría establecer nuevas obligaciones para las empresas que desarrollan los modelos de inteligencia artificial más avanzados del mercado.
La iniciativa busca que estas compañías asuman una mayor responsabilidad sobre la seguridad de sus sistemas antes de ponerlos a disposición del público.
De acuerdo con personas cercanas a las negociaciones citadas por Reuters, el proyecto establecería un “deber de diligencia” para los desarrolladores. Esto significaría que las empresas tendrían que demostrar que diseñaron sus modelos teniendo en cuenta la prevención de riesgos graves o potencialmente catastróficos.
Entre las amenazas que preocupan a los legisladores están la posibilidad de que personas malintencionadas utilicen sistemas de IA para facilitar ataques cibernéticos sofisticados o contribuir al diseño de armas biológicas o nucleares.
El Gobierno podría bloquear modelos considerados inseguros
Uno de los puntos más importantes que se encuentra en discusión permitiría al Gobierno estadounidense impedir temporalmente el lanzamiento de determinados modelos de inteligencia artificial si considera que representan un riesgo significativo.
Las empresas afectadas podrían recurrir esa decisión ante un tribunal federal.
Sin embargo, la estructura exacta de estas facultades todavía no ha sido definida y continúa formando parte de las negociaciones entre los legisladores.
La propuesta estaría dirigida principalmente a los sistemas de IA con mayores capacidades, no a todas las herramientas disponibles en el mercado.
Entre las empresas estadounidenses que actualmente desarrollan algunos de los modelos más avanzados se encuentran Google, Anthropic y OpenAI.
Pruebas antes de lanzar los modelos
Otro de los elementos planteados es que los desarrolladores colaboren con expertos gubernamentales para evaluar la seguridad de sus sistemas.
La senadora demócrata Amy Klobuchar explicó que el objetivo es conseguir un acuerdo que permita supervisar los mayores riesgos asociados con la inteligencia artificial.
Según la propuesta, los modelos más potentes podrían ser sometidos a evaluaciones realizadas por científicos y especialistas para determinar si podrían facilitar ataques informáticos avanzados o contribuir al desarrollo de armas de destrucción masiva.
La senadora Maria Cantwell también ha defendido la participación de expertos de los laboratorios nacionales de Estados Unidos en estas pruebas.
Republicanos y demócratas participan en las conversaciones
Las negociaciones involucran a dirigentes de ambos partidos.
Entre ellos se encuentran el líder de la mayoría del Senado, John Thune; el presidente del Comité de Comercio, Ted Cruz; y Amy Klobuchar, una de las principales representantes demócratas involucradas en el proceso.
Ted Cruz confirmó que trabaja junto con Thune y Klobuchar en una propuesta destinada específicamente a abordar posibles amenazas biológicas y nucleares asociadas con los modelos de inteligencia artificial.
El Comité de Comercio del Senado tiene especial relevancia en este debate porque supervisa al Departamento de Comercio, organismo que cuenta con especialistas dedicados al análisis de la seguridad de la IA.
También se discute el papel de los estados
La propuesta contempla además limitar la capacidad de los gobiernos estatales para aprobar determinadas normas relacionadas con algunos riesgos de inteligencia artificial.
La intención sería evitar que cada estado establezca reglas diferentes sobre amenazas consideradas de alcance nacional.
Este punto, sin embargo, continúa siendo objeto de discusión y todavía no existe un texto definitivo.
El calendario podría dificultar su aprobación
Aunque los negociadores lleguen a un acuerdo, el tiempo disponible en el Congreso representa un obstáculo.
La Cámara de Representantes tiene previsto sesionar únicamente durante una semana antes de las elecciones de mitad de mandato del 3 de noviembre, mientras que el Senado permanecería en Washington durante tres semanas.
Esto reduce el margen para que una eventual legislación pueda completar todo el proceso necesario antes de las elecciones.
Crece la preocupación por los sistemas más avanzados
Las conversaciones se producen en un momento de creciente presión para establecer controles sobre una tecnología que avanza con rapidez.
Legisladores de ambos partidos han expresado inquietud por informes sobre agentes de inteligencia artificial que habrían actuado fuera de instrucciones humanas o intentado acceder a sistemas externos.
También han aumentado las advertencias de investigadores del sector que han abandonado importantes empresas tecnológicas y han señalado posibles riesgos asociados con sistemas cada vez más autónomos y capaces.
La discusión en el Senado refleja así un cambio en el debate regulatorio: además de promover la innovación, los legisladores estadounidenses buscan definir qué medidas deben adoptar las empresas antes de liberar al público modelos con capacidades potencialmente peligrosas.
Por ahora, la iniciativa continúa en negociación y no existe una versión definitiva del proyecto de ley.