EE.UU., la UE y el Reino Unido firman el primer tratado internacional jurídicamente vinculante sobre IA.
Se espera que Estados Unidos, la Unión Europea y el Reino Unido firmen la convención el 5 de septiembre. La convención destaca los derechos humanos y los valores democráticos como claves para regular los modelos de IA del sector público y privado.
Unidos en la IA
La convención sobre IA sería el primer tratado internacional del mundo sobre IA jurídicamente vinculante para sus signatarios. Responsabiliza a todos de cualquier daño o discriminación que se derive de los sistemas de IA.
También obliga a que los productos de dichos sistemas respeten los derechos de igualdad y privacidad de los ciudadanos, dando a las víctimas de violaciones de los derechos de la IA recursos legales. Sin embargo, en caso de que se produzcan infracciones, aún no se han establecido medidas de refuerzo, como multas.
Además, en la actualidad el cumplimiento del tratado sólo se impone a través de la supervisión.
El ministro británico de Ciencia, Innovación y Tecnología, Peter Kyle, afirmó que la firma del tratado sería un primer paso “importante” a nivel mundial.
“El hecho de que esperemos que un grupo tan diverso de naciones vaya a firmar este tratado demuestra que, en realidad, nos estamos levantando como comunidad global ante los retos que plantea la IA.”
El tratado se redactó inicialmente hace dos años, con aportaciones de más de 50 países, entre ellos Canadá, Israel, Japón y Australia.
Si bien puede ser el primer caso de un tratado internacional sobre IA, las naciones individuales han estado considerando activamente la implementación de regulaciones de IA más localizadas.
Normas mundiales sobre IA
Durante el verano, la UE se convirtió en la primera región en aplicar una amplia normativa que regula el desarrollo y despliegue de modelos de IA, especialmente los de alto nivel equipados con grandes cantidades de potencia de cálculo.
La Ley de IA de la UE entró en vigor el 1 de agosto e introdujo importantes normativas para la IA mediante una aplicación por fases y obligaciones de cumplimiento clave.
Aunque la ley se elaboró pensando en la seguridad, también ha sido un punto de discordia entre los desarrolladores del sector de la IA, que afirman que ahoga la capacidad de innovación en la región.
Esto puede observarse en empresas como Meta, la empresa matriz de Facebook, responsable de la creación de uno de los mayores modelos lingüísticos de gran tamaño (LLM), Llama2.
Meta ha dejado de desplegar sus últimos productos en la UE debido a la normativa que impide a los europeos acceder a las últimas y más avanzadas herramientas de IA.
Las empresas tecnológicas se unieron en agosto para enviar una carta a los dirigentes de la UE en la que pedían más tiempo para cumplir la normativa.
La IA en EE.UU.
En Estados Unidos, el Congreso aún no ha establecido un marco nacional para la regulación de la IA. Sin embargo, la Administración de Biden ha creado comités y grupos de trabajo para la seguridad de la IA.
Por su parte, en California, los legisladores han estado muy ocupados redactando y aprobando normativas sobre IA. Sólo en las dos últimas semanas, dos proyectos de ley han sido aprobados por la Asamblea del Estado y están a la espera de una decisión final del gobernador de California, Gavin Newsom.
El primero regula y penaliza la creación de réplicas digitales no autorizadas de personalidades fallecidas generadas por IA.
El segundo es un proyecto de ley muy controvertido, al que se oponen muchos de los principales desarrolladores de IA, que hace obligatorias las pruebas de seguridad para la mayoría de los modelos de IA más avanzados y la necesidad de crear planes de un “interruptor de la muerte” para dichos modelos.
La regulación de la IA en California es importante porque allí se encuentran las sedes de algunos de los principales desarrolladores del mundo, como OpenAI, Meta y Alphabet (Google).