La Ley de Inteligencia Artificial (IA Act) es una normativa propuesta por la Unión Europea (UE) que busca establecer un marco legal para el desarrollo y uso de la Inteligencia Artificial.
Después de largas negociaciones, la Comisión Europea, el Parlamento Europeo y el Consejo de la UE ―que representa a los Estados miembros― llegaban a un acuerdo provisional sobre el contenido de la ‘AI Act’, la futura ley que regulará el desarrollo de la inteligencia artificial en Europa, la primera en todo el mundo.
El acuerdo limita el uso de los sistemas de identificación biométrica por las fuerzas de seguridad, recoge normas para modelos de IA generativa como ChatGPT y contempla multas que pueden llegar a los 35 millones de euros a quien vulnere las normas, entre otras medidas. El texto ahora deberá ser adoptado formalmente por el Parlamento y el Consejo antes de convertirse en legislación de la UE.
Algunos puntos clave
Fue presentada por primera vez en abril de 2021.
Uno de los aspectos más controvertidos ha sido el uso de sistemas de identificación biométrica.
Esta ley limita a las IA más peligrosas, al mismo tiempo que protege la privacidad y la igualdad de los ciudadanos.
Tras una negociación de más de 38 horas, se llegó a un acuerdo provisional sobre la futura ley de inteligencia artificial.
Esta ley busca mejorar el funcionamiento del mercado interno mediante el establecimiento de un marco jurídico uniforme, en particular en lo que respecta al desarrollo, la comercialización y la utilización de la inteligencia artificial de conformidad con los valores de la Unión.
El objetivo del presente reglamento es promover en la Unión la adopción de una inteligencia artificial fiable y centrada en el ser humano y garantizar un elevado nivel de protección de la salud, la seguridad, los derechos fundamentales, la democracia y el Estado de Derecho y del medio ambiente frente a los efectos nocivos de los sistemas de inteligencia artificial.
Voz experta
Paloma Llaneza, abogada, auditora de sistemas, consultora de seguridad experta en los aspectos legales y regulatorios de internet y CEO de Razona Legaltech, dice:
¿Qué cambios más importantes podrían afectar a las empresas y a la investigación?
“Creo que el principal impacto es que van a tener que limitar el uso de la IA en los sistemas de toma de decisiones basados en datos personales que incluyen los perfilados por comportamiento o emoción, así como la incorporación de un análisis de riesgos previo a poner en producción determinados modelos en atención a su criticidad”.
¿Qué podría cambiar para los usuarios?
“Visto desde el lado del usuario, se debería limitar el uso de sus datos para el perfilado a través de sistemas de IA o algoritmos orientados a modelos de éxitos que carecen de transparencia y explicabilidad. De hecho, el acuerdo político sobre la IA Act coincide con una sentencia del Tribunal de Justicia de la UE que declara ilícito el sistema de scoring de crédito alemán usado por la banca y entidades de crédito por tratarse de un sistema completamente automatizado que incumple el RGPD”.
La Unión Europea se quiere posicionar como líder para guiar el desarrollo de la IA en el mundo. ¿Son realistas estas ambiciones? ¿Cómo ayudará esta ley a cumplirlas?
“Europa lleva años queriendo posicionarse como referente moral de la tecnología poniendo al ser humano en el centro a través de la aprobación de varias normas como el RGPD, DSA o DMA, pero olvida los problemas de regular y sancionar a empresas que operan desde fuera de la UE. Es cierto que el Reglamento prevé un sistema de sanciones pero, en el día a día, los usuarios se encuentran bastante perdidos en cuanto a infracciones personales y concretas.
Debemos plantearnos si la mejor manera de proteger la democracia es sancionar empresas que incluyen en su análisis de riesgos operativos las sanciones posibles y deciden que les compensan, o potenciar el desarrollo de herramientas competitivas en Europa que cumplan nuestros estándares regulatorios. Mientras esto no ocurra, seremos una colonia de EEUU que acabará arrasando nuestra regulación o integrándola, como digo, como otro coste más.
Por lo demás, los riesgos de las IAs fundacionales, que son enormes por su penetración y potencia, no se han solventado en esta regulación”.
La IA se desarrolla muy rápido, mientras que el trabajo legislativo es más lento. ¿Esta ley podrá tener un impacto rápido y duradero?
“Ningún reglamento funciona ya sin actos de implantación y estandarización técnica. Es en esos detalles donde está el diablo de cualquier regulación y donde hay que dar la batalla.
En todo caso, el reglamento regula realidades que ya hoy están obsoletas o se podían gestionar con regulación ya aprobada. Está pensada para desarrollos empresariales o estatales, pero deja escapar la IA generativa de consumo que es, en realidad, el gran reto que tenemos por delante”.
