Cover
Las claves de la nueva ley europea de Inteligencia Artificial

Las claves de la nueva ley europea de Inteligencia Artificial

La AI Act es la primera ley exhaustiva sobre IA de un regulador importante en cualquier parte del mundo... y esto es todo lo que abarcará

Ya hemos visto en este blog, en más de una ocasión, todo lo que la introducción de la Inteligencia Artificial puede significar en el mundo actual. Una nueva realidad que ya está planteando desafíos como la privacidad o los derechos de autor, y que tendrá en la Unión Europea el primer lugar del mundo donde se establecerá una ley para regularla.

Este hito histórico se ha alcanzado con una amplia mayoría en el Parlamento europeo: 523 votos a favor y solo 46 en contra. La normativa está programada para entrar en vigor a mediados de 2026, luego de obtener la aprobación final de los Estados miembros y ser publicada en el Diario Oficial de la UE, lo que probablemente ocurra antes del verano. Se dará entonces inicio a un período de dos años para su completa implementación.

Esta ley representa, como decimos, la primera regulación vinculante sobre IA en el mundo y tiene como objetivo fundamental mitigar los riesgos asociados con esta tecnología, al tiempo que se promueven oportunidades y se asegura la transparencia en su uso. Según Brando Benifei, eurodiputado italiano y coautor de la ley, esta legislación prohíbe prácticas inaceptables de IA en Europa y protege los derechos fundamentales de los trabajadores y los ciudadanos.

Es importante destacar que esta ley no busca regular la tecnología en sí misma, sino garantizar su uso seguro y ético en el mercado europeo. Por ello, se clasifican los sistemas de IA en diferentes categorías según su nivel de riesgo, prohibiendo ciertos usos como la puntuación social o la categorización biométrica discriminatoria.

¿Qué regulará la nueva ley?

Lo más destacado es la prohibición absoluta de capturar imágenes faciales de Internet o de grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial. También se prohíbe la creación de sistemas biométricos basados en características sensibles, como el color de la piel.

Además, el texto prohíbe expresamente el uso de IA para detectar emociones en trabajadores y estudiantes, así como el desarrollo de sistemas de calificación ciudadana. La ley hace especial hincapié en la «policía predictiva«, la cual no puede basarse únicamente en perfiles elaborados a partir de características de los sujetos, aunque hay excepciones previstas para las fuerzas de seguridad. Por ejemplo, las autoridades policiales de la UE pueden utilizar sistemas de identificación biométrica en tiempo real con autorización judicial o administrativa, limitado a un lugar y período de tiempo definidos, especialmente para prevenir actos terroristas o encontrar personas desaparecidas. El uso posterior de esta tecnología después de la comisión de un delito solo es posible con la aprobación de un juez.

Tampoco se autoriza el uso de IA para manipular el comportamiento de los ciudadanos (como publicar deepfakes en redes sociales) y explotar sus vulnerabilidades. Asimismo, todo contenido creado o editado con IA debe ser claramente identificado y todos los residentes en la UE tendrán derecho a presentar reclamaciones y obtener explicaciones sobre decisiones tomadas con IA que afecten a sus derechos.

Estas prohibiciones se aplican a todos los sistemas de IA que operan en la UE, especialmente aquellos considerados de «alto riesgo» en los campos de la salud, el medio ambiente y la seguridad, así como en infraestructuras críticas y servicios públicos y privados como la banca y los seguros.

La ley también afecta a herramientas impulsadas por IA, como ChatGPT, exigiendo transparencia en su funcionamiento y marcando el contenido generado como ‘creado con IA’. Se imponen requisitos estrictos de cumplimiento con la normativa de derechos de autor y se requiere la divulgación de información sobre seguridad y consumo de energía.

A pesar de las alabanzas recibidas, algunos expertos ya han expresado u preocupación por el impacto de esta ley en la innovación europea. No obstante, se espera que sirva como modelo para futuras regulaciones sobre IA en todo el mundo.

Por último, la normativa establecerá multas por incumplimiento que pueden ascender hasta 35 millones de euros o el 7% del volumen de negocios anual global del ejercicio financiero anterior.