Regulación de la IA en la Unión Europea (UE)

En abril de 2021, la Comisión propuso el primer marco regulador de la UE para la IA, que establece obligaciones para proveedores y usuarios en función del nivel de riesgo de la tecnología.

Garantizar que los sistemas de IA utilizados en la UE sean seguros

El objetivo principal de la UE es garantizar que los sistemas de IA utilizados en la UE sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente. Para ello, el Parlamento Europeo ha establecido una serie de requisitos que deben incluirse en la legislación sobre IA. En primer lugar, los sistemas de IA deben ser supervisados por personas, en lugar de por la automatización, para evitar resultados perjudiciales. Además, se debe establecer una definición uniforme y tecnológicamente neutra de la IA que pueda aplicarse a futuros sistemas de IA.

Cuatro niveles de riesgo . La nueva normativa establece cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo. Los sistemas de IA de riesgo inaceptable son los que se consideran una amenaza para las personas y serán prohibidos. Entre ellos se incluyen la manipulación cognitiva del comportamiento de personas o grupos vulnerables, la puntuación social, la clasificación de personas según su comportamiento, estatus socioeconómico o características personales, y los sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial.

Seguridad y derechos fundamentales

Los sistemas de IA de alto riesgo afectan negativamente a la seguridad o a los derechos fundamentales. Se dividirán en dos categorías : los sistemas de Inteligencia Artificial que se utilicen en productos sujetos a la legislación de la UE sobre seguridad de los productos, como juguetes, aviación, automóviles, dispositivos médicos y ascensores, y los sistemas de IA pertenecientes a ocho ámbitos específicos que deberán registrarse en una base de datos de la UE.

Estos ámbitos son: identificación biométrica y categorización de personas físicas, gestión y explotación de infraestructuras críticas, educación y formación profesional, empleo, gestión de trabajadores y acceso al autoempleo, acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas, aplicación de la ley, gestión de la migración, el asilo y el control de fronteras, y asistencia en la interpretación jurídica y aplicación de la ley. Todos los sistemas de IA de alto riesgo serán evaluados antes de su comercialización y a lo largo de su ciclo de vida.

ChatGPT e Inteligenia Artificial generativa

La IA generativa, como ChatGPT, también está sujeta a requisitos de transparencia . Debe revelar que el contenido ha sido generado por IA, diseñar el modelo para evitar que genere contenidos ilegales y publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento.

Por último, los sistemas de IA de riesgo limitado deben cumplir unos requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones con conocimiento de causa. Los usuarios deben ser conscientes de cuándo están interactuando con la IA, incluyendo los sistemas de IA que generan o manipulan contenidos de imagen, audio o vídeo.

¿Cuándo tendremos esta legislación sobre inteligencia artificial?

El 14 de junio de 2023, los eurodiputados adoptaron su posición negociadora sobre la ley de IA. Ahora comenzarán las conversaciones sobre la forma final de la ley en el Consejo, junto a los países de la UE. El objetivo es alcanzar un acuerdo a finales de este año . La UE se ha posicionado como líder mundial en la regulación de la IA y esto refleja su compromiso con la promoción de la innovación responsable y el desarrollo seguro y sostenible de esta tecnología.