Primera Ley histórica para regular la inteligencia artificial en Europa

La nueva normativa sobre inteligencia artificial, que ha sido respaldada por una amplia mayoría, busca proteger los derechos fundamentales, la democracia y el Estado de derecho, al mismo tiempo que impulsa la innovación en este campo.

Protegiendo a las personas y los derechos fundamentales

La ley prohíbe una serie de aplicaciones de IA que se consideran riesgosas o discriminatorias, como:

• Sistemas de categorización biométrica basados en características sensibles.
• Captura indiscriminada de imágenes faciales para crear bases de datos de reconocimiento facial.
• Reconocimiento de emociones en el lugar de trabajo y en las escuelas.
• Sistemas de puntuación ciudadana .
• Actuación policial predictiva basada únicamente en el perfil de una persona.
• IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas.

Uso responsable de la IA por parte de las fuerzas de seguridad

El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibido en general, salvo en situaciones muy concretas y bien definidas como los casos de terrorismo. Los sistemas de identificación biométrica "en tiempo real" solo se podrán utilizar si se cumplen una serie de estrictas salvaguardias, como la autorización judicial o administrativa previa.

Requisitos de transparencia y responsabilidad

Los sistemas de IA de uso general y los modelos en los que se basan deben cumplir con ciertos requisitos de transparencia, como:

• Respetar la legislación de la UE sobre derechos de autor.
• Publicar resúmenes detallados del contenido usado para entrenar sus modelos.
• Los modelos más potentes que podrían plantear riesgos sistémicos deberán cumplir requisitos adicionales, como realizar evaluaciones de los modelos, analizar y mitigar los riesgos sistémicos e informar sobre los incidentes.

Apoyo a la innovación y a las pymes

La ley también incluye medidas para apoyar a las pymes y a las empresas emergentes en el desarrollo y la comercialización de la IA innovadora. Se pondrán a disposición de estas empresas espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional.

Próximos pasos

La ley aún está sujeta a una última comprobación jurídica-lingüística. Se espera que su aprobación definitiva tenga lugar antes de junio. La ley también debe ser adoptada formalmente por el Consejo.

Entrará en vigor veinte días después de su publicación en elDiario Oficialy será de plena aplicación veinticuatro meses después de su entrada en vigor, con excepción de: las prohibiciones de prácticas (se aplicarán seis meses después de la fecha de entrada en vigor); los códigos de buenas prácticas ( nueve meses después ); las normas sobre la IA de uso general, incluida la gobernanza ( doce meses después ), y las obligaciones para los sistemas de alto riesgo ( treinta y seis meses después ).

Un futuro responsable con la IA

La aprobación de esta ley es un hito importante en el desarrollo de la IA en Europa. La normativa busca garantizar que la IA se desarrolle y se utilice de forma responsable, protegiendo los derechos fundamentales y al mismo tiempo impulsando la innovación. La ley coloca a Europa a la vanguardia de la regulación de la IA y puede servir como modelo para otras regiones del mundo.