El Parlamento Europeo aprueba una normativa pionera, que entre otras cosas busca facilitar espacios de pruebas y ensayos “en condiciones reales” para el desarrollo de tecnologías innovadoras en las pymes
Juanita Herrera
El Parlamento Europeo dio un paso hacia el futuro al aprobar este miércoles la Ley de Inteligencia Artificial. Avalada por una mayoría de 523 votos a favor, 46 en contra y 49 abstenciones en el pleno de la Eurocámara, tiene como objetivo principal salvaguardar los derechos fundamentales, la democracia, el Estado de Derecho y la sostenibilidad medioambiental frente a los riesgos asociados con la Inteligencia Artificial de alto impacto.
Según informó la Cámara europea, es una legislación pionera en el mundo, que espera equilibrar la seguridad y el respeto de los derechos fundamentales con la promoción de la innovación tecnológica. Esta medida, fruto de “arduas negociaciones” con los Estados miembros, marca un hito en la regulación global de la IA y sitúa a Europa “como líder en el desarrollo responsable de esta tecnología”.
La ley prevé medidas de apoyo a la innovación y a las pymes, facilitándoles espacios de pruebas y ensayos “en condiciones reales” para el desarrollo de tecnologías innovadoras antes de su comercialización.
Una de las facetas más destacadas de esta nueva legislación son las prohibiciones explícitas de ciertas aplicaciones de IA “que amenazan los derechos de los ciudadanos”. Por ejemplo, los sistemas de categorización biométrica basados en características sensibles y la recopilación indiscriminada de imágenes faciales de fuentes públicas para la creación de bases de datos de reconocimiento facial, explicó el Parlamento Europeo. También se prohíben prácticas como el reconocimiento de emociones en el lugar de trabajo y en las escuelas, los sistemas de puntuación ciudadana y la manipulación del comportamiento humano.
En cuanto al uso por parte de las fuerzas de seguridad, se establecen “estrictas regulaciones” para el empleo de sistemas de identificación biométrica, restringiéndose su uso “a situaciones específicas y con autorización judicial o administrativa previa”. “El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibido a priori, salvo en situaciones muy concretas y bien definidas”, incidió la institución.
Por otro lado, la normativa define los sistemas considerados de alto riesgo, que pueden ser perjudiciales para la salud, la seguridad o los derechos fundamentales, como aquellos utilizados en infraestructuras críticas, educación, servicios públicos esenciales y justicia. Estos deberán cumplir una serie de obligaciones adicionales, incluida la evaluación y mitigación de riesgos, transparencia y supervisión humana: “Los ciudadanos y ciudadanas tendrán derecho a presentar reclamaciones sobre los sistemas de IA y a recibir explicaciones sobre las decisiones basadas en ellos que afecten a sus derechos”.
REQUISITOS DE TRANSPARENCIA
Además, la transparencia “es un aspecto fundamental de esta ley”. En este sentido, se requieren ciertos requisitos para garantizar la transparencia y el respeto a los derechos de autor, se deberán divulgar resúmenes detallados sobre el contenido utilizado para el entrenamiento de modelos de IA, y los modelos que planteen riesgos sistémicos deberán cumplir con requisitos “aún más rigurosos”.
Los ponentes del Parlamento Europeo subrayaron la importancia histórica de esta legislación. Brando Benifei, coponente de la comisión de Mercado Interior, afirmó que la ley contribuirá a reducir riesgos, crear oportunidades y combatir la discriminación. Mientras que Dragos Tudorache, componente de la comisión de Libertades Civiles, enfatizó que la UE está liderando el camino hacia una gobernanza responsable de la IA.
El próximo paso es la aprobación final del texto, que está sujeto a una última comprobación jurídica-lingüística. Una vez publicado en el Diario Oficial, será de plena aplicación veinticuatro meses después de su entrada en vigor.