Acuerdo de Reglamento sobre Inteligencia Artificial en la UE
La Unión Europea ha marcado un hito crucial al lograr un acuerdo provisional sobre el tan esperado Reglamento de Inteligencia Artificial. Tanto el Parlamento como el Consejo han consensuado un texto que busca equilibrar la innovación tecnológica con la protección de derechos fundamentales, democracia y sostenibilidad ambiental.
Objetivos y Alcance del Reglamento
El reglamento tiene como objetivo principal garantizar la protección contra la inteligencia artificial de alto riesgo, asegurando el respeto a los derechos fundamentales y promoviendo la innovación en este campo. Las reglas establecen obligaciones proporcionadas a los riesgos potenciales y al nivel de impacto de la inteligencia artificial.
El acuerdo de Reglamento sobre Inteligencia Artificial en la UE se sustancia en los siguientes niveles de riesgo:
Aplicaciones Prohibidas de la Inteligencia Artificial
Destacando la importancia de salvaguardar los derechos ciudadanos y la democracia, se ha acordado la prohibición de diversas aplicaciones de inteligencia artificial. Estas incluyen sistemas biométricos que utilizan características sensibles, la recopilación indiscriminada de imágenes faciales y el reconocimiento de emociones en entornos laborales y educativos.
En el de Reglamento sobre Inteligencia Artificial en la UE se ha acordado prohibir:
- Sistemas de categorización biométrica que utilizan características sensibles (por ejemplo, creencias políticas, religiosas o filosóficas, orientación sexual, raza);
- Recopilación no dirigida de imágenes faciales de Internet o imágenes de circuito cerrado de televisión para crear bases de datos de reconocimiento facial;
- Reconocimiento de emociones en el lugar de trabajo y las instituciones educativas;
- Codificación social basada en el comportamiento social o las características personales;
- Sistemas de IA que manipulan el comportamiento humano para eludir su libre voluntad;
- IA utilizada para explotar las vulnerabilidades de las personas (debido a su edad, discapacidad, situación social o económica).
Excepciones para la Aplicación de la Ley
A pesar de las prohibiciones, se han establecido excepciones limitadas para el uso de sistemas de identificación biométrica (RBI) en espacios públicos, especialmente en el ámbito de la aplicación de la ley. Estos sistemas estarán sujetos a autorización judicial y se aplicarán únicamente para fines específicos y bien definidos.
Los RBI “en tiempo real” cumpliría estrictas condiciones y su uso estaría limitado en tiempo y lugar, para los siguientes fines:
- Búsquedas dirigidas de víctimas (secuestro, trata, explotación sexual);
- Prevención de una amenaza terrorista específica y presente; o
- Localización o identificación de una persona sospechosa de haber cometido uno de los delitos específicos mencionados en el reglamento (por ejemplo, terrorismo, trata, explotación sexual, asesinato, secuestro, violación, robo a mano armada, participación en una organización criminal, delito ambiental).
Obligaciones para Sistemas de Alto Riesgo
Para los sistemas de inteligencia artificial considerados de alto riesgo, se han acordado obligaciones claras, incluida una evaluación obligatoria de impacto en derechos fundamentales. Esto se aplicará no solo a la inteligencia artificial en general, sino también a sectores específicos como el bancario y el asegurador.
Medidas para Apoyar la Innovación y las PYMES
El acuerdo de Reglamento sobre Inteligencia Artificial en la UE, también busca apoyar la innovación y las pequeñas y medianas empresas, fomentando entornos reguladores flexibles, conocidos como «sandboxes regulatorios«. Estos permitirán el desarrollo y entrenamiento de soluciones innovadoras de inteligencia artificial antes de su introducción en el mercado, sin presiones indebidas de las grandes empresas del sector.
Sanciones y Entrada en Vigor
En caso de desviación de las normativas establecidas, se contempla la imposición de sanciones financieras sustanciales, ascendiendo a una cuantía significativa de 35 millones de euros o un 7% de la facturación global, como consecuencia directa del incumplimiento.
Está pendiente una revisión minuciosa, rigurosa y precisa por parte de los órganos legislativos de la Unión Europea, el Consejo y el Parlamento, quienes han asumido la responsabilidad de examinar y perfeccionar cada matiz antes de la implementación definitiva de las disposiciones en cuestión. Por lo tanto, mientras no esté realizada esta revisión no se hará efectiva su aplicación.