Ley de la Inteligencia Artificial de la UE

El 9 de diciembre de 2023 veía la luz la ley de Inteligencia Artificial en Europa. El objetivo, tal y como expone el Parlamento Europeo, es garantizar que los sistemas de IA en el mercado europeo “sean seguros y respeten los derechos fundamentales y los valores de la UE”.

Esta ley de inteligencia artificial de la UE aparece en un contexto en el que la percepción pública de este tipo de sistemas ha experimentado una evolución marcada en muy poco tiempo. Como ejemplo, los últimos datos disponibles en Eurostat indican que un 8% de las empresas europeas ya emplean tecnologías de Inteligencia Artificial. 

Moviéndose como un péndulo entre la fascinación por sus oportunidades y la preocupación por sus potenciales peligros, las preocupaciones de ciudadanos y expertos tienen reflejo en esta normativa. 

La ley de Inteligencia Artificial del Parlamento Europeo constituye la primera propuesta legislativa mundial en torno a este asunto. Por lo tanto, se espera que siente precedente y que sus resultados sean observados con atención en el escenario mundial.

¿Qué es la ley de Inteligencia Artificial y qué aspectos regula? ¡Sigue leyendo para saber más!

Primera ley de Inteligencia Artificial 

La ley de Inteligencia Artificial de la Unión Europea tiene su origen en el año 2021, cuando se inició la redacción del texto. 

No obstante, la misma naturaleza de la IA y sus avances continuos (incluyendo la explosión de la IA generativa) ha hecho que el texto propuesto inicialmente haya debido ser modificado en multitud de ocasiones hasta su aprobación final.  

El objetivo de la ley de Inteligencia Artificial de la UE es, según recogen organismos oficiales, “garantizar que los sistemas de IA utilizados en la UE sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente”. Además, entre otras disposiciones, la ley recoge la necesidad de que los sistemas de IA sean supervisados por personas.

La importancia de este texto y sus consecuencias en la industria se refleja en el auténtico maratón de negociación que tuvo lugar para su aprobación, que duró 36 horas. El resultado de este esfuerzo es un acuerdo provisional a la espera de ser ratificado y que, se prevé, entrará en vigor en 2026. No obstante, algunas de sus medidas y prohibiciones van a aplicarse en los próximos 6 meses y un año desde su aprobación.

A su vez, la ley prevé multas que llegan hasta los 35 millones de euros o el 7% de la facturación global de la empresa.

Qué regula la ley 

La ley de Inteligencia Artificial de la UE clasifica estas tecnologías según su riesgo (mínimo, limitado, muy alto) y, en base a ello, regula su uso (que puede incluir su prohibición completa en el ámbito europeo).

A continuación desgranamos algunos de los puntos clave de la ley de Inteligencia Artificial de la UE: 

Destacan los siguientes usos prohibidos de IA:

• Sistemas biométricos masivos basados en características sensibles (creencias políticas, religiosas, de raza u orientación sexual) o reconocimiento facial en tiempo real y a distancia. Se introducen excepciones en el reconocimiento facial a posteriori con fines policiales, previa autorización judicial y solo para delitos determinados
• Prácticas de social scoring (puntuación social) en base a comportamientos o características personales
• Manipulación del comportamiento humano y explotación de vulnerabilidades en las personas (desde su edad a su situación económica o social)

Se establecen una serie de obligaciones para los proveedores de IA de propósito general. Así, deberán garantizar el cumplimiento de los derechos de autor y la presentación de documentación técnica y de los contenidos utilizados en el entrenamiento de la IA.

Se regulan además los modelos de propósito general con riesgo sistémico (que suponen un riesgo para la salud, seguridad, derechos fundamentales, medio ambiente, democracia y el Estado de Derecho). Sus obligaciones son más estrictas e implican la necesidad de poner en marcha evaluaciones de modelos y mitigar los riesgos sistémicos, entre otras acciones. 

Se consideran de alto riesgo los siguientes sistemas de IA (y por tanto cuentan con sus propias limitaciones y evaluación previa a su comercialización):

• • Los sujetos a la ley europea sobre seguridad de los productos (juguetes, aviación, dispositivos médicos…)
  • Los sistemas de IA que permitan identificación biométrica, gestión y explotación de infraestructuras críticas, educación y formación, empleo, gestión de trabajadores y acceso al autoempleo, acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas, aplicación de la ley, gestión de la migración, el asilo y el control de fronteras, asistencia en la interpretación jurídica y aplicación de la ley.

La IA generativa deberá cumplir una serie de requisitos de transparencia, como publicar resúmenes de los datos que ha empleado en su entrenamiento que están protegidos por derechos de autor; revisar el modelo para evitar el incumplimiento de la legislación de propiedad intelectual; o revelar qué contenido ha sido generado por IA.

En el caso de las aplicaciones de IA de riesgo limitado, se establecen requisitos de transparencia y agencia de los usuarios. Por ejemplo, los usuarios deben ser informados de cuándo están interactuando con la IA; también se deberá permitir a los usuarios decidir si dejar de utilizar este tipo de aplicaciones una vez utilizadas.

Problemas que puede causar la ley

La rápida evolución de la inteligencia artificial ha hecho que muchos cuestionen la ley de la Inteligencia Artificial y su capacidad para adaptarse a nuevos usos y tecnologías que surjan a partir de su elaboración.

A esta posible limitación se une la crítica expresada por algunos expertos respecto a cómo esta ley podría suponer un freno a la innovación en Europa, frente a otras regiones que (hasta el momento) habían optado por un enfoque no regulatorio.

En este sentido, se han expresado opiniones en contra de la carga que la aplicación de la ley de Inteligencia Artificial de la UE puede suponer para las empresas, que podría tener un impacto en la competitividad de esta industria en el terreno europeo.

En cualquier caso, se espera que la ley de Inteligencia Artificial del Parlamento Europeo evolucione en el tiempo, a medida que también se produzcan nuevos desarrollos vinculados a este tipo de tecnología.

Desde BeeDIGITAL sabemos bien del potencial de la IA para transformar procesos y mejorar resultados. Por ello trabajamos para poner a disposición de pymes y autónomos las herramientas de IA más útiles en el ámbito del marketing digital, además de incorporar la Inteligencia Artificial a nuestros procesos y equipos.