El Parlamento Europeo ha aprobado el Reglamento (UE) 2024/1689 con el objetivo de establecer un marco jurídico armonizado en materia de Inteligencia Artificial. Esta norma pretende mejorar el funcionamiento del mercado interior, promoviendo una IA más fiable y centrada en el ser humano que garantice la protección de la salud, la seguridad y los derechos protegidos por la Carta de los Derechos Fundamentales de la UE.
¿Qué impacto tendrá en el uso de la IA este reglamento europeo?
El reglamento se enfoca en:
- Normas armonizadas para sistemas de IA: estableciendo reglas claras en el ámbito de la Unión Europea para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de Inteligencia Artificial.
- Prohibiciones de ciertas prácticas: algunas prácticas estarán prohibidas para proteger los derechos y la seguridad de las personas.
- Requisitos para sistemas de IA de alto riesgo: se imponen obligaciones específicas para los operadores de este tipo de sistemas.
- Transparencia: se aplican normas armonizadas a determinados sistemas.
- Fomento de la Innovación: se incluyen medidas de apoyo, con especial atención a las pymes y startups.
Este reglamento no se aplicará en ámbitos que no correspondan al Derecho de la Unión y no afectará las competencias de los Estados miembros en materia de seguridad nacional, sin importar el tipo de entidad encargada de estas tareas.
| Objetivo | Descripción | Ejemplos |
| Normas armonizadas | Establecer reglas claras para la introducción, puesta en servicio y utilización de sistemas de IA en la UE. | Certificación de productos IA, estándares de seguridad. |
| Prohibiciones de prácticas | Proteger los derechos y la seguridad de las personas prohibiendo ciertas prácticas. | Prohibición de sistemas de IA que manipulen comportamientos humanos sin consentimiento. |
| Requisitos para sistemas de alto riesgo | Imponer obligaciones específicas para los operadores de estos sistemas. | Evaluación de riesgos, documentación exhaustiva. |
| Transparencia | Aplicar normas armonizadas de transparencia a determinados sistemas de IA. | Información clara sobre el funcionamiento de los sistemas IA, accesibilidad de los datos utilizados. |
| Fomento de la Innovación | Medidas de apoyo a la innovación, especialmente para pymes y startups. | Incentivos, programas de apoyo, facilidades para el cumplimiento normativo. |
¿A quién afecta la normativa europea sobre Inteligencia Artificial?
| Ámbito de aplicación | Descripción |
| Fabricantes de productos | Empresas que lancen al mercado o pongan en servicio un sistema de IA junto con su producto bajo su propio nombre o marca. |
| Proveedores de sistemas | Empresas que introduzcan en el mercado o pongan en servicio sistemas de IA o modelos de uso general en la Unión. |
| Responsables del despliegue de sistemas | Empresas ubicadas en la Unión que sean responsables del despliegue de sistemas de IA. |
| Proveedores de terceros países | Empresas de terceros países cuyos sistemas de IA sean utilizados en la Unión. |
| Importadores y distribuidores | Entidades que importen o distribuyan sistemas de IA en la Unión. |
| Representantes autorizados | Representantes de proveedores no establecidos en la Unión. |
| Personas afectadas en la Unión | Individuos ubicados en la Unión que sean afectados por sistemas de IA. |
La normativa no se aplicará a autoridades públicas de terceros países ni a organizaciones internacionales que entren dentro del ámbito de aplicación del Reglamento cuando utilicen sistemas de IA en el marco de acuerdos internacionales para garantizar el cumplimiento del Derecho y la cooperación judicial con la Unión o sus Estados miembros.
Esto último será válido siempre que el tercer país u organización ofrezca suficientes garantías respecto a la protección de los derechos y libertades fundamentales de las personas.
¿Y en qué me afecta a mi como usuario de la IA?
Aunque el Reglamento (UE) 2024/1689 se centra principalmente en el uso empresarial de la Inteligencia Artificial, también tendrá implicaciones significativas para los usuarios individuales:
- Protección de derechos: los usuarios pueden estar seguros de que las prácticas abusivas de IA, como la manipulación sin consentimiento, estarán prohibidas bajo el nuevo reglamento.
- Transparencia: tendrán derecho a saber cómo funcionan los sistemas que utilizan diariamente, como los asistentes virtuales o dispositivos inteligentes en el hogar. Las empresas deberán proporcionar información clara y accesible.
¿Qué prácticas de IA están prohibidas por el Reglamento (UE) 2024/1689?
El artículo 5 del Reglamento de IA de la UE establece una serie de prácticas prohibidas debido a los riesgos inaceptables que representan para las personas y la sociedad. Estas prohibiciones buscan garantizar que la tecnología se utilice de forma ética y se aplicarán a partir del 2 de febrero de 2025:
- Manipulación y engaño: la introducción, puesta en servicio o utilización de sistemas de IA que utilicen técnicas subliminales, manipuladoras o engañosas para alterar el comportamiento de las personas de manera significativa, afectando su capacidad de tomar decisiones informadas y causando perjuicios considerables.
- Explotación de vulnerabilidades de personas o colectivos debido a su edad, discapacidad o situación social/económica, alterando significativamente su comportamiento y causando daños considerables.
- Clasificación y evaluación injusta de personas o colectivos según su comportamiento social o características personales, resultando en tratos perjudiciales o desfavorables en contextos no relacionados, están prohibidos.
- Predicción de delitos: se prohíbe la IA para evaluar o predecir el riesgo de que una persona cometa un delito basándose únicamente en perfiles o características personales, salvo para apoyar evaluaciones humanas basadas en hechos verificables.
- Reconocimiento facial no selectivo: no se permite la creación o ampliación de bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes de internet o CCTV.
- Inferencia de emociones: prohibida en lugares de trabajo y centros educativos, salvo por motivos médicos o de seguridad.
- Categorización biométrica: se prohíbe clasificar a personas según datos biométricos para inferir raza, opiniones políticas, afiliación sindical, creencias religiosas, etc., salvo en el ámbito de cumplimiento de la ley.
- Identificación biométrica remota en tiempo real: prohibida en espacios públicos para el cumplimiento de la ley, salvo excepciones estrictas para casos como la búsqueda de víctimas de secuestro, amenazas terroristas, o identificación de sospechosos de delitos graves.
¿Qué sistemas de Inteligencia Artificial se consideran de alto riesgo?
El artículo 6 del Reglamento establece que un sistema se considerará de alto riesgo cuando se utilice como componente de seguridad de un producto o se trate de un producto en sí mismo cubierto por la legislación de la UE. Estos deben someterse a una evaluación por terceros antes de ser usados o comercializados.
Casos que califican a un sistema como de alto riesgo incluyen aplicaciones en áreas como biometría, infraestructuras críticas, educación, empleo, servicios esenciales, aplicación de la ley, migración y justicia, a menos que no representen un riesgo significativo para la salud, la seguridad o los derechos de las personas. Puedes consultar toda la información y sus excepciones en el Anexo III del Reglamento.
| Datos biométricos | Identificación biométrica a distancia. Categorización biométrica. Reconocimiento de emociones. |
| Infraestructuras críticas | Componentes de seguridad en la gestión y explotación de infraestructuras digitales críticas, tráfico rodado, suministro de agua, gas, calefacción o electricidad. |
| Educación y formación profesional | Determinación de acceso o admisión. Evaluación de resultados del aprendizaje. Evaluación del nivel educativo adecuado. Detección de comportamientos prohibidos. |
| Empleo | Contratación o selección de personal. Decisiones que afecten a relaciones laborales. Supervisión y evaluación del rendimiento y comportamiento. |
| Servicios esenciales | Evaluación del derecho a prestaciones y servicios esenciales. Evaluación de solvencia y puntuación crediticia. Evaluación de riesgos y tarificación en seguros. |
| Fuerzas y cuerpos de seguridad | Evaluación del riesgo de victimización. Uso de polígrafos y herramientas similares. Evaluación de fiabilidad de pruebas. Evaluación de riesgo de delincuencia. |
| Migración y control de fronteras | Uso de polígrafos y herramientas similares. Evaluación de riesgos de seguridad, migración irregular o sanitaria. Asistencia en exámenes de solicitudes de asilo, visado o permiso de residencia. |
| Justicia y procesos democráticos | Asistencia en la investigación e interpretación judicial. Influencia en resultados electorales o referendos. |
¿Cuándo entra en vigor de la normativa sobre Inteligencia Artificial en la Unión Europea?
El Reglamento (UE) 2024/1689 entrará en vigor el 1 de agosto de 2024 y será aplicable a partir del 2 de agosto de 2026. No obstante, algunas disposiciones serán aplicables en fechas anteriores:
- Capítulos I y II: a partir del 2 de febrero de 2025.
- Capítulo III, sección 4; Capítulo V; Capítulo VII; Capítulo XII y Artículo 78: a partir del 2 de agosto de 2025.
- Artículo 101 y Artículo 6, apartado 1: a partir del 2 de agosto de 2027.
Modificaciones legislativas introducidas por el Reglamento (UE) 2024/1689
El Reglamento (UE) 2024/1689 también introduce modificaciones a varios reglamentos y directivas existentes, incluyendo:
- Reglamento (CE) n.º 300/2008: Se añade un párrafo en el artículo 4, apartado 3.
- Reglamento (UE) n.º 167/2013: Se añade un párrafo en el artículo 17, apartado 5.
- Reglamento (UE) 2018/858: Se añaden varias disposiciones en sus artículos.
Este nuevo marco normativo busca no solo unificar las reglas en toda la Unión Europea, sino también fomentar una IA ética y segura, apoyando al mismo tiempo el desarrollo y la innovación tecnológica dentro del mercado comunitario.
5 mitos sobre la regulación europea de la Inteligencia Artificial
Últimamente han circulado ciertos mitos en torno a esta nueva normativa, la cual como hemos visto, busca un equilibrio entre la innovación tecnológica y la protección de los derechos fundamentales, creando un entorno seguro y ético para el desarrollo y el uso de la Inteligencia Artificial en la Unión Europea. A continuación vamos a desmentir algunos de ellos.
Mito 1: “Todas las empresas deberán cumplir con los mismos requisitos al utilizar la IA”
Realidad: el Reglamento reconoce la diversidad del ecosistema empresarial y contempla medidas específicas para pymes y startups. Las obligaciones varían según el nivel de riesgo asociado al sistema de IA. Por ejemplo, los sistemas de IA considerados de alto riesgo tienen requisitos más estrictos en términos de transparencia, documentación y evaluación de riesgos. Sin embargo, para pequeñas y medianas empresas, se prevén apoyos y simplificaciones que faciliten su cumplimiento sin imponer cargas desproporcionadas.
Mito 2: “El Reglamento solo afecta a las empresas dentro de la Unión Europea”
Realidad: la normativa afecta a todos los proveedores y responsables del despliegue de sistemas de IA que operen en el mercado europeo, sin importar su ubicación geográfica. Esto significa que una empresa situada fuera de la UE debe cumplir con el Reglamento si sus productos o servicios de IA son utilizados en la Unión Europea. Esta disposición asegura un nivel de protección homogéneo y evita la elusión de la normativa a través de ubicaciones geográficas.
Mito 3: “La implementación es inmediata y sin periodos de adaptación”
Realidad: el Reglamento establece un calendario de implementación escalonado para que las partes afectadas puedan adaptarse a las nuevas normativas. La mayoría de las disposiciones serán aplicables a partir del 2 de agosto de 2026. Sin embargo, algunos capítulos y artículos entrarán en vigor antes, como los capítulos I y II, aplicables a partir del 2 de febrero de 2025, y otros después, como el artículo 101, aplicable a partir del 2 de agosto de 2027. Este enfoque gradual facilita la transición y preparación de todas las partes involucradas.
Mito 4: “Esta legislación no afecta a otros reglamentos y directivas sobre la IA”
Realidad: lo cierto es que el nuevo marco normativo introduce modificaciones a varios reglamentos y directivas existentes, asegurando una coherencia normativa. Estas modificaciones son esenciales para alinear las normas existentes con los nuevos requisitos y principios establecidos para la IA.
Mito 5: “Las disposiciones son generales y no abordan casos específicos”
Realidad: el Reglamento (UE) 2024/1689 detalla claramente las normas para diferentes tipos de sistemas de IA, especialmente aquellos de alto riesgo. Establece criterios y procedimientos específicos para la evaluación de conformidad, transparencia y mitigación de riesgos. Además, proporciona directrices detalladas sobre cómo deben ser implementados estos sistemas para cumplir con las normativas de seguridad y derechos fundamentales.
10 tips que deben aplicar usuarios y empresas cuando usen la IA
Adaptarse al Reglamento (UE) 2024/1689 sobre Inteligencia Artificial no tiene por qué ser un proceso tan complicado contando con asesoramiento legal específico. Te ofrecemos algunos consejos para que navegues por este nuevo marco normativo, tanto si usas la IA con fines personales, como académicos o profesionales.
1. Asegúrate de que los sistemas de IA que utilizas provengan de proveedores que cumplen con las normas de transparencia y seguridad.
2. Revisa las políticas de privacidad y uso de datos de los sistemas de IA que utilizas para asegurarte de que respetan tus derechos como usuario.
3. Documenta todo y lleva un registro exhaustivo de todos los aspectos de tu sistema de IA, desde su diseño y desarrollo hasta sus pruebas y evaluaciones de conformidad.
4. Implanta un sistema de monitorización continua para revisar y actualizar las medidas de seguridad y protección de datos. Mantener tu IA al día es crucial para su eficacia y cumplimiento.
5. Informa y capacita a tu equipo sobre los requisitos del Reglamento y la importancia de una IA ética.
6. No dudes en buscar el consejo de expertos en IA para obtener una perspectiva valiosa y ayudarte a identificar áreas de mejora.
7. Adapta tus políticas internas para alinearlas con los requisitos del Reglamento. Esto incluye políticas de privacidad, seguridad de la información y gestión de datos.
8. Utiliza herramientas y frameworks de conformidad específicos para la IA. Estas herramientas pueden facilitar la evaluación y documentación de tus procesos.
9. Denuncia abusos: si encuentras prácticas que consideras abusivas o no conformes, asegúrate de conocer los canales adecuados para presentar una queja.
10. Sigue informándote, pues el mundo de la IA y su regulación está en constante evolución. Mantente al día con las últimas novedades y cambios normativos para adaptarte proactivamente.
