La Ley de IA representa un esfuerzo histórico de la Unión Europea por establecer un marco regulatorio integral para la inteligencia artificial. Es el primer intento importante de la UE por regular la IA, con el objetivo de garantizar que los sistemas de IA desarrollados, implementados y utilizados dentro de la UE sean seguros, transparentes y respeten los derechos fundamentales. La ley busca fomentar la innovación y, al mismo tiempo, mitigar los riesgos potenciales asociados con la IA.

Una característica central de la Ley de IA es su enfoque basado en el riesgo para regular los sistemas de IA. Esto significa que la Ley clasifica los sistemas de IA en cuatro categorías distintas, cada una con diferentes niveles de control regulatorio, en función del riesgo percibido que representan:

1. IA de riesgo inaceptable
   Se considera que estos sistemas de IA plantean un nivel inaceptable de riesgo para los derechos fundamentales y, por lo tanto, están totalmente prohibidos. Entre los ejemplos de estos sistemas se incluyen la IA que manipula el comportamiento humano para causar daño, el reconocimiento facial en tiempo real en espacios públicos para la aplicación de la ley (con excepciones muy limitadas) y los sistemas de puntuación social que intentan clasificar a los ciudadanos en función de su comportamiento o características.
2. IA de alto riesgo
   Los sistemas de IA de esta categoría están permitidos, pero están sujetos a estrictos requisitos normativos. Estos sistemas se utilizan normalmente en ámbitos sensibles en los que las decisiones de la IA pueden tener un impacto significativo en la vida de las personas. Algunos ejemplos son la IA utilizada en la educación (por ejemplo, para la calificación automatizada), la sanidad, la aplicación de la ley, los procesos de contratación y el acceso a servicios públicos esenciales.
3. IA de riesgo limitado
   Los sistemas de IA clasificados como de riesgo limitado suelen estar permitidos, pero deben cumplir determinadas obligaciones de transparencia. Un ejemplo habitual son los chatbots o los sistemas de IA que interactúan con los usuarios, en los que existe la obligación de revelar que el usuario está interactuando con una máquina, garantizando así que los usuarios sean conscientes de que no están comunicándose con un ser humano.
4. IA de riesgo mínimo
   Los sistemas de IA que entran en la categoría de riesgo mínimo pueden utilizarse libremente, aunque se sigue recomendando encarecidamente un uso responsable. Algunos ejemplos son la IA utilizada en los filtros de spam o los NPC de los videojuegos.

La Ley de IA, en su búsqueda del desarrollo y la implementación responsables de la IA, describe varios principios clave que se aplican a todos los sistemas de IA no prohibidos. Estos principios, ya sean fomentados u obligatorios por la ley, están diseñados para garantizar que las tecnologías de IA se utilicen de una manera que sea beneficiosa y éticamente sólida.

El primero y más importante es la transparencia. La Ley hace hincapié en la importancia de informar a los usuarios cuando interactúan con un sistema de IA. Esta transparencia es fundamental para fomentar la confianza y permitir a los usuarios tomar decisiones informadas sobre sus interacciones. Permite a los usuarios comprender la naturaleza de la tecnología con la que interactúan y ayuda a evitar cualquier posible engaño.

En segundo lugar, la ley destaca la necesidad de la supervisión humana. Especialmente en los sistemas de IA de alto riesgo, que pueden tener un impacto significativo en la vida de las personas, la ley exige que existan disposiciones para la supervisión y el control humanos. Esto garantiza que el juicio humano siga siendo un elemento crucial en la toma de decisiones impulsada por la IA, evitando que los sistemas de IA funcionen de forma autónoma en situaciones en las que es necesaria la intervención humana.

Además, la ley destaca la importancia de la solidez y la precisión. Los sistemas de IA deben diseñarse y desarrollarse para que funcionen de forma fiable y segura. Este principio subraya la necesidad de que los sistemas de IA sean fiables y minimicen el riesgo de errores o fallos, especialmente en aplicaciones en las que la seguridad es primordial.

Por último, la ley hace especial hincapié en la gobernanza de los datos. La calidad de los datos de entrenamiento es fundamental para el rendimiento y la equidad de los sistemas de IA. Por lo tanto, la ley exige que los datos de entrenamiento sean pertinentes, representativos y libres de sesgos. Esto garantiza que los sistemas de IA se entrenen con datos que reflejen con precisión el mundo real y no perpetúen ni amplifiquen los sesgos sociales existentes.