El Consejo de Ministros, a propuesta del Ministerio para la Transformación Digital y de la Función Pública, ha aprobado para su remisión al Congreso de los Diputados el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial. Con esta norma, que adapta al ordenamiento jurídico español el Reglamento europeo de Inteligencia Artificial (RIA), en vigor desde agosto de 2024, España se dota de un instrumento que permitirá una supervisión humana y un uso confiable de la Inteligencia Artificial.
En rueda de prensa, el ministro para la Transformación Digital y de la Función Pública, Óscar López, ha defendido que esta ley refuerza el liderazgo de España como potencia referente “en la construcción de una IA confiable, ética y humanista”. Porque, ha dicho, “España es el mejor ejemplo de que no compiten regulación y la innovación, al revés”. “España es un país líder mundial en el desarrollo y la adopción de la IA, pero también es el líder mundial en la regulación de la IA”, ha recordado citando diversos estudios como los de la Universidad de Standford o de la empresa Microsoft.
En ese sentido, ha recordado que nuestro país cuenta con dos fábricas de IA de la UE, un proyecto de gigafactoría, empresas punteras como Multiverse Computing, un modelo propio de IA en español, ALIA, al tiempo que abandera la apuesta por una IA ética y confiable.
“Hemos dado un salto muy importante en un debate que es absolutamente civilizatorio. Estamos hablando de avanzar o retroceder”, ha destacado el ministro sobre esta norma, que cumple además con los compromisos adquiridos por el presidente del Gobierno para hacer más seguros los entornos digitales, ya que exige responsabilidad a los responsables de la IA que usen sistemas prohibidos por la Unión Europea; impone la supervisión humana en casos que puedan afectar a los derechos fundamentales; promueve la transparencia algorítmica e incluye medidas específicas para la protección de los menores.
El proyecto de ley identifica en España los organismos de supervisión del Reglamento de IA y establece su régimen sancionador. Además, incorpora como novedad una serie de premisas para fomentar que en el sector público estatal se adopte la Inteligencia Artificial.
Marco de gobernanza
La Ley establece un marco de gobernanza mediante la designación de autoridades notificantes y autoridades de vigilancia del mercado, encargadas de supervisar el cumplimiento de la normativa. Establece que aquellos productos ya regulados por normas sectoriales, como maquinaria, juguetes, vehículos o productos sanitarios, mantendrán su misma Autoridad notificante y Autoridad de Vigilancia del Mercado, en línea con la propuesta del Reglamento de IA.
El resto de los sistemas no regulados por legislación de producto, como los relativos al empleo, biometría o educación, se atribuyen principalmente a la Agencia de Supervisión de Inteligencia Artificial (AESIA), así como a la Agencia Española de Protección de Datos (AEPD) y el Consejo General del Poder Judicial (CGPJ), en función del ámbito a supervisar. También promueve un modelo de colaboración institucional reforzado, incluyendo mecanismos de coordinación entre autoridades y un punto de contacto único para cuestiones de supervisión a través de la AESIA.
Impulso de España al Reglamento de IA y nuevos sistemas prohibidos
El Reglamento de IA, una norma pionera en el marco internacional que fue impulsado en el marco de la Presidencia española del Consejo de la Unión Europea, constituye una norma armonizada de aplicación directa en todos los Estados miembros. Clasifica los sistemas de IA en función de su potencial riesgo para las personas, prohíbe aquellos que tienen un riesgo inaceptable para la seguridad o salud de las personas y establece las obligaciones que deben cumplir el resto para su puesta en servicio o comercialización en el mercado europeo.
A iniciativa de España, con el apoyo de Francia, el pasado 7 de mayo la Unión Europea acordó añadir dos sistemas prohibidos que se suman a los ocho en vigor: prohibir en todo el territorio comunitario la introducción en el mercado, puesta en servicio y el uso de sistemas de Inteligencia Artificial que generen ‘deepfakes’ sexuales, tras la polémica generada por los desnudos de mujeres y menores creados por Grok, el asistente virtual de la red social X, y que ya a mediados de marzo logró el apoyo de la Unión para ser incluida en la reforma del Reglamento.
Otros ejemplos de sistemas prohibidos son aquellos que:
- Usan técnicas subliminales (imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento, causando un perjuicio considerable a la persona (adicciones, violencia de género o menoscabo de su autonomía). (Ej: un chatbot que identifica usuarios con adicción al juego y les incita a entrar, con técnicas subliminales, en una plataforma de juego online).
- Explotan vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos de modo que les provoque o pueda provocar perjuicios considerables (Ej: Un juguete infantil habilitado con IA que anima a los niños a completar retos que les producen o pueden producirles daños físicos graves).
- Clasifican con biometría a las personas por raza u orientación política, religiosa o sexual. (Ej: Un sistema de categorización facial biométrica capaz de deducir la orientación política o sexual de un individuo mediante análisis de sus fotos en redes sociales).
- Puntúan a individuos o grupos basándose en comportamientos sociales o rasgos personales como método de selección para, por ejemplo, denegarles la concesión de subvenciones o préstamos.
Fuente: Ministerio para la Transformación Digital y de la Función Pública
