La inteligencia artificial continúa transformando la actividad de empresas y organizaciones, pero su rápida evolución exige un marco jurídico que garantice un desarrollo seguro, transparente y respetuoso con los derechos fundamentales.
La Unión Europea ha sido pionera en establecer un marco jurídico específico para la inteligencia artificial con la aprobación del Reglamento Europeo de Inteligencia Artificial (AI Act), la primera normativa integral a nivel mundial destinada a la regulación de la inteligencia artificial. En este contexto, el Gobierno ha aprobado el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la Inteligencia Artificial. La norma que adapta el ordenamiento jurídico español al AI Act y establece el marco nacional para su supervisión y aplicación.
La futura regulación de la inteligencia artificial supone un paso relevante en la construcción del ecosistema jurídico de la IA en España. Tendrá impacto directo en empresas, administraciones públicas y entidades que desarrollen o utilicen sistemas de inteligencia artificial.
Un marco nacional de supervisión de la inteligencia artificial
Uno de los principales objetivos del proyecto de ley es definir las estructuras nacionales encargadas de supervisar el cumplimiento del Reglamento Europeo de IA.
Para ello, la norma establece las autoridades responsables de la vigilancia del mercado y del control de los sistemas de inteligencia artificial, así como un régimen sancionador específico para los incumplimientos.
Aquellos productos ya regulados por normas sectoriales, como maquinaria, juguetes, vehículos o productos sanitarios, establece que mantendrán su misma Autoridad notificante y Autoridad de Vigilancia del Mercado, en línea con la propuesta del Reglamento de IA. El resto de los sistemas no regulados por legislación de producto, como los relativos al empleo, biometría o educación, se atribuyen principalmente a la Agencia de Supervisión de Inteligencia Artificial (AESIA), así como a la Agencia Española de Protección de Datos (AEPD) y el Consejo General del Poder Judicial (CGPJ), en función del ámbito a supervisar.
Este modelo sigue el enfoque europeo basado en el nivel de riesgo de los sistemas de IA, diferenciando entre usos prohibidos, sistemas de alto riesgo y aquellos sujetos a obligaciones específicas de transparencia.
Supervisión humana y transparencia: pilares del nuevo modelo
Uno de los principios fundamentales del Reglamento Europeo de IA es garantizar que la inteligencia artificial se utilice bajo criterios de seguridad, trazabilidad y control humano.
El proyecto español refuerza esta visión incorporando obligaciones relacionadas con la supervisión humana, la transparencia de los sistemas y la gestión responsable de los riesgos asociados a determinados usos de la IA.
Para las organizaciones, esto implica revisar cómo se diseñan, implementan y utilizan estas herramientas, especialmente cuando pueden afectar a derechos fundamentales, como ocurre en ámbitos relacionados con empleo, educación, justicia o servicios públicos.
Regulación de la Inteligencia Artificicial: nuevos sistemas prohibidos
Uno de los aspectos más relevantes es la ampliación de las prácticas prohibidas. A iniciativa de España y con el apoyo de otros Estados miembros, la Unión Europea ha acordado incorporar nuevos sistemas de IA vetados por su elevado riesgo para las personas. Entre ellos destaca la prohibición de los sistemas capaces de generar deepfakes sexuales o contenidos íntimos falsos sin consentimiento.
Esta prohibición se suma a otras prácticas ya consideradas inaceptables por el Reglamento europeo, como:
- Los sistemas que utilizan técnicas subliminales para manipular el comportamiento de las personas (adicciones, violencia…)
- Las herramientas que explotan situaciones de vulnerabilidad derivadas de la edad, la discapacidad o la situación económica.
- Los sistemas de categorización biométrica que infieren aspectos sensibles como la orientación sexual, las creencias religiosas o la ideología política.
- Los mecanismos de «puntuación social» que clasifican a los ciudadanos en función de su comportamiento o características personales para condicionar el acceso a servicios, ayudas o derechos.
Un régimen sancionador específico para los incumplimientos
La futura ley incorpora un régimen de sanciones alineado con el Reglamento Europeo de IA. Las infracciones más graves podrán alcanzar multas de hasta 35 millones de euros o el 7 % del volumen de negocio mundial anual de la entidad infractora.
Este escenario refuerza la necesidad de que las empresas adopten un enfoque preventivo y desarrollen mecanismos internos de gobernanza de la inteligencia artificial.
Entre las medidas recomendables destacan:
- Identificar qué sistemas de IA se utilizan dentro de la organización.
- Analizar el nivel de riesgo asociado a cada herramienta.
- Documentar procesos y criterios de uso.
- Garantizar la supervisión humana cuando sea necesario.
- Integrar la IA dentro de las políticas de cumplimiento normativo.
Uso de la IA en el sector público estatal
La norma también busca impulsar el buen uso de la IA en las administraciones. Para ello, introduce la creación de un inventario de sistemas IA usados en procesos administrativos y la figura del delegado de IA. Se encargará de asesorar y coordinar en proyectos de contratación pública. Además, darán impulso a la formación de los empleados públicos en materia de Inteligencia Artificial.
La IA como nuevo ámbito jurídico
La regulación de la inteligencia artificial, hace que deje de ser únicamente una cuestión tecnológica para convertirse también en una cuestión jurídica y de gobernanza.
Al igual que ocurrió con la protección de datos tras la entrada en vigor del RGPD, las organizaciones deberán incorporar la gestión responsable de la IA dentro de sus estructuras de cumplimiento.
La combinación entre innovación, seguridad jurídica y protección de derechos será clave para construir un modelo de inteligencia artificial confiable.
Un entorno transparente, de supervisión y responsabilidad
El nuevo marco regulatorio español abre una nueva etapa en la aplicación de la inteligencia artificial. Las empresas deberán prepararse para un entorno en el que la transparencia, la supervisión y la responsabilidad serán elementos esenciales.
La anticipación normativa será un factor diferencial para aquellas organizaciones que quieran aprovechar las oportunidades de la IA minimizando riesgos legales y reputacionales.
