El Reglamento Europeo de Inteligencia Artificial (AI Act), publicado el 12 de julio de 2024 y en vigor desde el 1 de agosto de 2024, establece el primer marco jurídico integral para el uso y desarrollo de sistemas de IA en la Unión Europea. Su objetivo es garantizar que estas tecnologías sean seguras, éticas y respetuosas con los derechos fundamentales. El Reglamento distingue entre prácticas prohibidas, sistemas de alto riesgo y otros sistemas de riesgo limitado o mínimo. A continuación se explica cómo se aplica esta clasificación en el ámbito educativo.

Las prácticas prohibidas (riesgo inaceptable), recogidas en el Capítulo II, incluyen sistemas de IA que se consideran una amenaza grave para los derechos fundamentales, la seguridad o la dignidad humana. Estos sistemas están totalmente prohibidos.

En educación, se consideran prohibidos, por ejemplo, sistemas que manipulen el comportamiento de estudiantes mediante técnicas subliminales, tecnologías de vigilancia biométrica remota en tiempo real dentro de centros educativos, o herramientas que discriminen automática e injustificadamente a determinados grupos basándose en datos sensibles.

Los sistemas de alto riesgo, regulados en el Capítulo III y el Anexo III, son aquellos que pueden afectar de forma significativa a los derechos fundamentales o al acceso a servicios esenciales, como la educación. Están sujetos a requisitos estrictos.

En el ámbito educativo, pertenecen a esta categoría los sistemas de IA utilizados en evaluaciones automatizadas con impacto académico relevante (admisiones, becas, clasificaciones obligatorias), así como los sistemas que perfilan al alumnado con consecuencias directas en su trayectoria educativa.

Condiciones obligatorias que deben cumplir los sistemas de alto riesgo:

  • Evaluación y gestión continua de riesgos, incluyendo análisis de sesgos y fallos.
  • Calidad rigurosa de los datos utilizados para entrenamiento y validación.
  • Documentación técnica completa y disponible para autoridades de supervisión.
  • Registro obligatorio en la base de datos europea de sistemas de alto riesgo.
  • Supervisión humana efectiva durante todo el uso del sistema.
  • Transparencia reforzada hacia docentes y alumnado sobre su funcionamiento esencial.
  • Robustez y ciberseguridad frente a manipulaciones o ataques.
  • Monitorización posterior a la implantación para reportar incidentes y corregir problemas.

Los sistemas de riesgo limitado, regulados en el Capítulo V, están sujetos principalmente a obligaciones de transparencia. La finalidad es evitar que el alumnado o personal docente sea inducido a error sobre la naturaleza automatizada del sistema.

En educación, esto abarca chatbots que resuelven dudas, asistentes que sugieren contenidos o sistemas que generan retroalimentación automática.

Condiciones de transparencia para sistemas de riesgo limitado:

  • Informar claramente al usuario de que está interactuando con un sistema de IA.
  • Garantizar que cualquier contenido generado por IA pueda identificarse como tal cuando exista riesgo de confusión.
  • Evitar que la IA se presente como una persona o genere apariencia de intención humana.
  • Proporcionar una explicación básica del funcionamiento del sistema cuando sea necesario para un uso correcto.
  • Asegurar siempre el cumplimiento del RGPD cuando se traten datos personales.

Los sistemas de riesgo mínimo no están sujetos a obligaciones adicionales, ya que presentan un riesgo muy bajo para los derechos fundamentales.

Ejemplos en educación: herramientas que personalizan la interfaz, recomiendan materiales o correctores gramaticales que no influyen en evaluaciones finales.

Este marco legislativo garantiza un uso responsable de la IA en educación, estableciendo controles estrictos para aplicaciones de alto impacto y requisitos proporcionales para sistemas de riesgo limitado o mínimo.

Calendario actualizado de implementación del AI Act

  • 13 de junio de 2024: Aprobación del Reglamento.

  • 12 de julio de 2024: Publicación en el Diario Oficial.

  • 1 de agosto de 2024: Entrada en vigor.

  • 2 de febrero de 2025: Aplicación de los Capítulos I y II (definiciones y prohibiciones).

  • 2 de agosto de 2025: Obligaciones de transparencia y modelos de IA de propósito general.

  • 2 de agosto de 2026: Aplicación general del Reglamento, incluido el régimen de alto riesgo.

Última modificación: mércores, 29 de abril de 2026, 1:45 PM