Anexo III · educación
Clasificar la función educativa, no el nombre del producto
El análisis cambia cuando la IA interviene en el acceso o la admisión, evalúa resultados de aprendizaje, determina el nivel educativo o vigila conductas prohibidas durante una prueba.
Para excluir del alto riesgo un sistema incluido en el anexo III, el artículo 6.3 exige dos requisitos acumulativos. Primero, el sistema no debe presentar un riesgo significativo para la salud, la seguridad o los derechos fundamentales; entre otros motivos, porque no influye sustancialmente en el resultado de la decisión.
Segundo, el sistema debe cumplir al menos una de estas condiciones:
- 1. Realizar una tarea procedimental limitada.
- 2. Mejorar el resultado de una actividad humana ya terminada.
- 3. Detectar patrones o desviaciones sin sustituir ni influir en la evaluación humana previa y con una revisión humana adecuada.
- 4. Preparar una evaluación incluida en el anexo III.
La excepción no se aplica si el sistema elabora perfiles de personas.