El profesorado responde repetidamente a las mismas preguntas
Las mismas dudas sobre plazos, criterios de evaluación y dónde está cada cosa, curso tras curso. El tiempo que se va en eso no se dedica a enseñar.
IA aplicada · Asistentes
Asistentes de IA sobre contenido autorizado: fuentes, permisos, citas y abstención
Un asistente educativo no debería responder a partir de todo lo que encuentre. Delimito las fuentes autorizadas, hago que la recuperación aplique el acceso efectivo de la identidad y el contexto de quien consulta y exijo que cada afirmación comprobable señale el recurso y la posición de la que procede. Cuando el material no basta, la respuesta correcta es abstenerse y ofrecer una vía de ayuda. He diseñado y documentado este patrón para contenido de cursos y conocimiento institucional, junto con un plan de pruebas específico para permisos, citas y preguntas sin respuesta.
- La recuperación acota las fuentes que el sistema entrega al modelo, pero no borra su conocimiento previo ni impide una respuesta sin apoyo. Por eso hacen falta citas, abstención y pruebas.
- La recuperación aplica los permisos efectivos de quien pregunta en el contexto correspondiente. Si la plataforma le niega un recurso, el asistente tampoco puede resumirlo.
- El diseño exige que cada afirmación comprobable cite el recurso y la posición de la que procede; si la fuente no basta, el sistema debe abstenerse.
- La traza conserva solo lo necesario para reconstruir el comportamiento, con acceso y plazo de supresión definidos.
- La finalidad prevista y el uso concreto son el punto de partida. La clasificación, la supervisión y las obligaciones dependen además de la categoría aplicable, del papel de la organización y de la fecha correspondiente; cada función debe comprobarse en la fuente vigente.
Experiencia en asistentes sobre contenido autorizado
Delimito las fuentes que puede consultar el asistente, los permisos que debe respetar y los casos en los que tiene que abstenerse o derivar la consulta. Evalúo la atribución, la utilidad de la respuesta y la exposición de datos antes de habilitarlo para usuarios reales.
Mi trayectoriaCuándo tiene sentido un asistente sobre contenido autorizado
El caso aparece cuando la respuesta ya existe, pero encontrarla o repetirla consume tiempo.
Cada persona puede consultar materiales distintos
Cursos, grupos, cohortes y actividades restringidas hacen que dos personas no deban recuperar los mismos fragmentos.
El conocimiento institucional está repartido
Normativa, procedimientos y documentación aprobada existen, pero cuesta localizar la versión vigente y saber quién responde de ella.
Una respuesta incorrecta exige explicación
Cuando el asistente informa sobre plazos, criterios o procedimientos, hace falta reconstruir qué fuentes recibió y por qué respondió así.
Las preguntas que ordenan la decisión
Diez. Si no tienen respuesta, la función todavía no está lista para salir.
- 01
¿Qué puede leer y quién lo decidió?
Lo dejo por escrito antes de indexar nada, con un responsable por fuente. Si no está en mi lista, no entra.
- 02
¿Cómo se comprueba que respeta los permisos?
Lo pruebo desde una cuenta sin acceso y compruebo que el material no se recupera, no solo que no se menciona.
- 03
¿Qué pasa cuando no sabe?
Hago que lo diga e indique adónde acudir. He visto lo que cuesta una respuesta inventada y no compensa.
- 04
¿Qué consecuencia tiene equivocarse?
A partir de la consecuencia determino el nivel de supervisión humana y qué acciones admiten automatización. Una sugerencia de estudio y una calificación no comparten régimen.
- 05
¿Hay datos personales de por medio?
Reviso qué datos entran, dónde guardo las trazas, cuánto tiempo las conservo, quién puede verlas y qué informo a la persona.
- 06
¿Se puede reconstruir una respuesta concreta?
Conservo identificadores y versiones y, solo si la finalidad y la base jurídica lo justifican, el contenido necesario. La traza tiene acceso restringido y un plazo de supresión comprobable.
- 07
¿Cómo se sabe si un cambio ha mejorado algo?
Paso un conjunto de preguntas fijo antes y después. Retocar la instrucción a ojo es adivinar, y lo he visto empeorar cosas que funcionaban.
- 08
¿Dónde se procesa la información?
Miro qué sale de la organización, hacia qué proveedor y con qué condiciones. En la Administración pública y cuando hay datos de menores, esta cuestión ha condicionado toda la arquitectura.
- 09
¿Se puede cambiar de proveedor?
Separo la función del proveedor desde el principio. Cuando no lo he hecho, un cambio de precio o de condiciones me ha obligado a rehacer el trabajo.
- 10
¿Quién responde de un error?
Dejo siempre una persona identificada como responsable. Ni un equipo genérico ni el proveedor del modelo.
Cómo lo construyo
Siete pasos. Los tres primeros deciden si el resto tiene sentido.
- 01
Delimitar qué puede leer el sistema
Escribo una lista explícita de fuentes y le pongo un responsable a cada una: recursos del curso, normativa vigente, procedimientos aprobados, catálogo. Lo que queda fuera no entra en el índice ni en el contexto recuperado. El modelo aún puede aportar conocimiento previo, por lo que las citas, la abstención y las pruebas siguen siendo obligatorias.
- 02
Atar cada fragmento a su permiso
Asocio a cada fragmento indexado el curso, el grupo y la actividad de origen. El control de acceso actúa dentro de la recuperación y siempre antes de que un fragmento llegue al contexto del modelo. Según el índice, puede limitar la búsqueda desde el principio o aplicarse a los candidatos dentro del componente controlado. Las pruebas cubren los escenarios de autorización definidos, intentos de evasión y regresiones para detectar exposiciones de contenido no autorizado; no convierto un conjunto finito de pruebas en una garantía universal.
- 03
Recuperar por texto y por significado
Combino las dos: la búsqueda literal suele recuperar bien el código de asignatura o el nombre propio, y la vectorial puede localizar la idea aunque se pregunte con otras palabras. Luego reordeno y evalúo los resultados, porque recuperan conjuntos parcialmente distintos y ambas pueden fallar a la vez.
- 04
Componer con citas obligatorias
El sistema recibe los fragmentos recuperados y se le exige citar el recurso y la posición de cada afirmación o abstenerse. Esa instrucción no lo garantiza por sí sola: lo compruebo con preguntas cuya respuesta existe, preguntas imposibles y casos con permisos distintos.
- 05
Separar consultar, recomendar y actuar
Separo tres niveles y los evalúo por separado. Consultar exige los permisos de acceso y la finalidad aplicables. Recomendar exige explicar la base. Solo ejecuto automáticamente acciones previamente autorizadas y reversibles. Las demás requieren una decisión humana y medidas de compensación, contención o derivación; la confirmación no sustituye la autorización.
- 06
Registrar para poder reconstruir
Conservo la traza mínima necesaria para reconstruir el comportamiento: identificadores y versiones y, solo cuando la finalidad y la base jurídica lo justifican, la pregunta, los fragmentos y la respuesta. Sustituyo los datos identificativos cuando es posible, limito los accesos y fijo un plazo de supresión comprobable.
- 07
Clasificar el riesgo antes de abrir
Clasifico cada función antes de abrirla, porque una sugerencia de estudio y algo que afecta a una calificación no tienen las mismas consecuencias. A partir de ellas determino el nivel de supervisión humana, qué debe documentarse y qué acciones admiten automatización.
Lo que he visto salir mal
Siete fallos que aparecen cuando el asistente sale de la demostración.
Fuga por recuperación
La persona no ve el recurso, pero el asistente se lo resume. El control estaba en la interfaz y no en la recuperación.
Confianza mal calibrada
El sistema responde igual de seguro cuando tiene material que cuando no lo tiene. El tono no distingue y el lector tampoco.
Contenido caducado
Un procedimiento derogado sigue indexado y se cita como vigente durante semanas.
Instrucción sin historia
Alguien cambia la instrucción del sistema, las respuestas empeoran y no hay forma de volver atrás ni de saber qué se tocó.
Traza excesiva
Se guardan preguntas, fragmentos y respuestas completas aunque bastaban identificadores y versiones. El registro se convierte en otro repositorio sensible sin un plazo de supresión.
Dependencia de un solo proveedor
La función se construye pegada a un modelo concreto. Cuando cambian el precio, la latencia o las condiciones, sustituirlo puede obligar a rehacer buena parte del trabajo.
Coste descubierto tarde
Un coste asumible durante el piloto puede crecer de forma material al aumentar los usuarios y el volumen de consultas. Por eso estimo el uso, la longitud de las respuestas y el coste de revisión antes de abrir el servicio.
Antes de poner el sistema a disposición de otras personas
Trece comprobaciones antes de abrir el sistema a otras personas.
- La lista de fuentes está escrita y cada una tiene un responsable.
- Las fuentes conservan versión e historial de cambios, y una prueba adversarial comprueba que las instrucciones incrustadas en su contenido no alteren las reglas del sistema ni activen herramientas.
- Una matriz de identidades y contextos comprueba que cada caso recupera lo autorizado y no recupera material restringido.
- Las respuestas citan su origen y el enlace lleva al sitio exacto.
- Existe un conjunto de preguntas con respuesta conocida y otro de preguntas sin respuesta posible.
- El sistema se abstiene en el segundo conjunto sin excepciones.
- Consultar, recomendar y actuar están separados, con autorización distinta.
- Las acciones con efectos están previamente autorizadas. Solo se automatizan las reversibles; las demás requieren una decisión humana y medidas de compensación, contención o derivación. La confirmación no sustituye la autorización.
- Cada función tiene su clasificación de riesgo y su punto de supervisión humana por escrito.
- Se ha revisado qué datos personales entran, dónde se guardan y cuánto tiempo.
- La instrucción está versionada y se puede volver a la anterior.
- Se conserva la traza mínima necesaria para reconstruir cada respuesta, con acceso restringido y un plazo de supresión comprobable.
- Hay una persona identificada que responde de los errores y una vía para reportarlos.
Qué cambia según el volumen
El diseño que aguanta un curso no siempre aguanta una institución.
- Un curso
Con poco volumen y bajo impacto, el material puede prepararse a mano y una revisión cualitativa de una muestra representativa puede ser suficiente. Si hay muchas personas, datos sensibles o decisiones con consecuencias, hacen falta pruebas repetibles aunque el alcance sea un solo curso.
- Una titulación
Aparece la reindexación automática y la necesidad de un conjunto de preguntas de referencia: ya nadie puede leerlo todo.
- Toda la institución
Los permisos dejan de ser simples —grupos, cohortes, roles, excepciones— y el filtrado pasa a ser el componente crítico.
- Varias organizaciones
Entre organizaciones, el aislamiento es un requisito. Lo verifico mediante controles positivos y negativos, intentos de evasión y pruebas de regresión; aportan evidencia sobre los escenarios cubiertos, no una garantía universal.
- Uso continuado
Con el tiempo pueden cambiar el modelo subyacente y el material de referencia. Sin evaluaciones periódicas, esa deriva puede pasar inadvertida.
Los atajos que se prueban primero
Cuatro caminos que funcionan en una demostración y se caen en cuanto entra gente real.
Conectar un modelo general y esperar
Sin acceso al material de la organización, el sistema responde con conocimiento general y con una seguridad que el lector no sabe descontar. En una asignatura reglada eso puede terminar en una reclamación.
Pedirle al modelo que no invente
La instrucción ayuda, pero no demuestra el comportamiento del sistema. Las funciones sujetas a requisitos del Reglamento de IA deben aportar las evidencias que correspondan a su clasificación y al papel de la organización; una petición de buen comportamiento no sustituye las pruebas, la documentación ni los controles aplicables.
Indexar todo y filtrar al final
Recuperar candidatos antes de comprobar sus permisos no expone por sí solo el material si el filtrado ocurre dentro del componente controlado y antes de construir el contexto. El fallo aparece cuando un fragmento llega al modelo o sale de ese componente antes de comprobar la autorización.
Empezar por que el sistema actúe
Automatizar matrículas, calificaciones o avisos antes de medir la consulta y probar los controles aumenta el riesgo de incidentes con consecuencias para las personas.
Qué exigir si esto se contrata
Siete requisitos que separan una propuesta seria de una demostración bonita.
| Requisito | Evidencia exigible | Criterio de aceptación |
|---|---|---|
| Aislamiento por identidad y contexto | Matriz automatizada con cuentas, roles, grupos, cohortes y organizaciones representativos; cada caso incluye un control positivo y otro negativo | Cada identidad recupera lo autorizado y obtiene cero fragmentos fuera de su alcance efectivo; los casos entre organizaciones y las excepciones se ejecutan en cada cambio |
| Atribución de cada respuesta | Respuestas de ejemplo con el recurso y la posición de donde sale cada afirmación | Toda afirmación comprobable enlaza a su fuente |
| Integridad de las fuentes y resistencia a instrucciones incrustadas | Corpus adversarial con documentos autorizados que contienen instrucciones incrustadas, cambios sin aprobar y contenido manipulado | El contenido recuperado se trata como datos: no modifica las reglas del sistema ni activa herramientas. Cada fuente conserva responsable, versión y registro de cambios. |
| Abstención declarada | Conjunto de preguntas sin respuesta posible en el material | El sistema declara que no dispone de información en cada una de esas preguntas |
| Clasificación de riesgo y supervisión | Documento que sitúa cada función según el reglamento europeo y define la intervención humana | Cada función tiene clasificación, responsable y punto de supervisión declarados |
| Registro y reconstrucción | Traza mínima con identificadores y versiones; cualquier contenido conservado incluye finalidad, acceso y plazo de supresión | Se puede reconstruir una respuesta del periodo acordado sin guardar más datos de los necesarios |
| Coste por uso | Estimación con supuestos explícitos de volumen y longitud | El supuesto se contrasta con el uso real del primer mes |
Referencias
En qué me apoyo
- Marco reguladorReglamento europeo de inteligencia artificial
Incluye determinados usos educativos entre los que pueden considerarse de alto riesgo. Las obligaciones dependen de la finalidad, la clasificación de la función, el papel de la organización y la fecha aplicable; conviene comprobar cada caso en la fuente vigente.
- Documentación oficialSubsistema de IA de Moodle
Documentación consultada el 3 de agosto de 2026. La plataforma separa el gestor, los puntos de integración y los proveedores: quien construye la interacción no conoce el modelo, y quien conecta el modelo no conoce la pantalla. Esa separación facilita cambiar de proveedor si ambos respetan el contrato de integración; aun así, hay que volver a validar capacidades, comportamiento y registros.
- Documentación oficialTipos de extensión de IA en Moodle
Documentación consultada el 3 de agosto de 2026. Define qué se puede construir de serie como emplazamiento o como proveedor, y por dónde pasan las llamadas, la priorización y el registro.
Estos principios también son pertinentes fuera de Moodle, pero su aplicación, la clasificación del riesgo y los criterios de aceptación deben validarse de nuevo para cada plataforma, versión y contexto.
Blog
Casos, pruebas y fuentes.
En el blog desarrollo casos particulares, pruebas y fuentes que amplían esta página de referencia.
Ir a blog.albertolarah.comContacto
¿Queréis comprobar si un asistente puede responder con vuestro material?
La conversación útil empieza por las preguntas reales, las fuentes autorizadas, los permisos que deben heredarse y la consecuencia de una respuesta equivocada.
hola@albertolarah.comLinkedIn ↗