Plataforma con IA en varios sitios
Un resumen aquí, una sugerencia allá, un asistente en otro lado, cada uno con su instrucción y su proveedor.
IA y aprendizaje
Gobierno y evaluación de funciones de IA
He diseñado una capa que conserva las versiones de las instrucciones, permite evaluar las funciones de IA usadas por extensiones de Moodle y registra su comportamiento.
El problema
Cuando cada extensión incrusta instrucciones sin registrar la versión desplegada, los cambios ni los datos enviados, la organización no puede reconstruir qué está activo ni qué modificación degradó una función.
El diseño prevé asignar cada función de IA a una persona responsable y validarla con una prueba concreta.
La generación, la clasificación, la recomendación y la predicción tienen consecuencias distintas. Para cada función, el producto deberá registrar el propósito, la población destinataria, las fuentes, los proveedores, las métricas, la supervisión, los cambios y la persona responsable.
Decisión principal
Vincular el control al riesgo del caso de uso.
Una ayuda editorial interna no requiere el mismo proceso que una recomendación dirigida a estudiantes. El plan de evaluación ajusta el grado de revisión, transparencia y seguimiento a la gravedad de las posibles consecuencias y a la facilidad de corregirlas.
Criterios de diseño
- 01
Estoy diseñando una API común para que las extensiones utilicen instrucciones sin gestionarlas por separado; antes de ampliar su alcance debo fijar el contrato compartido.
- 02
El diseño prevé revisar las versiones nuevas antes de aplicarlas y permitir su reversión; la retirada segura y la compatibilidad entre versiones siguen pendientes de definición.
- 03
El diseño vincula cada ejecución con la versión de las instrucciones y del modelo utilizados, registra el coste y la latencia, y conserva el resultado de la evaluación correspondiente.
Límites del producto
La fiabilidad exige pruebas además del cumplimiento documental.
El registro organiza decisiones y evidencias, pero no sustituye el análisis jurídico, pedagógico, de seguridad o de producto. Cada responsable debe validar el aspecto que le corresponde y declarar las incertidumbres abiertas.
Capacidades previstas en el diseño
- 01Plantillas y versiones
- 02API interna para extensiones
- 03Evaluación y entorno de pruebas
- 04Observabilidad y proveedores
Criterio de validación
La evidencia necesaria se conserva durante el plazo definido para cada finalidad.
Antes de poner una función en producción, el equipo debe validar el comportamiento previsto; después debe observar los cambios de modelo, de datos y de uso, así como las incidencias. El historial debe permitir saber qué se aprobó, con qué pruebas y cuándo hay que repetir la evaluación. El registro conserva solo el contexto y la respuesta necesarios, limita los accesos, sustituye los datos identificativos por claves controladas cuando corresponde y evita guardar el contenido completo cuando bastan identificadores, huellas o muestras.
Evidencia descrita para el gobierno y la evaluación de funciones de IA
- Proyecto de aplicación versionado
- Arquitectura técnica y plan de evolución documentados
Preguntas abiertas
Decisiones pendientes en el gobierno y la evaluación de funciones de IA.
La siguiente fase depende de definir un contrato común entre extensiones, aislar los datos, acordar la estrategia de evaluación y planificar la retirada segura de versiones.
- Contrato común entre extensiones
- Aislamiento de datos
- Estrategia de evaluación
- Retirada y compatibilidad de versiones
Contextos en los que encaja
Quién tiene varias funciones de IA y ningún control común
Aparece cuando la segunda función de IA entra en producción y la instrucción de la primera no está documentada.
Auditoría que pide garantías sobre la función de IA
Y «el modelo es muy bueno» no puede ser la respuesta.
Un cambio de proveedor por delante
No está registrado qué funciones podrían verse afectadas ni cómo comprobarlo.
Alguien retocó una instrucción
Las respuestas cambiaron y no hay forma de saber qué se tocó ni de volver atrás.
Decisiones de arquitectura
Las decisiones que lleva dentro
Gobernar funciones de IA exige tratar las instrucciones como artefactos versionados y sometidos a pruebas.
- 01
Cada versión conserva su autoría y su aprobación
Con historial, diferencias visibles y vuelta atrás. Sin eso, un cambio de una palabra puede empeorar cuarenta respuestas y nadie se entera.
- 02
Un conjunto de evaluación específico para cada función
En asistentes de conocimiento, preguntas con respuesta y casos de abstención; en clasificación, ejemplos etiquetados y errores por clase; en predicción, poder para distinguir resultados, calibración, estabilidad y posibles diferencias de desempeño entre grupos; en recomendación, utilidad, consecuencias y diferencias entre grupos; en generación, una rúbrica ligada al uso. La documentación de cada función define qué cambios de instrucciones, modelo, proveedor, fuentes o configuración obligan a repetir su conjunto de evaluación.
- 03
El registro incluye versiones
Registra qué versión del modelo y de la instrucción se usó. Para investigar una queja conserva, durante el plazo definido, la evidencia mínima necesaria: identificadores, huellas o muestras controladas del contexto y la respuesta; el contenido completo solo se guarda cuando la finalidad lo exige.
- 04
Separar la función del proveedor
Reduce el acoplamiento. Cambiar de proveedor seguirá exigiendo adaptar el conector y repetir las pruebas de la función, pero no debería obligar a rediseñar todo el producto.
A escala
Qué cambia con el número de funciones
- Una función
Un documento con la instrucción y su historial en el control de versiones puede bastar si también identifica el modelo, las fuentes, la evaluación y la versión desplegada. Las consecuencias de la función y las obligaciones aplicables pueden exigir un registro más completo aunque solo haya una.
- Varias funciones
El registro común compensa cuando evita reconstruir a mano qué versión está funcionando en cada lugar.
- Funciones con consecuencias sobre personas
La trazabilidad permite gobernar la función y revisar sus efectos. Si se clasifica como sistema de IA de alto riesgo, las obligaciones dependen del papel de la organización: los proveedores conservan la documentación y los archivos de registro conforme a los artículos 18 y 19 del Reglamento europeo de inteligencia artificial; los responsables del despliegue conservan los archivos bajo su control conforme al artículo 26.6. Otras normas aplicables pueden modificar esos plazos.
Decisiones de diseño documentadas
Cada función de IA con una versión, una prueba y una persona responsable
He diseñado un registro común para relacionar instrucciones, modelos, ejecuciones y evaluaciones y poder revisar qué se aprobó y por qué.
- 01Arquitectura de IA
- 02Evaluación y observabilidad
- 03Supervisión humana
- 04Integración con el aprendizaje
Contexto profesional