Incorporamos modelos de IA a los procesos de la compañía y entregamos la evidencia de que hacen lo que dicen: para qué se usan, cómo se probaron, qué versión está en producción y quién aprobó cada propuesta.
Lo que un modelo hace bien hoy.
La IA rinde donde personal cualificado pasa horas leyendo, comparando y rellenando. En cada caso el modelo prepara y una persona decide, y el sistema deja constancia de las dos cosas.
Agrupa desviaciones que describen el mismo problema con palabras distintas, busca en el histórico los casos parecidos y cómo se cerraron, y propone un borrador de investigación con las fuentes citadas.
Decide: garantía de calidad.
Lee el registro de lote completo y presenta solo lo que se salió de rango, lo que falta y lo que no cuadra con los lotes anteriores.
Decide: la persona cualificada que certifica el lote.
Compara sus procedimientos con una norma revisada y lista las brechas con la cláusula exacta. Convierte un procedimiento en papel en pasos de ejecución guiada.
Decide: el propietario del proceso.
Extrae los datos de un caso desde el correo, el formulario o la literatura, propone la codificación MedDRA, detecta duplicados y traduce el texto original. El plazo de notificación empieza a contar desde la recepción.
Decide: el evaluador del caso.
Redacta borradores de secciones del dosier a partir de los datos fuente, con la referencia de cada dato, y localiza en expedientes anteriores cómo se respondió a una pregunta parecida de la agencia.
Decide: asuntos regulatorios.
Propone requisitos, casos de prueba y la matriz de trazabilidad, y ante un cambio indica qué evidencia queda afectada y cuál no.
Decide: el responsable de validación.
Lo que entregamos por cada modelo.
Un modelo no se valida como una fórmula de hoja de cálculo. Su resultado es probabilístico y su proveedor publica versiones nuevas. Por eso la documentación de un sistema con IA incluye piezas que un sistema convencional no necesita. Juntas forman la documentación del modelo: el paquete de evidencias que se enseña en una inspección.
Prevenir, detectar y contener.
Ningún control es perfecto por sí solo, así que los combinamos en tres capas. Cada uno se liga a un modo de fallo concreto y a un criterio de aceptación medible, y el análisis de riesgos se actualiza cuando aparece uno que no se había previsto.
Datos y proveedor del modelo.
Tampoco salen de la Unión Europea o del país que exija su normativa, tanto si el sistema funciona en su infraestructura como si lo operamos nosotros.
Lo que decide siempre una persona.
La certificación de un lote, la decisión de notificar a una autoridad, la aprobación de un cambio y la disposición de un resultado fuera de especificación corresponden a personas con nombre y responsabilidad. El modelo puede preparar la información para esas decisiones, pero no las toma.
El borrador del Anexo 22 de las normas de correcta fabricación reserva hoy las aplicaciones críticas a modelos estáticos y deterministas, y deja los modelos generativos para usos no críticos con una persona que revise el resultado. Tras la consulta, la Agencia Europea del Medicamento estudia admitirlos con una estrategia de control basada en el riesgo, y el informe de su último taller insiste en que la responsabilidad sigue siendo de las personas y no se delega en la IA. El texto definitivo aún no se ha publicado, y diseñamos para que el sistema pueda adaptarse a él sin rehacerse. Lo explicamos apartado por apartado en la guía del Anexo 22.
Y si el análisis de riesgos concluye que la incertidumbre de un modelo no se puede controlar, la conclusión es no usarlo, y queda documentada.
Partimos de un caso real de su proceso y le decimos si un modelo aporta lo suficiente para justificar su validación.