El aprendizaje automático se está implantando con fuerza y eficacia en diferentes sistemas que operan bajo normas GxP. Los beneficios son tan evidentes que se ha hecho inevitable desarrollar técnicas de validación apropiadas, puesto que las actuales no son eficientes para asegurar el cumplimiento normativo.
En el artículo de José Ramón Martínez Díaz publicado en el número Enero/Febrero de la revista FARMAESPAÑA INDUSTRIAL, se intenta proporcionar una comprensión básica de esta tecnología y, sobre todo, encauzar el tema para la consideración de la utilización de Machine Learning en procesos GxP.
Uno de los desafíos de los sistemas Machine Learning es la confianza que se pueda tener en el propio sistema. En los proyectos de desarrollo de software tradicionales, los factores que contribuyen a tener una alta confianza en el producto son la transparencia en los algoritmos y las actividades de verificación y validación. En cambio, con los sistemas Machine Learning el ingeniero de software no crea directamente el algoritmo y frente a la validación, el sistema se puede considerar como una caja negra. Así debe contarse con elementos que ayuden a generar confianza en el sistema:
- Métricas y especificaciones iniciales de comportamiento.
- Información y conocimiento sobre cómo el sistema aprende.
- Control de calidad para los nuevos datos que hacen que el sistema aprenda y cambie.
- Proceso adecuado de verificación y validación para el diseño de software.
- Limitaciones razonables en el cambio del comportamiento del algoritmo.
- Descripciones claras de los desencadenantes del cambio del algoritmo.
- Monitorización e información del comportamiento del sistema mediante una métrica apropiada
- Capacidad para aplicar ingeniería inversa a un algoritmo en evolución.
Como todos los programas de mejora continua de la calidad, los sistemas Machine Learning están siempre en la etapa de “Diseño”, actualizando constantemente los datos, verificándose y realizando mejoras en el sistema. Por tanto, se requiere una evaluación de riesgos continua y rutinaria, para asegurar que los riesgos se mitiguen y verifiquen adecuadamente a medida que se desarrolla el sistema.
En ASYVAL somos pioneros en la garantía de calidad para los sistemas que utilizan Machine Learning como tecnología de Inteligencia Artificial. Te animamos a leer el artículo publicado en FARMAESPAÑA INDUSTRIAL y, si estás interesado, estaremos encantados de ampliar la información.