No todo lo que sale bien en los ensayos sale bien en la función. Esta parece ser la lección que los desarrolladores de la inteligencia artificial de Google han tenido que aprender.
Google Health ha realizado un estudio para ver el impacto que el uso de una IA podía tener en un entorno clínico.
Lo que el equipo descubrió es que si la herramienta no se adapta adecuadamente al ambienten en el que será utilizada puede hacer mucho más mal que bien.
Este descubrimiento es muy importante dado que las normas para la implementación de la tecnología están enfocadas principalmente en la precisión de sus cálculos. No existe, por ejemplo, una norma que indique que deba producir una mejora para los pacientes. Aun cuando esto parezca ser un sobreentendido también supone un descuido importante.
La experiencia tailandesa
La primera prueba de campo realizada por Google se dió en Tailandia. El ministerio de salud de dicho país quería examinar por posibles retinopatías al 60% de los pacientes con diabetes. Sin embargo solo contaba con 200 especialistas para 4,5 millones de personas.
A manera de prueba se instalaron sistemas de aprendizaje profundo en 11 clínicas.
El método tradicional implica la captura de las imágenes por parte de una enfermera y el envio a un médico para que las revise. El proceso puede tardar hasta 10 semanas hasta obtener los resultados.
Google Health puede identificar los signos de la enfermedad en menos de 10 minutos y con una precisión del 90%, lo que se considera igual a un especialista humano.
Los problemas
Luego de usar el sistema durante varios meses el equipo de Google consultó a las enfermeras sobre la experiencia.
Cuando funcionaba bien en efecto aceleraba el proceso. Pero la IA fue entrenada para trabajar con imágenes de alta calidad y rechazar las de baja, a fin de favorecer la exactitud. Sin embargo, las enfermeras a menudo trabajaban con decenas de pacientes y no las mejores condiciones de iluminación. Lo que hizo que más del 50% de las imágenes fueran rechazadas.
A los pacientes con imágenes rechazadas se les recomendó hacer una nueva cita en otra clínica. En muchos casos las enfermeras señalaron que era innecesario porque las imágenes no parecían mostrar signos de enfermedad.
Las malas conexiones a Internet también causaron demoras.
La solución para muchos es reconsiderar el verdadero flujo de trabajo en las clínicas. Por ejemplo, dándole a las enfermeras mayor capacidad para decidir las medidas a tomar.
