Consideraciones de la OMS sobre la IA en la Atención Médica

Viernes 19 Enero 2024 - 11:30

La Organización Mundial de la Salud (OMS) ha presentado recientemente un conjunto de pautas destinadas a orientar la integración ética de modelos de lenguaje extensos en aplicaciones de atención médica. Si bien estos potentes sistemas de inteligencia artificial prometen revolucionar campos como el descubrimiento de medicamentos y el diagnóstico médico, también plantean preocupaciones en cuanto a sesgos y desinformación.

En el ámbito de las posibilidades, estos sistemas avanzados pueden abordar preguntas de los pacientes, analizar datos de investigación para formular medicamentos, educar a futuros profesionales médicos e incluso ayudar a los pacientes a explorar sus propios síntomas. Sin embargo, la OMS destaca rápidamente los riesgos inevitables que surgen sin salvaguardias adecuadas.

Una preocupación crítica es la aparición de errores y sesgos derivados del uso de datos de baja calidad o limitados durante el entrenamiento del modelo. Tales inexactitudes podrían llevar a lo que se denomina "sesgo de automatización", donde los médicos confían demasiado en recomendaciones algorítmicas inherentemente defectuosas. Además, el uso de datos confidenciales para el entrenamiento plantea problemas de privacidad, agregando otra capa de complejidad.

Reconociendo el rápido avance de esta tecnología, la OMS ha tomado medidas proactivas para abordar posibles problemas antes de que se agraven. Las pautas recién publicadas enfatizan la necesidad de involucrar tanto a expertos médicos como a pacientes en el proceso de construcción del modelo para garantizar su aplicabilidad en el mundo real y mejorar las medidas de seguridad.

Las pautas abogan por una gobernanza estricta y auditorías regulares para detectar problemas temprano en la fase de desarrollo. Además, la OMS sugiere implementar reglas de responsabilidad para compensar a las personas afectadas de manera adversa por sistemas de inteligencia artificial defectuosos. Al incorporar regulaciones reflexivas en el panorama de desarrollo, la OMS tiene como objetivo aprovechar el potencial de la inteligencia artificial para mejorar éticamente la medicina en beneficio de la humanidad.