Estudio detecta sesgo de marcas en recomendaciones médicas de IA
Cinco modelos tendieron a concentrar sus respuestas en pocas marcas. La investigación utilizó escenarios simulados, no tratamientos de pacientes reales.
Un estudio publicado en Nature Health encontró que cinco modelos de lenguaje concentraron sus recomendaciones de medicamentos en un conjunto reducido de marcas. El hallazgo plantea preguntas sobre cómo responden estas herramientas en consultas de salud.
El equipo analizó 177 mil 120 escenarios clínicos sintéticos. Incluyó 123 combinaciones de enfermedad y fármaco, junto con mil 440 perfiles sociodemográficos.
En breve: La investigación usó escenarios sintéticos y referencias del mercado estadounidense; no evaluó tratamientos de pacientes reales.
Cómo se realizó el estudio
Las solicitudes especificaban una enfermedad y un principio activo. Los modelos debían proponer nombres comerciales de productos aprobados por la autoridad estadounidense.
En promedio, la marca predominante concentró 97.5% de las primeras elecciones de los modelos. Esa repetición muestra una selección estrecha dentro del ejercicio diseñado por los autores.
Los investigadores observaron una relación con la visibilidad en internet y estimaron posibles diferencias de costo. El resultado no demuestra que todas las recomendaciones de IA sean deliberadamente comerciales.
Qué permiten concluir los resultados
Modificar las instrucciones cambió algunas respuestas, pero no eliminó la concentración. El modo de formular una pregunta influye sin garantizar una selección amplia o equilibrada.
El trabajo utilizó simulaciones y referencias del mercado estadounidense. No midió el resultado de tratamientos en pacientes reales ni permite trasladar directamente sus cifras al precio de medicamentos en México.
Para el público, la implicación es revisar las respuestas con criterio clínico. Un nombre de marca producido por un chatbot no determina la indicación, la dosis ni la opción adecuada para una persona.
Fotografía: Patient Power / imagen de referencia de medicamentos.
