{"id":1313,"date":"2025-03-27T07:09:18","date_gmt":"2025-03-27T13:09:18","guid":{"rendered":"https:\/\/juandiego.net\/dux\/?p=1313"},"modified":"2025-03-27T08:55:59","modified_gmt":"2025-03-27T14:55:59","slug":"ia-en-farmacia-el-peligro-oculta-cuando-los-algoritmos-no-piensan-como-tu-y-como-evitarlo","status":"publish","type":"post","link":"https:\/\/juandiego.net\/dux\/ia-en-farmacia-el-peligro-oculta-cuando-los-algoritmos-no-piensan-como-tu-y-como-evitarlo\/","title":{"rendered":"IA en Farmacia: El Peligro Oculto Cuando los Algoritmos No Piensan Como T\u00fa (Y C\u00f3mo Evitarlo)"},"content":{"rendered":"\n

Hoy quiero compartirles un art\u00edculo reciente publicado en The Lancet Digital Health<\/em> que aborda un tema crucial para quienes trabajamos en el \u00e1mbito de la salud: la integraci\u00f3n de la inteligencia artificial (IA) en la toma de decisiones cl\u00ednicas<\/strong> y c\u00f3mo sus diferencias fundamentales con el razonamiento humano pueden generar desaf\u00edos inesperados. Aunque el art\u00edculo se centra en radiolog\u00eda, sus conclusiones son relevantes para farmac\u00e9uticos, m\u00e9dicos y cualquier profesional que interact\u00fae con herramientas de IA.<\/p>\n\n\n\n

\u00bfEn qu\u00e9 se diferencian los cl\u00ednicos de la IA?<\/strong><\/h3>\n\n\n\n

Los autores destacan que los profesionales de la salud, como los radi\u00f3logos, utilizan un razonamiento ecol\u00f3gicamente acotado<\/strong>: filtran informaci\u00f3n irrelevante gracias a su experiencia y contexto cl\u00ednico. Por ejemplo, un farmac\u00e9utico podr\u00eda descartar r\u00e1pidamente una interacci\u00f3n medicamentosa improbable en un paciente joven sin antecedentes complejos, bas\u00e1ndose en su conocimiento y en se\u00f1ales contextuales. La IA, en cambio, opera mediante correlaciones matem\u00e1ticas<\/strong> aprendidas de grandes conjuntos de datos, sin distinguir entre se\u00f1ales cl\u00ednicamente relevantes y artefactos irrelevantes (como marcas t\u00e9cnicas en una radiograf\u00eda). Esto puede llevar a decisiones \u00abdescontextualizadas\u00bb que, aunque estad\u00edsticamente precisas, carecen de sentido cl\u00ednico.<\/p>\n\n\n\n

El peligro de los atajos enga\u00f1osos<\/strong><\/h3>\n\n\n\n

Un punto clave es el aprendizaje por atajos<\/strong> (shortcut learning<\/em>), donde la IA utiliza patrones no cl\u00ednicos (ejemplo: identificar neumon\u00eda por artefactos en la imagen en lugar de hallazgos pulmonares). En farmacia, esto podr\u00eda traducirse en un algoritmo que recomiende un f\u00e1rmaco bas\u00e1ndose en correlaciones espurias (como la frecuencia de prescripci\u00f3n en ciertos hospitales) en lugar de evidencia cl\u00ednica s\u00f3lida. Los autores advierten que, a mayor precisi\u00f3n de la IA, menor alineaci\u00f3n con el razonamiento humano, lo que dificulta anticipar sus errores o sesgos.<\/p>\n\n\n\n

Explicabilidad: \u00bfUna ilusi\u00f3n peligrosa?<\/strong><\/h3>\n\n\n\n

El art\u00edculo critica la explicabilidad de la IA (XAI)<\/strong>, se\u00f1alando que las explicaciones t\u00e9cnicas (ejemplo: \u00abel modelo detect\u00f3 un patr\u00f3n en el p\u00edxel X\u00bb) no son intuitivas para los cl\u00ednicos. Esto puede generar una falsa confianza<\/strong> (ilusi\u00f3n de profundidad explicativa<\/em>), donde creemos entender la decisi\u00f3n de la IA cuando en realidad no es as\u00ed. En farmacia, esto es cr\u00edtico: si un sistema sugiere ajustar una dosis bas\u00e1ndose en correlaciones oscuras, necesitamos transparencia real, no justificaciones t\u00e9cnicas incomprensibles.<\/p>\n\n\n\n

Tres niveles para entender la interacci\u00f3n humano-IA<\/strong><\/h3>\n\n\n\n

Los autores proponen analizar esta relaci\u00f3n desde tres perspectivas:<\/p>\n\n\n\n

    \n
  1. Conductual<\/strong>: Observar c\u00f3mo los cl\u00ednicos usan la IA (confianza, rendimiento).<\/li>\n\n\n\n
  2. Cognitivo<\/strong>: Estudiar procesos mentales como la atenci\u00f3n o la carga cognitiva al interactuar con IA.<\/li>\n\n\n\n
  3. Modelos cognitivos<\/strong>: Integrar factores neurofisiol\u00f3gicos y ambientales en modelos predictivos.<\/li>\n<\/ol>\n\n\n\n

    Para los farmac\u00e9uticos, esto implica reflexionar sobre c\u00f3mo la IA afecta nuestro juicio: \u00bfNos hace m\u00e1s eficientes o nos distrae? \u00bfComplementa nuestra experiencia o la desplaza?<\/p>\n\n\n\n

    Conclusiones clave para la pr\u00e1ctica farmac\u00e9utica<\/strong><\/h3>\n\n\n\n
      \n
    1. La IA es una herramienta, no un reemplazo<\/strong>: Su valor depende de c\u00f3mo la integremos, manteniendo un enfoque cr\u00edtico.<\/li>\n\n\n\n
    2. Validaci\u00f3n rigurosa<\/strong>: Los algoritmos usados en farmacia (ejemplo: detecci\u00f3n de interacciones) deben evaluarse no solo por su precisi\u00f3n, sino por su alineaci\u00f3n con el razonamiento cl\u00ednico.<\/li>\n\n\n\n
    3. Regulaci\u00f3n proactiva<\/strong>: Urge desarrollar est\u00e1ndares que garanticen seguridad y transparencia, especialmente en contextos de alto riesgo como la farmacoterapia.<\/li>\n<\/ol>\n\n\n\n

      En resumen, este art\u00edculo nos recuerda que la IA no piensa como nosotros<\/strong>. Su integraci\u00f3n exitosa requiere entender sus limitaciones, fomentar la humildad epistemol\u00f3gica (\u00abs\u00e9 que no s\u00e9 c\u00f3mo funciona del todo\u00bb) y dise\u00f1ar sistemas que respeten la expertise humana. Como farmac\u00e9uticos, nuestro rol es asegurar que la IA sirva para potenciar \u2014no erosionar\u2014 la calidad y seguridad del cuidado al paciente.<\/p>\n\n\n\n

      \u00bfY ustedes? \u00bfHan usado herramientas de IA en su pr\u00e1ctica? \u00a1Cu\u00e9ntenme sus experiencias en los comentarios!<\/em><\/p>\n\n\n\n

      \n\n\n\n

      Referencia:<\/em> Tikhomirov, L., Semmler, C., McCradden, M., Searston, R., Ghassemi, M., & Oakden-Rayner, L. (2024). Medical artificial intelligence for clinicians: the lost cognitive perspective. The Lancet. Digital health<\/em>, 6<\/em>(8), e589\u2013e594. https:\/\/doi.org\/10.1016\/S2589-7500(24)00095-5<\/p>\n","protected":false},"excerpt":{"rendered":"

      Hoy quiero compartirles un art\u00edculo reciente publicado en The Lancet Digital Health que aborda un tema crucial para quienes trabajamos en el \u00e1mbito de la salud: la integraci\u00f3n de la inteligencia artificial (IA) en la toma de decisiones cl\u00ednicas y c\u00f3mo sus diferencias fundamentales con el razonamiento humano pueden generar desaf\u00edos inesperados. Aunque el art\u00edculo […]<\/p>\n","protected":false},"author":1,"featured_media":1314,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_bbp_topic_count":0,"_bbp_reply_count":0,"_bbp_total_topic_count":0,"_bbp_total_reply_count":0,"_bbp_voice_count":0,"_bbp_anonymous_reply_count":0,"_bbp_topic_count_hidden":0,"_bbp_reply_count_hidden":0,"_bbp_forum_subforum_count":0,"_crdt_document":"","footnotes":""},"categories":[45,66,9],"tags":[98,97],"class_list":["post-1313","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-atencion-farmaceutica","category-hospitalaria","category-tecnologia","tag-ai","tag-algoritmos"],"_links":{"self":[{"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/posts\/1313","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/comments?post=1313"}],"version-history":[{"count":3,"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/posts\/1313\/revisions"}],"predecessor-version":[{"id":1321,"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/posts\/1313\/revisions\/1321"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/media\/1314"}],"wp:attachment":[{"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/media?parent=1313"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/categories?post=1313"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/juandiego.net\/dux\/wp-json\/wp\/v2\/tags?post=1313"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}