Alguien usó Opus 4.8 para que analizara una resonancia magnética. Lo que siguió confirma que no nos podemos fiar de la IA

Un caso reciente ha puesto en evidencia los límites de la inteligencia artificial cuando se enfrenta a diagnósticos médicos complejos. Antoine Finkelstein, desarrollador de software, acudió a un especialista por un dolor persistente en el hombro. Tras una resonancia magnética, el informe médico confirmó una rotura parcial de grado III en el tendón subescapular. Sin embargo, al analizar la misma imagen con un modelo avanzado de IA, el resultado fue radicalmente distinto: la herramienta no detectó ninguna lesión, afirmando que el tendón estaba "intacto". Esta discrepancia no solo generó dudas sobre el diagnóstico inicial, sino que abrió un debate sobre hasta qué punto podemos confiar en la IA para interpretar datos médicos críticos.

Cuando la IA y los expertos no se ponen de acuerdo

Finkelstein decidió profundizar en el caso. Solicitó los datos brutos de la resonancia —en formato DICOM— y los procesó con varios modelos de IA, incluyendo herramientas especializadas en imágenes médicas. Los resultados fueron consistentes: ninguna de las IA detectó la rotura descrita por los radiólogos. Para descartar sesgos, el desarrollador diseñó un sistema de "arbitraje ciego", donde distintos subagentes de IA analizaron las imágenes de forma independiente. Todos coincidieron en que no había lesión alguna. Sin embargo, este ejercicio también reveló un problema clave: la IA puede ofrecer respuestas convincentes, pero eso no garantiza su precisión. Como señalaron varios expertos en foros técnicos, la falta de bases de datos médicas públicas y masivas para entrenar estos modelos limita su fiabilidad. Aunque los últimos avances acercan su precisión a la de un médico residente, aún están lejos de igualar la experiencia de un especialista.

El caso también puso de manifiesto otro riesgo: la tendencia de los modelos de lenguaje a validar las sospechas del usuario. Si alguien introduce en el prompt sus propias teorías —por ejemplo, que sospecha un error médico—, la IA suele reforzar esa idea con respuestas que suenan seguras, aunque no siempre lo sean. Esto puede generar más confusión, especialmente en temas delicados como la salud. Además, a diferencia de un profesional sanitario, la IA no asume responsabilidad legal por sus recomendaciones. Si un diagnóstico erróneo lleva a un tratamiento inadecuado, no hay un marco regulatorio que proteja al paciente, algo que sí existe en la medicina tradicional.

El debate generado por este caso refleja una realidad incómoda: la IA es una herramienta poderosa, pero aún no está preparada para sustituir el criterio humano en ámbitos donde un error puede tener consecuencias graves. Finkelstein, tras semanas de incertidumbre, optó por seguir con su rehabilitación sin saber a ciencia cierta si el diagnóstico inicial era correcto o si la IA había acertado. Su conclusión resume el dilema actual: "No puedo saber si me puedo fiar de la IA, así que estoy en un limbo".

Qué significa para tu negocio

Para una pyme, especialmente en sectores como la construcción, las reformas o los servicios técnicos, este caso es un recordatorio de que la IA debe usarse con precaución. Herramientas como LaiaDesk pueden optimizar procesos —desde la gestión de proyectos hasta el análisis de datos—, pero siempre bajo supervisión humana. En áreas donde la precisión es crítica —como la interpretación de planos, informes técnicos o diagnósticos de maquinaria—, la IA puede ser un apoyo, pero nunca un sustituto. Si tu negocio explora soluciones basadas en inteligencia artificial, asegúrate de que los resultados sean revisados por expertos y de que exista un protocolo claro para validar sus recomendaciones. La tecnología avanza rápido, pero la responsabilidad última sigue siendo tuya.