Imaginemos que René Favaloro entra a un shopping. Seguramente vería cosas que no hubiera podido imaginar. Se preguntaría cómo paga la gente lo que compra: sin billetes, con un código QR, con una tarjeta que ni siquiera sacan de la billetera porque está en el teléfono. ¿Se sorprendería con el progreso?
Ahora imaginemos que sale del shopping, camina unas cuadras por Palermo y se encuentra con un edificio que le resulta familiar. Ocupa casi una manzana, hay gente que entra y sale medio perdida, y enseguida entiende qué es: un hospital. El Fernández. Adentro reconoce casi todo. Está la admisión, los consultorios, las salas de clínica, la terapia intensiva, la unidad coronaria. Hay equipos más modernos, sí, pero la lógica es la misma que él conoció.
Qué loco, ¿no? Un lugar que cambió poco. Un lugar donde el progreso parece llegar tarde. Y quiero sostener algo que puede sonar provocador: que llegue tarde no siempre está mal.
Favaloro innovó. En 1967 sistematizó una cirugía a la que casi nadie le tenía fe: el bypass coronario. No lo hizo leyendo dos papers y escribiéndole a una inteligencia artificial algo como “imaginá que sos un cardiólogo de renombre en un país de recursos limitados, donde la gente se muere de infartos; ayudame a diseñar una cirugía que los cure en el momento”. Lo hizo estudiando, operando, registrando cada caso, publicando sus resultados y exponiéndose a la crítica de sus colegas. Le dedicó una vida. La innovación en salud necesita eso. No alcanza con una serie de agentes que recorran las bases de datos donde están publicados papers con evidencia científica.
Casi sesenta años después, el bypass se sigue haciendo, en lo esencial, de la misma manera. Mientras tanto, a cuatro años del lanzamiento de ChatGPT, vamos por no sé qué versión y los modelos todavía se equivocan e inventan datos con total seguridad.
¿Por qué la salud cambia más despacio que un shopping? Porque en otros sectores se prueba primero y se corrige después, y en salud el error se paga con la vida de alguien. Porque vivimos en una época que valora más lo nuevo que lo mejor. Porque las empresas necesitan vender y mostrar un retorno a sus inversores, y si no lo hacen, desaparecen. Esa lógica no es mala en sí misma. Pero aplicada a la salud sin filtros, puede ser peligrosa.
El recorrido de Favaloro no termina acá. Sale del Fernández y se sienta en un café, de especialidad, claro. Pide un café con leche. Se lo traen tibio y pide, con amabilidad, que se lo calienten un poco más. Mientras espera, agarra el diario y lee que un tal Geoffrey Hinton, uno de los padres de la inteligencia artificial, estima que hay entre un 10% y un 20% de probabilidades de que la IA termine con la humanidad en las próximas tres décadas. Y que en una encuesta a miles de investigadores del área, buena parte le asignó al menos un 10% a un desenlace catastrófico. Son estimaciones, no certezas, pero alcanzan para que algunos pidan frenar todo.
Me imagino a Favaloro levantando la vista del diario y preguntándose: ¿cómo llegamos a esto?
Tengo mi propia lectura. Estos modelos están diseñados para darnos la respuesta más verosímil posible. Y verosímil no es lo mismo que verdadero. Son herramientas que sirven para todo: asistente, confidente, apoyo terapéutico, machete para estudiar. Y los valores que las guían los definen las mismas empresas que necesitan venderlas. Cuando los criterios éticos no se discuten en serio y el objetivo principal es el retorno económico, la ética no viene incorporada desde el diseño. Se agrega después, si alguien se queja.
En medicina eso sería inaceptable. Sería como querer curar a alguien pasando por encima de los principios de la bioética, empezando por el primero de todos: no hacer daño.
Entre acelerar sin mirar y parar la chata hay una tercera vía, y tiene nombre: inteligencia artificial responsable. No es un eslogan. Significa preguntarse, antes de usar una herramienta, qué problema resuelve, si funciona, para quién, con qué datos fue entrenada, qué pasa cuando se equivoca, quién responde por ese error y cuánto cuesta. Significa que un algoritmo entrenado con pacientes de otro continente no se usa acá sin probarlo con los nuestros. Y significa que los datos de salud se cuidan como lo que son: información sobre las personas.
En salud todavía estamos a tiempo de hacer lo que otros sectores no hicieron: evaluar antes de adoptar. Favaloro no tenía prisa por ser el primero. Quería estar seguro de que lo que hacía servía. Esa es la vara, también para la inteligencia artificial.
Le traen el café, ahora sí caliente. Alguien lo revisó y lo corrigió antes de que se lo tomara. No hace falta mucho más.
La invitación no es a quedarse de brazos cruzados, sino a elegir un horizonte. Dentro de veinte años, ¿queremos una salud que adoptó cada novedad sin preguntar, o un hospital no tan distinto del que conoció Favaloro, donde la inteligencia artificial ayuda a curar porque antes demostró que podía hacerlo sin dañar?
Médico pediatra e investigador en el Centro de Inteligencia Artificial y Salud para América Latina y el Caribe (CLIAS)
