Roberto Cataldi[1]
La salud fue, ha sido y es una de las grandes preocupaciones del ser humano, y a lo largo de la historia éste ha procurado asistirla mediante la magia, la religión y la ciencia. Ésta última ha venido evolucionado desde hace unos veinticinco siglos, acompañada de la tecnología y amparándose en el lema del «progreso».
Los avances que han conseguido la tecnología y la ciencia hasta no hace mucho pertenecían a la órbita de la ciencia ficción, sin embargo es una pena que el ser humano no haya evolucionado en paralelo, quizá por la terrible complejidad de su condición humana.
La incertidumbre del mundo actual en parte obedece a que existe indiferencia e ignorancia por la historia, de ahí que se repitan los errores, habitualmente de forma trágica, si bien es cierto que narramos una misma escena varias veces y, lo que para unos es angustiante para otros constituye una simple comedia.
En fin, desde la antigüedad se comprueba que siempre hubo una medicina para ricos y otra para pobres, y que los grandes adelantos, basados sin duda en experimentos humanos (muchos ignorando la moral y la ética) siempre se lograron en poblaciones especialmente vulnerables, pues todos en alguna medida somos vulnerables.
A esta incertidumbre hay que añadirle los malentendidos, ya que hoy vemos una tendencia a convertir los vicios en virtudes y a éstas en tonterías. Los gritos, los agravios, la intolerancia frente a quienes no comulgan con las ideas del supuesto «líder carismático» (manifestaciones que antes revelaban mala educación) hoy son celebrados, aclamados e incrementados por sus fanáticos en las redes sociales, generando un clima de creciente toxicidad, que afecta la salud mental.
Pero también vemos que a menudo la sociedad sobreestima algo externo como «la fama o el éxito» en la actividad que fuere (aunque me pregunto por qué tanta gente que gozó mucho tiempo de la fama se suicida), y en cambio no valora la «realización personal», cuya percepción interna e intransferible da cuenta nada menos que del sentido de la vida, de la razón de la existencia…
Por supuesto que hay gente que logra realizarse en la vida y que jamás conocerá el éxito, pero esto forma parte de ciertos misterios, como el destino, el azar, la muerte, entre otros. Vivimos en una sociedad exitista y positivista al extremo, que no tolera el fracaso, y justo esas condiciones son las que la condenan al fracaso.
De más está decir que en este complejo panorama no debemos olvidarnos de las amenazas que acechan a nuestro planeta, como el cambio climático y la contaminación ambiental crecientes, la guerra nuclear que se creía sepultada luego de la guerra fría, y ahora le añadimos la inteligencia artificial (IA).
La semana pasada se desarrolló en la ciudad uruguaya de Montevideo el octavo Foro Franco-Latinoamericano de bioética y ética de la ciencia, dedicado a la IA y la Salud, donde fui expositor. El evento se diseñó en la Unesco de París, bajo la dirección de Christian Byk. Investigadores, académicos y bioeticistas tuvimos un debate de ideas acerca de sus ventajas y desventajas.
Como ser, la IA en ciertos casos puede detectar pequeñas anomalías en las imágenes (radiología, biopsias, etc.) que pasan inadvertidas al ojo humano; ayuda en la investigación con drogas y dispositivos a procesar rápidamente una gran cantidad de información; participa de intervenciones quirúrgicas de alta precesión; mediante modelos de machine learning; puede observar signos vitales en un paciente y alertar sobre una sepsis; auxilia al médico en el caso de las enfermedades raras que son unas diez mil (sería un híbrido porque combina el conocimiento más la base de datos), entre otras ventajas que nadie cuestiona.
Ahora bien, el algoritmo puede cometer errores (detrás hay un programador), y gracias a las neurociencias hoy sabemos que la IAG (generativa porque puede pensar) reduce los recursos cognitivos, promueve la procastinación y la pérdida de memoria, limita el pensamiento crítico, la capacidad analítica y la creatividad, disminuye la capacidad de atención, puede reducir el rendimiento académico, depende del entrenamiento, y hoy es una herramienta de «desinformación y manipulación social». En la medida que aumenta la tecnodependencia (forma de neocolonialismo) disminuyen las habilidades humanas.
En la declaración de Bletchley (Inglaterra, 2023) se reconoció que podía producir «daños graves» y establecía responsabilidades compartidas (firmada por China, EEUU, Francia, Inglaterra, entre otros). Y el 1 de agosto de 2024 a instancias de la Comisión Europea, entró en vigencia la primera ley en el mundo sobre IA, de donde rescato los «riesgos inaceptables» (están prohibidos) como la manipulación cognitiva del comportamiento, la puntuación social según el comportamiento, status socioeconómico o características personales, y la identificación biométrica (reconocimiento facial).
En fin, uno lee estos textos y desea entusiasmarse, pero en el fondo sabe que las regulaciones internacionales son muy poco efectivas o útiles en el cumplimiento de los objetivos y, si reparamos en quienes son sus firmantes, no podemos eludir la célebre frase de Bertolt Brecht: «Cuando la hipocresía comienza a ser de muy mala calidad, es hora de comenzar a decir la verdad».
Hoy por hoy, con IA se están asesinando miles de seres humanos inocentes y nada ni nadie lo impiden, y es indignante que no se puedan poner límites a los canallas. No se precisa haber estudiado psicología o leer a Freud para darse cuenta de que la mente humana es un laberinto insondable, al punto que bajo ciertas circunstancias el ser humano es capaz hasta de lo más abyecto. En efecto, la crueldad humana es impredecible, por eso Dostoievski decía que hablar de la «crueldad bestial» del hombre es injusto para las bestias, ya que ningún animal logra ser tan cruel como el hombre….
Los algoritmos todavía son diseñados por el ser humano, en consecuencia el juicio humano continúa siendo clave. El algoritmo que compite con las habilidades y competencias humanas, no puede captar todas las «facultades humanas», y las capacidades propiamente humanas son irreemplazables.
En Medicina la disrupción no puede reemplazar la relación profesor-alumno ni la relación médico –paciente, como pretenden algunos programas diseñados a solicitud del mercado.
La sabiduría, la intuición experta como pensamiento intuitivo o conocimiento implícito, el sentido común (todas facultades humanas) son difíciles de documentar y transferir. Los saberes y conocimientos que asientan en las personas, sin duda requieren la presencia de personas.
No se trata de mundo analógico versus mundo digital, eso revela cerrazón mental, sino de la combinación de ambos para sacar lo mejor de cada uno.
A lo largo de la historia numerosas fórmulas han intentado dar con aquello que nos hace humanos. La civilización no es posible sin las relaciones inter-humanas. No hay civilización si se pierde lo humano, la dignidad de la persona, la conciencia de sí mismo y del medio o el mundo. El ser humano necesita dialogar e interactuar con otro ser humano, no con una máquina como a través de algoritmos pretende imponernos el mercado en su lado oscuro.
Estimo que es imperativo abordar la IAG desde la Cultura, la Ética y la Ley, para asegurar un «uso racional global», que esté al servicio de la Humanidad y no de intereses espurios. La IA exige del buen uso, y no todo lo que se puede hacer, se debe hacer.
- Roberto Miguel Cataldi Amatriain es médico de profesión y ensayista cultivador de humanidades, para cuyo desarrollo creó junto a su familia la Fundación Internacional Cataldi Amatriain (FICA)
