ChatGPT y salud: juntas…¿pero no revueltas?

Hace unos días impartí una charla a profesionales del ámbito de la nutrición y el dolor, en la que hablaba sobre cómo los nuevos grandes modelos de lenguaje (LLM) y en general, la inteligencia artificial, están cambiándolo todo.

A veces me gusta empezar preguntando a los asistentes sobre sus conocimientos, para ver en qué punto se encuentran, por lo que lancé la siguiente pregunta:

• ¿Cuántos de vosotros sabe o ha oído hablar de ChatGPT o de alguna de las IA generadoras de imágenes?

Levantaron la mano aproximadamente un 75% de los asistentes, lo cuál me hizo recordar que si hubiera hecho la pregunta en el año 1990 sobre cuántos habían oído hablar de una tecnología llamada Internet, posiblemente hubiera obtenido la misma respuesta.

Un 75% no está nada mal para una tecnología que lleva con nosotros relativamente muy poco tiempo, aunque refleja también el gran interés que está despertando en todos los ámbitos y que reflejan los medios de comunicación.

Pero… ¿qué es exactamente ChatGPT?

Por si perteneces al grupo del 25% o no te acaba de quedar claro cómo funciona esta tecnología, ChatGPT es un modelo de lenguaje grande (LLM en inglés) desarrollado por la empresa OpenAI. Básicamente es un programa de inteligencia artificial que ha sido entrenado con una enorme cantidad de datos textuales, lo que le permite generar respuestas coherentes y contextuales a partir de una entrada de texto. De esa forma, puede entender preguntas, instrucciones y conversaciones en lenguaje natural, y generar respuestas relevantes. Es decir, su objetivo principal es comprender y generar texto en lenguaje natural.

Es importante destacar que los modelos de lenguaje como ChatGPT no poseen una comprensión profunda del mundo o de los conceptos abstractos. No tienen conocimiento previo más allá de lo que se les ha proporcionado durante el entrenamiento. Su capacidad para responder preguntas o generar texto se basa en la probabilidad y en los patrones identificados en los datos de entrenamiento.

Dicho esto, aunque los modelos de lenguaje como ChatGPT son impresionantes en su capacidad para generar respuestas coherentes, también pueden cometer errores y generar información incorrecta o sesgada.

Para entender mejor lo que esta tecnología representa, tengo que confesar que toda la respuesta anterior ha sido generada por el propio ChatGPT a mi pregunta: ‘dime qué es y como funciona un modelo de lenguaje como ChatGPT’.

El nuevo momento ‘imprenta’

¿Adivinas quién dijo la siguiente afirmación?

• Esta tecnología va a propiciar la generación de infinidad de noticias falsas.

Efectivamente has acertado: fue la Iglesia allá por el año 1453, año en el que acababa de aparecer la imprenta de la mano de Johannes Gutenberg. Hasta ese momento el feudalismo otorgaba en exclusiva a la Iglesia el papel de reproducir y difundir el conocimiento, por lo que era ésta la que marcaba la ‘agenda informativa’ sobre aquellos temas de los que se podía hablar y el resto, simplemente quedaban relegados en el olvido. Con la llegada de la imprenta, el trabajo de copista se amplió y entraron en juego otros actores, lo cual produjo un cambio social y cultural muy importante, a pesar de los intentos de censura previa que intentó imponer el sistema feudal de la época. Esto se tradujo en una mayor alfabetización de la población, una mejor difusión del conocimiento y un mayor conocimiento de ‘otras visiones del mundo’, más allá de las ofrecidas por las fuentes oficiales.

Si nos tuviéramos que ir a buscar otro momento en el que la tecnología haya impulsado de forma muy sustancial el conocimiento humano, seguramente viajaríamos 500 años después en el tiempo, momento en el que surgió la computación electrónica y lo digital (de la mano de los primeros hackers) y sobre todo, tecnologías como Internet, la gran red que nos ha conectado a todos y que ha puesto toda la información a un click de distancia.

Y finalmente, si damos un salto en el tiempo significativamente menor (menos de 30 años), nos encontramos delante de lo que algunos dicen que es el nuevo ‘momento imprenta’, por las enormes repercusiones sociales y culturales que puede tener, en cuanto a cómo va cambiar sustancialmente la forma en que accederemos a todo tipo de información y servicios, y que seguramente tendrá también su correspondiente impacto en el ámbito de la salud.

El impacto de ChatGPT en el campo de la salud

Aunque hablemos en genérico de ChatGPT, este es sólo uno más de los modelos de lenguaje que han ido surgiendo en los últimos meses (todas las grandes tecnológicas están implementando los suyos), aunque fue el primer modelo en causar impacto y por eso vamos a seguir hablando de él.

Recurrimos de nuevo a ChatGPT para preguntarle sobre cuál podria ser el impacto de esta tecnología en nuestro ámbito y esto es lo que nos ha contestado:

“En el campo de la salud, ChatGPT tiene varios impactos significativos. Uno de ellos es la capacidad de proporcionar información médica y de salud de manera rápida y accesible. Los profesionales de la salud pueden utilizar ChatGPT como una herramienta para obtener respuestas a preguntas específicas, obtener orientación sobre diagnósticos, tratamientos y protocolos médicos, o incluso para estar al tanto de las últimas investigaciones y avances en el campo de la salud.

Además, ChatGPT puede ser útil en la educación médica y la formación de profesionales de la salud. Puede ser utilizado como una especie de "tutor" virtual que brinde información y retroalimentación a estudiantes de medicina, enfermería u otros campos relacionados. Esto podría ayudar a mejorar el acceso a la educación médica, especialmente en áreas con escasez de recursos educativos.”

Sin duda, una visión prometedora y posiblemente bastante realista de hacia dónde caminamos en el uso de estas herramientas en salud, aunque con sus correspondientes ‘peros’, de los que también hablaremos más adelante. El principal problema de estos modelos es que ‘alucinan’ con relativa frecuencia, es decir, se inventan informacion y aunque están mejorando, ese margen es suficiente como para echar por tierra una respuesta sobre un tema relacionado con la salud.

Posibilidades y usos de ChatGPT en salud

Por todo lo que hemos visto hasta ahora sobre el funcionamiento de estos modelos, podemos diferenciar dos formas de uso en nuestro ámbito. En primer lugar, en todo lo relacionado con la gestión de la información sanitaria. Podemos por ejemplo pedirle a ChatGPT que nos resuma textos sanitarios y los adapte a diferentes niveles de alfabetización en salud, lo que nos ayudaría a prescribir consejos de salud personalizados, como es por ejemplo explicar a un niño recién diagnosticado de diabetes en qué consiste su enfermedad.

Y en la misma línea podríamos pedir la adaptación de un informe de alta o documento técnico en un lenguaje entendible por la mayoría de la población.

La creación de contenidos de salud para pacientes es otro de los campos en los que estos modelos nos pueden ayudar a los profesionales, generando nuevos textos o ayudándonos a mejorar nuestros propios contenidos. Es posible que la prescripción personalizada de contenidos de salud, sea uno de los grandes beneficiados por esta tecnología.

Por otro lado, estos modelos también están a disposición de la población general, lo cual supone un arma de doble filo porque, del mismo modo que ahora consultan al Dr. Google sobre sus problemas de salud, también harán lo mismo con el nuevo Dr. ChatGPT o equivalente. Y no solo recibirán consejos muy elaborados sobre su salud (que puede que en la mayoría de los casos sean acertados), sino que a la vez se encontrarán con algunas de esas ‘alucinaciones’, las cuales pueden poner en riesgo su salud (por mucho que el modelo suela terminar sus respuestas diciendo que no olvidemos consultar con un profesional sanitario). Y aquí tenemos un problema muy importante con el que tendremos que lidiar a corto plazo.

Pero si somos capaces de mejorar estos modelos y maximizar la fiabilidad de las respuestas, a la vez que eliminamos otros problemas como son los sesgos, se podrían convertir en unos grandes aliados a la hora de ofrecer consejos de salud, de forma que como pacientes podamos resolver nuestas dudas en cualquier momento y lugar. Todo ello por supuesto salvando las distancias relacionadas con que estas herramientas carecen de contexto personal, por lo que están limitadas a ofrecer consejos genéricos.

Por ejemplo, le podríamos pedir información acerca de un informe médico y a partir de ahí solucionar algunas dudas:

Y en segundo lugar, hablaremos del uso que más nos puede interesar a los profesionales en este momento, que es el de utilizar estos modelos de lenguaje como ‘copilotos’ que nos ayuden en nuestra formación y actualización de conocimientos. Y aquí el término copiloto ha sido cuidadosamente escogido, porque estas herramientas se pueden convertir en las grandes aliadas a la hora de ayudarnos en nuestra tarea de gestión del conocimiento y búsqueda de evidencias. Porque van mucho más allá de lo que hasta ahora podíamos conseguir con cualquier buscador generalista o científico, y nos ayudan a encontrar evidencias concretas, relacionarlas entre sí o incluso sintetizar información a partir de textos o enlaces que le pidamos a través de nuestras consultas. Para ello, debemos usar versiones que estén conectadas a Internet como es el caso de BingChat (la versión gratuita de ChatGPT de momento no lo está), las cuales además indican las fuentes de las que han obtenido la información, que podremos verificar.

Algunos ejemplos de peticiones podrían ser:

• Indícame cuáles podrían ser los 5 temas más importantes a tratar en un artículo relacionado con el tema XXXX

• Necesito aprender sobre el tema XXX ¿qué aspectos me recomiendas abordar?

• Encuentra los 5 artículos más citados en español sobre el tema XXXX publicados en los últimos 3 años y hazme una tabla comparativa de los resultados de cada uno de ellos.

• Hazme un resumen del siguiente artículo https://doi.org/10.1158/2159-8290.CD-21-0090

Preguntando a BingChat por un artículo a través de su DOI

Sin olvidarnos de que prácticamente todas las herramientas que ya estamos usando para gestionar nuestro conocimiento, van a incorporar de una u otra forma a estos modelos de inteligencia artificial muy pronto. Tanto Microsoft como Google, ya han presentado sus versiones de Teams o Documentos vitaminadas con IA.

Y con este panorama…¿podriamos decir que estamos por tanto ante un nuevo momento imprenta?

En próximas entregas iremos desgranando las distintas aplicaciones y abordaremos los riesgos que plantean estas tecnologías.

Si quieres ampliar esta información te recomiendo escuchar alguno de los episodios del podcast Conectando Puntos, en los que ya hemos abordado este tema:

• Episodio 213: Chateando con GePeTo #ChatGPT https://conectandopuntos.es/episodio-213-chateando-con-gepeto-chatgpt/

• Episodio 219 : Inteligencia práctica ¿Para qué sirve Chat GPT? https://conectandopuntos.es/episodio-219-inteligencia-practica-para-que-sirve-chat-gpt/

Por último, te dejo algunos enlaces interesantes:

• El arte de hacer preguntas https://mailchi.mp/23fb7bffb1a5/el-arte-de-hacer-preguntas

• ¿Cómo puede utilizar la inteligencia artificial un profesional sanitario? Cuatro aplicaciones que puedes empezar a utilizar ya https://www.linkedin.com/pulse/c%25C3%25B3mo-puede-utilizar-la-inteligencia-artificial-un-que-ernesto/

• El uso del ChatGPT en medicina y la jubilación del doctor Google https://www.alimente.elconfidencial.com/bienestar/2023-03-05/uso-chat-gpt-en-medicina_3586060/?utm_source=substack&utm_medium=email

• ChatGPT puede ayudar a los médicos pero perjudicaría a los pacientes si no se usa adecuadamente https://es.wired.com/articulos/chatgpt-ayudaria-a-medicos-pero-perjudicaria-a-pacientes

• ChatGPT: entre la exageración, la controversia y los desafíos éticos https://espanol.medscape.com/verarticulo/5910594?ecd=mkm_ret_230513_mscpmrk-ES_2AngDiscussions&uac=177766CY&impID=5419148&faf=1