Puntos clave
La IA no está preparada para gestionar una sala de emergencias, según un nuevo estudio
La IA tiende a solicitar demasiadas radiografÃas y a recetar antibióticos innecesarios
La IA también admite a personas que no necesitan ser hospitalizadas
MARTES, 8 de octubre de 2024 (HealthDay News) -- La IA aún no está lista para dirigir la sala de emergencias de un hospital, concluye un estudio reciente.
Es probable que ChatGPT pida radiografÃas y antibióticos innecesarios para algunos pacientes, y admita a otros que en realidad no necesitan tratamiento hospitalario, informaron los investigadores en la edición del 8 de octubre de la revista Nature Communications.
"Este es un mensaje valioso para que los médicos no confÃen ciegamente en estos modelos", dijo el investigador principal, Chris Williams, becario postdoctoral de la Universidad de California, en San Francisco.
"ChatGPT puede responder a las preguntas de los exámenes médicos y ayudar a redactar notas clÃnicas, pero actualmente no está diseñado para situaciones que requieran múltiples consideraciones, como las situaciones en un departamento de emergencias", añadió Williams en un comunicado de prensa de la UCSF.
Para el nuevo estudio, los investigadores desafiaron al modelo de IA de ChatGPT para proporcionar el tipo de recomendaciones que harÃa un médico de emergencias después de examinar inicialmente a un paciente.
El equipo analizó datos de 1.000 visitas anteriores a la sala de emergencias más allá de la IA, extraÃdos de un archivo de más de 251.000 visitas.
La IA tuvo que responder "sÃ" o "no" en cuanto a si cada paciente debÃa ser admitido, enviado a radiografÃas o recetado antibióticos.
En general, ChatGPT tendÃa a recomendar más servicios de los que realmente se necesitaban, mostraron los resultados.
El modelo de ChatGPT-4 fue un 8% menos preciso que el de los médicos humanos, y el de ChatGPT-3.5 fue un 24% menos preciso.
Esta tendencia a recetar en exceso podrÃa explicarse por el hecho de que los modelos de IA se entrenan en internet, dijo Williams. Los sitios de asesoramiento médico legÃtimos no están diseñados para responder preguntas médicas de emergencia, sino para derivar a los pacientes a un médico que pueda hacerlo.
"Estos modelos están casi ajustados para decir: 'busque consejo médico', lo cual es bastante correcto desde una perspectiva de seguridad pública general", dijo Williams. "Pero pecar de precavido no siempre es apropiado en el entorno de los servicios de urgencias, donde las intervenciones innecesarias podrÃan causar daño a los pacientes, agotar los recursos y conducir a costos más altos para los pacientes".
Para ser más útiles en la sala de emergencias, los modelos de IA necesitarán mejores marcos construidos por diseñadores que puedan enhebrar la aguja entre la detección de enfermedades graves y al mismo tiempo no pedir exámenes y tratamientos innecesarios, dijo Williams.
"No hay una solución perfecta", dijo, "pero sabiendo que modelos como ChatGPT tienen estas tendencias, tenemos la responsabilidad de pensar en cómo queremos que se desempeñen en la práctica clÃnica".
Más información
La ClÃnica Cleveland ofrece más información sobre la IA en la atención médica.
FUENTE: Universidad de California, San Francisco, comunicado de prensa, 8 de octubre de 2024
¿Qué significa esto para ti?
En este punto, la IA no está lista para reemplazar a los médicos humanos en la evaluación del tipo de enfermedades y lesiones que aparecen en una sala de emergencias.
(0) comments
Welcome to the discussion.
Log In
Keep it Clean. Please avoid obscene, vulgar, lewd, racist or sexually-oriented language.
PLEASE TURN OFF YOUR CAPS LOCK.
Don't Threaten. Threats of harming another person will not be tolerated.
Be Truthful. Don't knowingly lie about anyone or anything.
Be Nice. No racism, sexism or any sort of -ism that is degrading to another person.
Be Proactive. Use the 'Report' link on each comment to let us know of abusive posts.
Share with Us. We'd love to hear eyewitness accounts, the history behind an article.