Los hospitales de Estados Unidos se encuentran en alerta por una creciente preocupación sobre la precisión de las herramientas de transcripción. A medida que las instituciones médicas buscan optimizar sus procesos y mejorar la atención al paciente, la implementación de tecnología avanzada se ha vuelto común. No obstante, no todas estas innovaciones son infalibles.
Recientemente, se ha levantado una bandera roja en torno a Whisper, una herramienta de transcripción impulsada por inteligencia artificial promovida por OpenAI. Pese a que se presenta como una solución con “solidez y precisión cercanas al nivel humano”, investigaciones revelan que tendría un defecto significativo: es propenso a crear texto ficticio, ya que inventa palabras y frases que nunca fueron pronunciadas.
Con la salud y la seguridad de los pacientes en juego, la comunidad médica está ahora en alerta y cuestionan la fiabilidad de una tecnología que se ha integrado en sus prácticas diarias.
La Inteligencia Artificial genera polémica en las elecciones en Estados Unidos 2024
¿Qué problemas presenta esta IA que preocupan a las autoridades?
Whisper, la herramienta de transcripción, presenta serios problemas que afectan la atención médica. Aunque se utiliza para subtítulos, traducciones y transcripciones de consultas, su tendencia a inventar textos genera riesgos importantes. Esto puede incluir comentarios inapropiados y descripciones de tratamientos que no existen, lo que puede llevar a malentendidos críticos.
Te puede interesar: Otra importante compañía se muda de California a Texas
Esto es especialmente preocupante para personas sordas o con problemas de audición, quienes dependen de transcripciones precisas. Sin la capacidad de identificar errores, corren el riesgo de recibir información incorrecta.
La urgencia con la que los hospitales están adoptando esta tecnología, a pesar de las advertencias de OpenAI sobre su uso en “dominios de alto riesgo”, agrava la situación.
¿Cuántos hospitales de salud en Estados Unidos incorporaron esta tecnología?
Más de 30.000 médicos y 40 sistemas de salud han comenzado a utilizar herramientas basadas en IA para transcribir consultas médicas. Este avance permite que los proveedores se concentren más en el paciente y dediquen menos tiempo a las notas. Algunos hospitales que han implementado esta tecnología son la Clínica Mankato en Minnesota y el Hospital Infantil de Los Ángeles.
Nabla, la empresa detrás de esta herramienta, tiene oficinas en Francia y Estados Unidos. Su sistema, diseñado con un enfoque en el lenguaje médico, busca mejorar la transcripción y el resumen de las visitas. Martin Raison, director de tecnología, afirmó que son "conscientes de que puede alucinar" y están abordando esta cuestión.
Te puede interesar: Estos lugares de EU están en alerta: murió una persona y 50 se intoxicaron por la popular cadena de comida rápida
No obstante, al eliminar el audio original por razones de seguridad, se dificulta la verificación de la precisión de las transcripciones. Como indicó Saunders, exingeniero de OpenAI: “No se pueden detectar errores si se elimina la verdad fundamental”.
