La mayoría de las personas quieren respuestas rápidas y claras cuando buscan asesoramiento médico en línea. Pero un estudio reciente ha demostrado que depender de la inteligencia artificial para obtener esas respuestas puede ser peligroso. En un desarrollo reciente, Google ha eliminado su “Resúmenes de IA”de algunas consultas de búsqueda relacionadas con la salud porque la herramienta proporcionó información médica falsa o incompleta.
¿Es segura su búsqueda médica? Por qué Google está reduciendo los consejos de salud sobre IA
El cambio viene después. investigación de The Guardian. El estudio encontró algunos problemas importantes con la forma en que Google AI Se ocupó de datos de salud complicados. Por ejemplo, la IA dijo cuál era un «rango normal» para los análisis de sangre del hígado, pero no tuvo en cuenta aspectos como la edad, el sexo o la raza de la persona. En otro caso, el sistema dijo erróneamente que una prueba de Papanicolaou podría detectar cáncer de vagina cuando en realidad solo detecta cáncer de cuello uterino.
Los expertos en salud están muy preocupados por estos resúmenes. Personas de grupos como Pancreatic Cancer UK y British Liver Trust dijeron que el asesoramiento médico a menudo necesita más contexto del que puede ofrecer un resultado breve de IA. Los pacientes con enfermedades graves no deberían simplemente seguir consejos simples o incorrectos; podría impedirles recibir el tratamiento adecuado.
La respuesta y los ajustes de Google
En respuesta a los hallazgos, Google ha tomado medidas sobre términos de búsqueda específicos. Las consultas sobre los rangos de análisis de sangre del hígado, que antes generaban un resumen de IA, ahora suelen regresar resultados de búsqueda tradicionales en cambio. Sin embargo, la implementación de estas eliminaciones parece selectiva. Algunos usuarios descubrieron que es posible que una pregunta específica ya no muestre una descripción general de la IA. Sin embargo, una versión ligeramente reformulada de la misma consulta aún podría generar una.
Google ha defendido la calidad general de su herramienta. La empresa afirma que un equipo interno de médicos revisó los ejemplos marcados. Según la empresa, muchas de las respuestas generadas por IA estaban respaldadas por sitios web acreditados y de alta calidad. Google sostuvo que no comentan sobre eliminaciones individuales, pero enfatizó que están trabajando constantemente en mejoras amplias en la forma en que el sistema maneja el contexto sensible.
Un acto de equilibrio para la búsqueda
la situacion muestra cómo están aumentando las tensiones en el mundo tecnológico. Las empresas quieren utilizar la IA para hacer que la información sea más fácil de encontrar y más accesible. Pero en la atención sanitaria no hay mucho margen para errores. Sí, un resumen del argumento de una película o una receta no es muy importante. Por otro lado, los datos médicos necesitan un nivel de precisión que algunos modelos actuales de IA tienen problemas para mantener.
Por ahora, parece que Google está adoptando una actitud más cautelosa. Regresar “silenciosamente” la función para ciertos temas de alto riesgo para un movimiento inmediato e inteligente. Para los usuarios, sirve como recordatorio de que la IA no reemplaza el asesoramiento clínico profesional.
Fuente: Android Headlines