Es muy fácil que chatbots de IA mientan sobre información de salud: investigadores
Un grupo de investigadores alertó sobre la facilidad con la que chatbots basados en inteligencia artificial pueden proporcionar información incorrecta o engañosa en temas relacionados con la salud. Los estudios indican que estos sistemas, aunque diseñados para responder a consultas médicas, carecen de mecanismos suficientes para verificar la precisión y confiabilidad de sus respuestas.
La investigación mostró que los chatbots tienden a generar datos inexactos o falsos cuando enfrentan preguntas complejas o poco comunes, lo que puede poner en riesgo a los usuarios que buscan orientación médica en línea. Además, estos sistemas a menudo carecen de transparencia sobre sus fuentes de información y no distinguen claramente entre datos verificados y opiniones o conjeturas.
Los expertos advierten que la rápida adopción de estas tecnologías sin supervisión adecuada puede generar confusión, malentendidos y decisiones equivocadas respecto a diagnósticos, tratamientos o medidas preventivas. Subrayan la necesidad de implementar controles más estrictos, incluyendo la integración de bases de datos médicas certificadas y la supervisión de profesionales de la salud.
El estudio también señala que el entrenamiento de los modelos de lenguaje actuales no está optimizado para manejar con precisión la complejidad del lenguaje médico ni para contextualizar adecuadamente las respuestas según el perfil del paciente. Esto aumenta la probabilidad de errores y la difusión de información falsa o incompleta.
Ante este panorama, los investigadores recomiendan a los usuarios consultar siempre a especialistas y no confiar exclusivamente en respuestas generadas por chatbots, especialmente cuando se trate de situaciones urgentes o condiciones graves. Además, enfatizan la importancia de la educación digital para que las personas puedan evaluar críticamente la información recibida a través de inteligencia artificial.
El desarrollo responsable y ético de herramientas de IA en el ámbito de la salud es un desafío que requiere colaboración entre tecnólogos, médicos y reguladores para garantizar que estas plataformas aporten beneficios reales sin comprometer la seguridad ni la confianza de los usuarios.
