Muchos ven la inteligencia artificial como una valiosa fuente de información diversa y aprecian su capacidad para simplificar tareas complejas.
Sin embargo, una de las características más debatidas de la IA es su propensión a “alucinar”, un fenómeno al que los expertos se refieren como “alucinaciones de inteligencia artificial”.
Este fenómeno da lugar a la invención de información que parece creíble y realista, pero que, en realidad, no son más que hipótesis no verificadas o completamente erróneas.
Sin embargo, algunos investigadores creen que estas alucinaciones podrían resultar beneficiosas. Podrían, por ejemplo, fomentar la innovación y contribuir al descubrimiento de nuevos fármacos y tratamientos, según el sitio web. Psychology Today.
El sitio web cita a John Nosta, experto estadounidense en tecnología, ciencia, medicina e innovación, quien argumenta que las alucinaciones de la inteligencia artificial a veces pueden ser una ventaja, más que una desventaja. Explica que investigaciones recientes aportan pruebas contundentes que respaldan esta idea, demostrando cómo las suposiciones inciertas de la IA pueden impulsar avances en campos donde la creatividad y la imaginación son esenciales.
Las alucinaciones como motor de la innovación
En el campo del desarrollo de nuevos fármacos, es esencial identificar compuestos terapéuticos y estructuras químicas antes de probarlos para evaluar su eficacia contra determinadas enfermedades.
Los grandes avances en este campo suelen surgir cuando los investigadores exploran hipótesis o ideas poco convencionales e inesperadas. Es precisamente en este contexto que las «alucinaciones de inteligencia artificial» pueden ser útiles.
Un estudio reciente ha revelado que las alucinaciones generadas por diversos modelos avanzados del lenguaje (LLM), diseñados para procesar, comprender y producir texto, pueden dar lugar a nuevas estructuras químicas moleculares que trascienden los límites de los datos conocidos. Por ejemplo, cuando se les pide a estos modelos que sugieran ideas para posibles moléculas farmacológicas, a veces proponen compuestos que parecen improbables o ajenos a la química tradicional. Sin embargo, tras una verificación exhaustiva, algunas de estas sugerencias, inicialmente consideradas alucinaciones, resultan tener propiedades prometedoras para el desarrollo de nuevos tratamientos.
Cuestiones éticas
A pesar de los beneficios potenciales de las alucinaciones generadas por IA, también plantean importantes preocupaciones éticas y prácticas.
Por su propia naturaleza, estas alucinaciones son impredecibles y requieren una validación rigurosa para garantizar su utilidad y seguridad, especialmente en campos tan sensibles como la medicina. Por lo tanto, la supervisión humana sigue siendo esencial para distinguir entre las alucinaciones beneficiosas, capaces de estimular la creatividad, y las que podrían causar daño. Aquí radica el principal desafío.
Por nuestra socia Nidaa al Watan (con Reuters)
