Los sistemas de IA son capaces de codificar en todos los idiomas, pero a menudo inventan cosas, un fenómeno conocido como alucinaciones. Este problema es prevalente en modelos de lenguaje, audio y visual, y ha sido un tema de discusión entre los investigadores de IA desde hace mucho tiempo.
Mientras que algunos investigadores están frustrados con las alucinaciones de IA, otros ven su potencial creativo, sugiriendo que estos modelos podrían servir como 'socios co-creativos' valiosos. Sin embargo, hay preocupación de que a medida que los chatbots se vuelvan más confiables, las personas podrían comenzar a confiar en ellos en exceso, lo que podría ser problemático.