Sistemas de IA são capazes de codificar em todas as línguas, mas frequentemente inventam coisas, um fenômeno conhecido como alucinações. Esse problema é prevalente em modelos de linguagem, áudio e visual, e tem sido um tópico de discussão entre pesquisadores de IA há muito tempo.
Enquanto alguns pesquisadores estão frustrados com as alucinações de IA, outros veem seu potencial criativo, sugerindo que esses modelos poderiam servir como 'parceiros de co-criação' valiosos. No entanto, há preocupações de que, à medida que os chatbots se tornem mais confiáveis, as pessoas possam começar a confiar excessivamente neles, o que poderia ser problemático.