Les systèmes d'IA sont capables de coder dans toutes les langues, mais ils inventent souvent des choses, un phénomène connu sous le nom d'hallucinations. Ce problème est répandu dans les modèles linguistiques, audio et visuels et fait depuis longtemps l'objet de discussions parmi les chercheurs en IA.
Alors que certains chercheurs sont frustrés par les hallucinations de l'IA, d'autres voient leur potentiel créatif, suggérant que ces modèles pourraient servir de précieux 'partenaires de co-création'. Cependant, il existe des inquiétudes selon lesquelles, à mesure que les chatbots deviennent plus fiables, les gens pourraient commencer à leur faire une confiance excessive, ce qui pourrait poser problème.