आई तंत्र सभी भाषाओं में कोडिंग करने की क्षमता रखते हैं, लेकिन वे अक्सर बातें बनाते हैं, जिसे हैलुसिनेशन की एक मान्यता कहा जाता है। यह समस्या भाषा, ऑडियो और विजुअल मॉडल में प्रमुख है और आई शोधकर्ताओं के बीच चर्चा का विषय रहा है।
कुछ शोधकर्ताओं को आई हैलुसिनेशन से परेशानी होती है, जबकि दूसरे उनकी रचनात्मक क्षमता को देखते हैं, ऐसा सुझाव देते हैं कि इन मॉडल्स महत्वपूर्ण 'सह-रचनात्मक साथी' के रूप में सेवा कर सकते हैं। हालांकि, चिंता है कि चैटबॉट्स अधिक विश्वसनीय होने पर लोग उन पर अत्यधिक भरोसा करने लग सकते हैं, जो समस्यात्मक हो सकता है।