تتمتع أنظمة الذكاء الاصطناعي بقدرة الترميز بكل لغة، ولكنها في كثير من الأحيان تخترع أشياء، وهو ظاهرة تعرف بالتخيلات. يعد هذا المشكلة شائعة في النماذج اللغوية والصوتية والبصرية ولقد كان موضوعًا مطروحًا للنقاش بين الباحثين في مجال الذكاء الاصطناعي لفترة طويلة.
في حين يشعر بعض الباحثين بالإحباط من التخيلات في الذكاء الاصطناعي، يرون آخرون إمكاناتها الإبداعية، ويشير هؤلاء الباحثين إلى أن هذه النماذج يمكن أن تكون شركاء إبداعيين قيمين. ومع ذلك، هناك مخاوف من أنه بمجرد أن تصبح روبوتات الدردشة أكثر موثوقية، قد يبدأ الناس في الثقة بها بشكل مفرط، مما قد يكون مشكلة.