Системы искусственного интеллекта способны программировать на любом языке, но часто выдумывают вещи, что называется галлюцинациями. Эта проблема присутствует в моделях языка, аудио и визуальных моделях и является долговременной темой обсуждения среди исследователей по искусственному интеллекту.
В то время как некоторые исследователи раздражены галлюцинациями искусственного интеллекта, другие видят их творческий потенциал, предлагая, что эти модели могут служить ценными 'со-творческими партнерами'. Однако есть опасения, что с увеличением надежности чат-ботов люди могут начать чрезмерно доверять им, что может стать проблематичным.