KI-Systeme sind in der Lage, in jeder Sprache zu programmieren, machen jedoch oft Dinge, ein Phänomen, das als Halluzinationen bekannt ist. Dieses Problem tritt in Sprach-, Audio- und visuellen Modellen auf und ist ein langjähriges Diskussionsthema unter KI-Forschern.
Während einige Forscher frustriert über KI-Halluzinationen sind, sehen andere ihr kreatives Potenzial und schlagen vor, dass diese Modelle als wertvolle 'ko-kreative Partner' dienen könnten. Es gibt jedoch Bedenken, dass Menschen, wenn Chatbots zuverlässiger werden, ihnen möglicherweise übermäßig vertrauen, was problematisch sein könnte.