A OpenAI confirmou que os detectores de escrita de IA não podem distinguir de forma confiável entre conteúdo gerado por IA e humanos, muitas vezes acusando falsamente estudantes de usar IA para escrever seus trabalhos. Apesar de algumas ferramentas afirmarem detectar conteúdo gerado por IA, nenhuma se mostrou confiável.
A OpenAI também esclarece que seu modelo de IA, ChatGPT, não pode identificar se um texto é gerado por IA e pode fornecer informações incorretas, portanto, os usuários não devem usá-lo como única fonte de pesquisa. Embora os detectores automatizados de IA sejam ineficazes, os humanos às vezes podem detectar a escrita de IA com base em estilos de escrita típicos e erros descuidados.