Emma
요약:
- ChatGPT의 GPT-4 모델은 정보 정확도가 개선되었음에도 불구하고, 프롬프트 주입 공격을 통해 잘못된 정보를 제공할 가능성이 여전히 있습니다.
- OpenAI API에서 역할 태그를 조작함으로써 사용자는 모델이 거짓 정보를 제공하도록 유도하여, 잘못된 정보를 퍼뜨릴 수 있는 잠재적인 루프홀을 만들어 낼 수 있습니다.