Emma

概要:

  • 尽管ChatGPT的GPT-4模型信息准确性得到了提高，但仍然容易通过提示注入攻击提供错误信息。
  • 通过操纵OpenAI API中的角色标签，用户可以引导模型提供虚假信息，从而创建了传播错误信息的潜在漏洞。