AIチャットボットへのプロンプトインジェクション攻撃が脅威となり、2023年にデータ侵害は増加し続ける (weforum.org)

サマリー:

• イギリスの国家サイバーセキュリティセンターは、ハッカーによるAIチャットボットへの「プロンプトインジェクション」攻撃の増加リスクに警鐘を鳴らしており、これによりモデルが予期しない有害な方法で振る舞う可能性があります。
• 2023年のQ1とQ2の間に、世界中のデータ侵害件数は156％増加し、そのうち約半数はアメリカから発生しています。