AI用語集 / Jailbreak

🛡️ 安全性と品質

ジェイルブレイクとは、工夫して作られたプロンプトでモデルの安全対策を回避する試みです。ロールプレイや仮定のシナリオ、何度も言い換える方法などを使い、ルール上してはいけないことをモデルにさせようとします。 安全対策を作る側と、それを破ろうとする側の競争は続いています。公開された手口はすぐに使えなくなり、新たな手口が登場します。AIを導入する企業にとって実務上の教訓は、モデルのガードレールを突破不可能と考えないことです。重要な制限はモデルの外でも適用する必要があります。