AI用語集 / Guardrails

🛡️ 安全性と品質

ガードレールとは、モデルの振る舞いを制限する安全対策です。有害、違法、またはアプリの用途に合わないコンテンツを防ぐためのルール、フィルター、学習技術で構成されています。ハッキングの手順や、誰かを傷つける方法を尋ねてもモデルが拒否するのは、こうした仕組みがあるためです。 ガードレールは複数の段階で機能します。学習段階ではモデルが拒否することを学び、システムプロンプトや、入力と出力を確認する外部フィルターも使われます。調整は終わりのない妥協です。緩すぎれば有害な内容を通し、厳しすぎれば無害な依頼まで拒否します。