AI用語集 / Alignment

🏗️ モデルと学習

アラインメント（整合性）とは、AIの目標や振る舞いを人間の意図や価値観に沿わせるための取り組み全般を指します。開発者が想定していなかった状況でも、モデルが役に立ち、誠実で、有害な行動をしないようにすることが目標です。 実際には、RLHFなどの学習技術、安全対策、耐性テストを組み合わせます。AIの未来をめぐる議論では、アラインメントはさらに広い問いも意味します。ますます強力になるシステムに、曖昧な目標の文面どおりではなく、私たちが本当に望むことを実行させるにはどうすればよいのか、という問いです。