技術的アライメント

AIアライメント・安全性

エメット・シアー:AIに本当の配慮を教える―制御と操縦を超えて

元OpenAI暫定CEOのエメット・シアーが、AI安全性研究企業Softmaxの取り組みについて語る。従来のAIアライメントアプローチが「操縦」や「制御」に焦点を当てているのに対し、シアーは「有機的アライメント」という概念を提唱する。これは...