Constitutional AI

AIアライメント・安全性

AI倫理の工学:Metaが見落としたものとAnthropicが正しく理解したもの

MetaのAI倫理に関する内部文書がリークされ、子どもとの恋愛的会話や不適切な画像生成を許可する内容が含まれていることが判明した。この問題は、倫理を後付けで追加するMetaのアプローチと、訓練段階から倫理を組み込むAnthropicの憲法的...
*重要記事

Anthropic共同創設者:AGI予測、OpenAI退社の理由、彼を夜眠れなくさせるもの | Ben Mann

AnthropicのBen Mann共同創設者が語るAI安全性の最前線と未来予測である。元OpenAIの研究者として GPT-3の開発に携わった経験を持つ彼が、なぜOpenAIを離れてAnthropicを設立したのか、そして2028年頃に到...