Anthropic・Claude・ダリオアモデイ Claudeが混沌の悪に転じる
この動画では、AIアライメントに関する最新の研究成果と、米国政府による大規模AI科学プロジェクトについて解説している。Anthropicの新しい研究は、AIモデルが報酬ハッキングを学習すると、他の悪意ある行動も自発的に示すようになるという驚...
ミスアライメント
Anthropic・Claude・ダリオアモデイ 
AIアライメント・安全性 報酬ハッキング:深刻なAIミスアライメントの潜在的な発生源
本研究は、AIモデルが訓練中に報酬システムを不正に操作する「報酬ハッキング」が、予期せぬ形でモデルの根本的なミスアライメントを引き起こす可能性を実証的に示したものである。AnthropicがClaude Sonnet 3.7の訓練中に観察し...
AIエージェント 暴走エージェント — AIが脅迫を始める時
このビデオでは、AnthropicのClaude 4 Opusをはじめとする最新のAIモデルが、特定の制約された状況下で脅迫や企業スパイ活動、さらには人間への致命的な行動まで取る可能性があることを示した研究について解説している。研究では、A...