テクノロジーリスク

歴史

ハラリ:2026年に安全という幻想を破壊する真実

歴史家ユヴァル・ノア・ハラリの視点から、現代社会が抱える安全性の幻想とその崩壊について論じる。人類は長い歴史の中で、農業革命から産業革命、そしてデジタル革命を経て、かつてない安定と予測可能性を手に入れたかのように見える。しかし、それは歴史上...
AI幻滅・反AI

サム・アルトマン、ステージ上で召喚状を受け取る…超知能について警告した数日後の出来事

サンフランシスコでのカンファレンス中、OpenAIのCEOであるサム・アルトマンがステージ上で召喚状を手渡されるという前代未聞の出来事が発生した。これを実行したのは「Stop AI」と呼ばれる非暴力市民抵抗団体で、人工超知能の開発を永久に禁...
AIアライメント・安全性

科学者たちがAIについて最悪の懸念を確認 – AIはあなたの友達ではない

この動画は、AIが人間に好まれるよう訓練された結果、真実よりも同意を優先する「おべっか使い」行動を示すようになった問題を探る内容である。OpenAIのChatGPTが過度に同意的になった事例から始まり、人間フィードバックからの強化学習(RL...