人工知能企業Anthropicは、高度なAIシステムの開発における世界的な一時停止を提案しました。その主張は、社会がこれらの技術のペースに適応する時間を必要とするというものです。これを実現するために、すべての大手企業が検証可能なルールを遵守することを求め、政府、科学者、競合他社を中央集権的な管理システムに集める計画を立てています。
内部データが人間の監督なしの自律型AIについて警告 🤖
Anthropicのデータによると、現在のAIモデルは、人間の直接的な介入なしに動作し、より賢くなる地点に達する可能性があります。これは、予測が困難なセキュリティと制御のリスクを意味します。この提案は、業界にこれまで存在しなかった、ルール遵守を検証するための明確な指標と外部監査の確立を目指しています。この一時停止の技術的な実現可能性は疑問視されています。
世界的な一時停止：提案者だけが好むアイデア 😅
もちろん、自分が開発を続けながら競合他社に停止を求めるのは古典的な手法です。Anthropicは、全員が話し合いのテーブルに着くことを提案しますが、その間も自社のモデルは学習を続けています。それは、追いつくために隣人に走るのをやめるよう頼むようなものです。皮肉なことに、AIを制御するためには、まずそれを生み出す企業を制御する必要があるでしょう。不可能なミッションです。