Miles Brundage氏は、独立系のAI政策研究者である。現場で働いてきた政策研究者であり説得力が高い。2018年から2024年までOpenAIに在籍（現在は退職）。
AIが今後数年のうちにほとんどの分野で人間のパフォーマンスを上回ることは事実上確実であり、今こそ行動を起こすべき時である
Time’s Up for AI Policy
AI that exceeds human performance in nearly every cognitive domain is almost certain to be built and deployed in the next few years. We need to act accordingly now.
概要
- 近い将来、ほぼすべての認知領域で人間を超えるAIが開発・展開される可能性が高い。
- 今後数ヶ月間のAI政策決定が、AIのガバナンスや安全性を大きく左右する。
- 重要な政策の節目には、トランプ政権、次期米国議会、英国AI法案、EUの汎用AI行動規範が含まれる。
- o3などの超人的なコーディング能力や数学的推論を持つAIの登場は予想より早く、社会的影響への備えが不十分。
- AI能力の進化は加速し、特に高度な法的推論や医療推論、ほぼすべてのデジタル作業を行える自動化された従業員の実現が現実味を帯びている。
- AI進化の証拠は公開されており、未来に備えるためには共有された理解が必要。
- AIシステムは、ディープラーニングのスケールアップや人間のフィードバックにより急速に進化してきた。
- 言語モデルの成功は、AIが人間のような推論や創造性を持つことを可能にした大発見の一つ。
- AI研究やエンジニアリングの自動化が進むにつれ、さらなるスケールアップが予測される。
- 米国政府は、AI技術の安全性確保のために、セキュアなチップやデータセンターの構築を推進すべき。
- 2025年末までに、包括的なAI規制や国際的な軍事AIルールの進展が必要。
- AI政策には安全性、政府の能力向上、企業の安全文化の強化など多くの課題が存在。
- 個人でも政策への貢献やAIガバナンスの改善に取り組むべきタイミングは「今」。
