Google DeepMindが最大1,000万ドルの技術研究資金提供プログラムを発表

　Google DeepMindは、Schmidt Sciences、Cooperative AI Foundation、Advanced Research and Invention Agencyと共同で、Google.orgの支援を受け、世界中の研究者を対象とした最大1,000万ドルの新たな技術研究資金提供プログラムをスタートすると発表した。

　AI技術の規模拡大に伴い、新たな時代に突入しようとしている昨今、さまざまな組織によって開発された数百万ものAIエージェントが、デジタル環境を横断して相互に作用し、コミュニケーション、交渉、取引を行なうようになる。

　これらのシステムが相互作用する際には、安全かつ予測可能な方法で実行する必要がある。この変化は、極めて重要な機会を生み出し、AIエコシステム全体の安全性と安定性を初期段階から強化できる機会となる。

　この取り組みは、大規模なマルチエージェントAIシステムがグループとしてどのように振る舞うか、潜在的なリスクを理解し軽減するためのフレームワークをどのように提供できるかを研究することに焦点を当てている。

　Google DeepMindでは、世界中の研究者を支援することで、異なるネットワーク間で独立したシステムが相互作用する際に発生する「目に見えない」安全リスクの解決を目指すとして、今回のプログラムを立ち上げることにした。

対象となる研究テーマ

　単一の研究室だけでは、マルチエージェントの安全性問題を解決することはできない。そこで、学術研究者および独立研究者に、以下の4つの重点分野での提案を募集している。

• サンドボックスとテストベッド：マルチエージェントの安全性に関するあらゆる分野において、評価、比較、そして進歩を加速させるための、現実的で再現可能な環境を構築する。これには、仮想マーケットプレイス、シミュレーションされたエコシステム、そして複数組織によるワークフローが含まれる。
• エージェントネットワークの科学：相互作用するエージェント集団の安全に関連する特性を理解することには、集団的能力がどのように出現し、拡大するか、ネットワークがどのように故障または不安定になるか、危険で予期せぬ集団レベルの特性をどのように検出するかを調査することが含まれる。
• エージェントインフラストラクチャの強化：プラットフォームを跨いだエージェント間の安全なやり取りを実現する、本人確認、評判、およびコミットメントに関するプロトコルのストレステストを実施する。
• 監視と制御：展開されたエージェント集団を監視し、大規模な集団被害を軽減するための方法を開発する。