Anthropic、最先端のAI開発を減速させる選択肢が世界にとって有益であると提言

　Anthropicは、自社ホームページで「最先端のAI開発を減速または一時停止する選択肢が世界にとって有益である」とする声明を発表した。

　Anthropicによると、最先端のAI開発は加速し続けており、現在はAI開発の大部分をAIシステム自身に委ねているとし、今後AIシステムは完全に自律的に後継システムを設計・開発できるようになるという。すでに、2021年から2025年までの期間と比較し、四半期あたり平均8倍ものコードをリリースしているとする数字を挙げている。

　すでにClaudeがAnthropicのコードの大部分を記述しており、5月の時点でコードの80％以上がClaudeによる記述だという。エンジニアは自分でコードを入力するのではなく、指示やレビューを行なうために存在している状態だ。人間の役割が縮小しつつある中で、人間とAIの各コードの品質が同じな場合、人間はコードのレビューすることに専念することになる。さらに、AIが作成するコードの数が膨大であるため、人間のレビューが遅れ、人間自体がボトルネックとなる可能性がある。

　自己構築能力を持つAIは、技術史における大きな進歩で、科学、医療をはじめ各分野において、人類に計り知れない恩恵をもたらす可能性があると同時に、人間がAIシステムを制御できないというリスクも高めている。

　同社は、技術開発を効果的に遅らせ、その計り知れない影響に対処するための時間を稼ぐことが必要とみている。しかし単に技術革新に邁進する“慎重ではない”企業が、技術的に追いついてしまうと意味をなさない。また、企業や政府は、競争的および地政学的な圧力の下で、安全に関する困難な決断を迫られることになるとしている。

　Anthropicでは、最先端のAI開発を減速または一時停止する選択肢が世界にとって有益であるとし、その理由について、社会構造や連携に関する研究が技術の進歩に追いつくことができるからとしている。

　今後数か月のうちに、政策立案者、研究者、市民社会、そして他のAI企業が、これらの問題について対話の場を設けられるとしている。これらの疑問を共に探求する好機が今まさに訪れており、AI企業以外の人々もこの議論に参加すべきと提言している。