ニュース

OpenAI、LLMに最適化したチップ「Jalapeño」をBroadcomと開発

OpenAIのSam Altman氏(左)とBroadcomのHock Tan氏(右)

 OpenAIとBroadcomは6月24日、OpenAI初のインテリジェンスプロセッサーとなる「Jalapeño(ハラペーニョ)」を発表した。

 Jalapeñoは、LLM(大規模言語モデル)の処理に最適化したチップ。初期のテストにおいては現時点における最先端技術よりもワットあたりの性能が大幅に向上することが確認されており、詳細な技術レポートは数か月以内に発表される予定。

 OpenAIによれば、同チップはChatGPTやCodex、API、将来提供予定のエージェントなど、同社が運用しているシステムからヒントを得てゼロから設計されており、Broadcomとともにわずか9か月で開発されたという。

 同チップの活用により、ChatGPTの応答速度の向上、待ち時間の短縮によるさらに多くのステップの実行、構築コストの削減、需要が高い時のアクセス安定性の向上といった効果が期待できるとされている。