Generatived（Beta）｜生成AIの最新ニュースとトレンドを提供

NVIDIA と OpenAI は、AI 機能の強化に向けて再び協力し、新しいオープンウェイトモデル「gpt-oss-20b」と「gpt-oss-120b」を発表しました。推論性能の高速化を目的として設計されたこれらのモデルは、NVIDIA の Blackwell アーキテクチャ上で最大 150 万トークン/秒という驚異的な速度を実現します。思考連鎖推論やツール呼び出し機能といった高度な機能を備え、FP4 精度でリリースされているため、80 GB のデータセンター GPU 1 台で動作します。

これらのモデルのトレーニングは NVIDIA H100 Tensor Core GPU で実施され、より大規模な gpt-oss-120b モデルでは 210 万時間以上のトレーニングを要しました。NVIDIA は、複数の主要なオープンソースフレームワークとの互換性を確保し、モデルのパフォーマンスを最適化しました。また、開発者の多様なニーズに対応するため、gpt-oss モデルを自社のソフトウェアプラットフォーム全体に統合しています。

モデルのパフォーマンスを最大限に高めるため、NVIDIA は、アテンションおよび Mixture of Experts (MoE) ルーティング向けの専用カーネルや、OpenAI Triton カーネル MoE のサポートなど、さまざまな機能を導入しました。これらの機能強化は、大規模言語モデル (LLM) 向けに設計された FlashInfer カーネルサービングライブラリを通じて利用できます。NVIDIA はまた、vLLM や TensorRT-LLM などのさまざまなツールを使用してこれらのモデルをデプロイするためのガイダンスも提供し、開発者がプロジェクトに容易に統合できるようにしています。

NVIDIA のパフォーマンスへの取り組みは、OpenAI とのコラボレーションに表れており、gpt-oss モデルは初日から高速パフォーマンスに対応しています。これらのモデルは、高いスループットとトークンあたりの低コストを維持しながら、多数の同時ユーザーをサポートできると期待されています。NVIDIA のプラットフォームは AI エコシステムを継続的にサポートし、開発者に最新モデルを効率的かつ効果的にデプロイするために必要なツールとリソースを提供します。