Deepseekの手頃な価格は神話です。革新的なAIは実際には16億ドルの費用がかかります。

Deepseekの新しいチャットボットには、印象的な紹介があります。中国のスタートアップDeepseekの製品であるこのAIは、すぐに主要なマーケットプレーヤーになり、Nvidiaの株価の大幅な低下に貢献しています。

Deepseekの成功は、革新的なアーキテクチャとトレーニング方法に由来しています。重要なテクノロジーには次のものがあります。

• マルチトークン予測（MTP）：単語を個別に予測する代わりに、MTPは複数の単語を同時に予測し、精度と効率を高めます。
• 専門家（MOE）の混合：このアーキテクチャは、Deepseek V3で256のニューラルネットワークを利用し、トークンごとに8つをアクティブにし、トレーニングを加速し、パフォーマンスを向上させます。
• マルチヘッド潜在的注意（MLA）： MLAは、テキストフラグメントから重要な詳細を繰り返し抽出し、重要な情報を確実に見逃さず、入力データのより微妙な理解につながります。

DeepSeekは当初、2048 GPUを使用してDeepSeek V3で600万ドルのトレーニングコストが非常に低いと主張していましたが、Semianalysisは、10,000 H800、10,000 H100、および追加のH20を含む約50,000のNVIDIAホッパーGPUをはるかに実質的なインフラストラクチャを明らかにしました。これは、サーバーの総投資額を約16億ドルで、運用費用は9億4,400万ドルと推定されています。

中国のヘッジファンドハイフライヤーの子会社であるDeepseekは、データセンターを所有しており、クラウドベースの競合他社よりも優れた制御とイノベーションの実装を提供しています。この自己資金によるアプローチは、柔軟性と意思決定速度を向上させます。さらに、同社はトップの才能を集めており、一部の研究者は主に中国の主要な大学から年間130万ドル以上を稼いでいます。

Deepseekの最初の600万ドルの数字は、研究、洗練、データ処理、インフラストラクチャを除く、トレーニング前のGPU使用のみをカバーしています。同社のAI開発投資の合計は5億ドルを超えています。しかし、その無駄のない構造は、より多くの、より官僚的な企業と比較して、効率的なイノベーションを促進します。

Deepseekの成功は、資金提供された独立したAI企業が業界の巨人と競争する可能性を示しています。 「革新的な予算」の請求は間違いなく誇張されていますが、その成果は否定できません。特に、競合他社が被った大幅に高いコストを考慮しています。たとえば、DeepseekはR1に500万ドルを費やしましたが、ChatGpt4の費用は1億ドルでした。これは、かなりの全体的な投資にもかかわらず、Deepseekのコスト効率を強調しています。