反乱軍は国内のNPUサーバー上でSKテレコムのA.X K1 AIモデルを稼働させています

Key Takeaways
  • 反乱軍は、国内のNPUサーバー上でSK TelecomのA.X K1 AIモデルを正常に運用しました。
  • A.X K1モデルには5,000億以上のパラメータが含まれ、Mixture of Expertsアーキテクチャを使用しています。
  • 反乱軍は、科学技術情報通信部の独立系AI基盤モデルプロジェクトに参加しています。

反乱軍は23日、韓国のAI半導体企業である反乱軍が、国内のニューラル処理装置(NPU)サーバー上で、SKテレコムの超大型AIモデル「A.X K1」を正常に稼働させたと発表した。独自のAIサーバー「Rebel Server」を使用し、反乱軍は5000億(500 billion)以上のパラメータを持つモデルを安定的に実行し、複数のユーザー要求を同時に処理するAIエージェントのサービスを実演した。この成果は、国内のAIモデルとNPUのインフラのみで大規模なAIサービスを運用できることを示しており、「主権AI」能力の実用的な事例として位置付けられる。反乱軍は、科学技術情報通信部(Ministry of Science and ICT)の独立AI基盤モデルプロジェクトにおいて、SKテレコム配下のコンソーシアム加盟企業であり、国内NPUに基づくAIインフラの実証を担っている。

反乱軍、MoEアーキテクチャと並列処理向けにソフトウェアを最適化

A.X K1は、必要な専門モデルのみを選択的に使用するMixture of Experts(MoE)構造を適用し、大規模モデルの計算効率を高める。反乱軍はMoEモデル向けの専用ソフトウェアを最適化し、並列処理のためにさまざまな処理をNPUに分散する技術を適用した。これにより、1台のサーバーでリアルタイムに複数のユーザー要求を処理できた。反乱軍は、1台のRebel Serverが、グローバルの高性能グラフィックス処理装置(GPU)サーバーに匹敵するインフラ性能を確保でき、データセンターの建設や運用負担を軽減できると述べた。

Rebel Server、リアルタイムのマルチユーザーAIエージェントサービスを実証

実演では、反乱軍が、ユーザーが「週末に利用可能な薬局はどこ?」のような質問をすると、地図上に表示された結果が返ってくるエージェントサービスを紹介した。システムは、複数のユーザーが同時にそれぞれ異なる質問を入力する環境でも、リアルタイムで応答を処理した。今回の実証は、サーバーが安定した性能で同時並行のマルチユーザーワークロードを処理できる能力を検証した。

反乱軍、政府のAI基盤モデルプロジェクトに参加

反乱軍のCEO、パク・ソンヒョン氏は、「これは、主権AIの実用的な事例であり、大規模AIサービスを国内の超大型モデルと国内NPUだけで運用できることを示しています」と述べた。反乱軍は、科学技術情報通信部(Ministry of Science and ICT)の独立AI基盤モデルプロジェクトにおいて、SKテレコム配下のコンソーシアム加盟企業として参加しており、国内NPUに基づくAIインフラの実証を担当している。

FAQ

SKテレコムのA.X K1モデルで反乱軍が達成したことは何ですか?

反乱軍は、パラメータが5000億(500 billion)を超えるSKテレコムのA.X K1 AIモデルを、自社の国内NPUベースのRebel Server上で正常に稼働させた。同社は、複数のユーザー要求を同時にリアルタイムで処理するAIエージェントサービスを実証した。

反乱軍のRebel Serverは大規模なAIモデルをどのように効率よく処理しますか?

Rebel Serverは、A.X K1で使用されるMixture of Experts(MoE)アーキテクチャ向けにソフトウェアを最適化し、並列処理のためにさまざまな処理をNPUに分散する。これにより、複数のユーザー要求をリアルタイムに処理しながら、グローバルの高性能GPUサーバーに匹敵するインフラ性能を1台のサーバーで実現できる。

免責事項:本ページの情報には第三者提供の内容が含まれる場合があり、参考目的のみで提供されています。これらはGateの見解や意見を示すものではなく、金融、投資、または法律上の助言を構成するものでもありません。暗号資産取引には高いリスクが伴います。意思決定を行う際には、本ページの情報のみに依存しないでください。詳細については、免責事項をご確認ください。
コメント
0/400
コメントなし