AIに信頼を組み込むための新たな視点：Trust in AI 持続可能

信頼を支える技術

1ビット量子化技術は、メモリや計算コストが肥大化する大規模言語モデル（LLM）の課題に対して、メモリ使用量や計算負荷を減らす技術です。この技術により、メモリの使用量を理論上 16分の1 まで削減でき、大型サーバーが必要な大規模言語モデルをノートPCで動かせる可能性があります。

ビジネスにおける価値

この技術が企業にもたらす価値は、 高性能な生成AIを、より現実的なコストと環境で活用しやすくする点です。 従来、大規模言語モデルの運用には高性能なGPUや大きな電力が必要でしたが、モデルの軽量化と効率化により、より小規模な計算環境での活用可能性が広がります。さらに、軽量化されたAIはスマートフォンやパソコンなどのエッジ環境での活用にもつながり、活用範囲の拡大が見込まれます。

活用イメージ

【生成AIの軽量化と省電力化】
高性能なGPUを多数必要とする大規模言語モデルは、開発・運用コストの増大や高い消費電力が課題です。これに対して、1ビット量子化を活用することで、メモリ消費量を最大94%削減し、従来はGPUが4枚必要だった生成AIをGPU1枚で動かせる可能性を示しました。この圧倒的な軽量化により、今後、スマートフォンや工場の機械といったエッジデバイス上でAIエージェントを実行し、リアルタイム応答性の向上と省電力化の両立が期待されます。

信頼を支える技術

AI Computing Broker（ACB）は、 AI処理で利用するGPUの稼働率を高め、コストを抑えながらパフォーマンスを向上させる技術です。AIの効率的な実行のために GPU による計算は欠かせませんが、高価な資源であり、多くの企業にとって大きなコスト要因になっています。 ACBは、GPUのリソース配分を最適化し、GPUメモリの物理的な上限を超える処理も適切に管理することで、GPUの稼働率を高めます。

ビジネスにおける価値

この技術がもたらす価値は、 限られたGPU資源を有効活用しながら、AI処理の効率と持続可能性の両方を高められる点です。 GPUの未使用時間を減らして稼働率を高めることで、同じ計算量をより少ないGPUで実現でき、結果として必要なGPU数の削減や電力消費の抑制につながります。また、ソフトウェアとして既存のAI基盤に組み込めるため、クラウド環境でもオンプレミス環境でも活用しやすく、AIインフラ全体の運用効率向上が期待できます。これにより、企業はGPUの供給制約やエネルギー負荷といった課題に対応しながら、AI活用をより持続的かつ現実的に拡張していくことが期待されます。

活用イメージ

【AI活用を支える計算資源の最適化】
AIを活用した為替予測サービスでは、日々のデータをもとに高精度なモデルを構築しながら、同時に利用者へ迅速に結果を提供する必要があります。しかし、これらの処理は多くの計算資源（GPU）を必要とし、使い方によっては処理の遅れやリソースの無駄が発生するという課題があります。この課題に対してAI Computing Brokerを適用することで、AIの処理状況に応じて、計算資源を必要なところへ柔軟に振り分けることができるようになり、モデルの開発とサービス提供の両方を効率よく進められる環境を実現します。その結果、全体の処理効率が向上し、利用者が増えても安定した応答を維持することができます。

信頼を支える技術

FUJITSU-MONAKA*1は、 Armアーキテクチャを採用した次世代国産CPUです。最先端2nmプロセス、3Dメニーコアアーキテクチャ、超低電圧動作技術により、高い処理性能と優れた電力効率を両立します (競合CPU比2倍*2)。Arm SVE2やPCI Express 6.0（CXL3.0）の採用に加え、Confidential Computingにも対応し、AI、クラウド、エンタープライズ基盤に求められる性能・効率・信頼性を支えます。2027年のFUJITSU-MONAKAリリースに向け、2026年夏よりFUJITSU-MONAKAを搭載したPoCマシンによるトライアルを開始予定です。また、2029年には更なる後継製品となるFUJITSU-MONAKA-Xをリリース予定です。

*1 この成果は、NEDO (国立研究開発法人新エネルギー・産業技術総合開発機構) の補助事業の結果得られたものです。
*2 2027年リリース時期を想定した当社性能推定値に基づく。性能は、使用状況、構成、その他の要因によって異なります。

ビジネスにおける価値

AI活用の拡大により、データセンターでは電力容量、冷却設備、設置スペースの制約が大きな課題になっています。FUJITSU-MONAKAは、世界最高レベルのスーパーコンピューター開発で培った富士通独自の設計技術により、データ処理やAI推論への活用が可能であり、70Bパラメーター規模までの中規模LLMであればFUJITSU-MONAKA単独で動作し、AI推論基盤の構築、TCO*最適化、ソブリンAI基盤強化に貢献します。

*Total Cost of Ownership：総保有コスト

活用イメージ

【唯一の次世代国産CPUでグローバルにAI基盤を支える】
［データセンター向け］FUJITSU-MONAKAは、AI推論に適した設計・技術により、GPUに依存しない次世代AI推論基盤として活用できます。高い省電力性能を活かし、既存データセンターにも導入しやすく、RAG、QA、要約、業務自動化などのAI活用を支えます。また、汎用オンプレミス基盤としても活用でき、消費電力削減を通じてTCO最適化に貢献します。
［安全保障向け］国産CPUとしての信頼性とConfidential Computingを活かし、防衛・行政など機密性の高い領域におけるソブリンAIや、セキュアなデータ処理基盤として活用できます。閉域・オンプレミス環境でのAI推論や、機密データを扱う基盤の高度化を支援します。