AIに信頼を組み込むための新たな視点：Trust in AI持続可能
AIの進化と普及に伴い、計算処理に必要な電力消費量とコストは指数関数的に増えています。これは全ての企業にとって、サステナビリティ経営と財務規律の両面から無視できない経営課題です。AIを任せ続けられるためには、長期にわたり無理なく運用できる「持続可能」性が欠かせません。
特集コンテンツ：過去から学ぶ、歴史の旅へ
歴史の転換点にあった出来事は、いまの経営に同じ問いを投げかけます。
地動説、ルネサンス、タイタニック、シルクロード、大航海時代
過去の物語を手がかりに、AI時代の「信頼」を読み解くシリーズです。
高度なAIを、軽く・低コストで使いやすくする技術「1ビット量子化技術」
信頼を支える技術
1ビット量子化技術は、メモリや計算コストが肥大化する大規模言語モデル（LLM）の課題に対して、メモリ使用量や計算負荷を減らす技術です。この技術により、メモリの使用量を理論上 16分の1 まで削減でき、大型サーバーが必要な大規模言語モデルをノートPCで動かせる可能性があります。
ビジネスにおける価値
この技術が企業にもたらす価値は、 高性能な生成AIを、より現実的なコストと環境で活用しやすくする点です。 従来、大規模言語モデルの運用には高性能なGPUや大きな電力が必要でしたが、モデルの軽量化と効率化により、より小規模な計算環境での活用可能性が広がります。さらに、軽量化されたAIはスマートフォンやパソコンなどのエッジ環境での活用にもつながり、活用範囲の拡大が見込まれます。
活用イメージ
【生成AIの軽量化と省電力化】
高性能なGPUを多数必要とする大規模言語モデルは、開発・運用コストの増大や高い消費電力が課題です。これに対して、1ビット量子化を活用することで、メモリ消費量を最大94%削減し、従来はGPUが4枚必要だった生成AIをGPU1枚で動かせる可能性を示しました。この圧倒的な軽量化により、今後、スマートフォンや工場の機械といったエッジデバイス上でAIエージェントを実行し、リアルタイム応答性の向上と省電力化の両立が期待されます。
GPUをムダなく使うためのミドルウェア「AI Computing Broker」
信頼を支える技術
AI Computing Broker（ACB）は、 AI処理で利用するGPUの稼働率を高め、コストを抑えながらパフォーマンスを向上させる技術です。AIの効率的な実行のために GPU による計算は欠かせませんが、高価な資源であり、多くの企業にとって大きなコスト要因になっています。 ACBは、GPUのリソース配分を最適化し、GPUメモリの物理的な上限を超える処理も適切に管理することで、GPUの稼働率を高めます。
