ワットあたりのトークン数だけではない：Ubuntu 26.04 LTSをAIに利用するメリット

TpW（Tokens per Watt）、つまり消費電力1ワットあたりの生成トークン数は、企業のCEO、AI責任者、インフラストラクチャ担当者が最も重視する指標です。GPUクラスターの運用には莫大なコストがかかるため、投資から可能な限り大きな価値を引き出すことが重要なのです。

しかしTpWを追求する際には、データセンターの運用コストやAIの成果（収益につながる）を左右するのがハードウェア効率だけではないことを考慮する必要があります。TpWは重要な指標ですが、価値を得るまでの時間を短縮し、人間の生産性を高めることも重要です。そしてこれらは主にソフトウェアによって決まります。

Canonicalは、Ubuntuを効率的なAIの基盤となるソフトウェアにしたいと考えています。この記事では、UbuntuをAIに最適化するとは具体的に何を意味するのか、例を挙げて説明します。Ubuntu 26.04 LTSは、組織によるハードウェアの有効活用を支援するだけでなく、AIスタックのユーザーやサポート担当者の作業を容易にし、生産性を高めます。

シリコンに最適化されたOS

どうすればハードウェアのTpWを上げることができるのでしょう？一般には、モデルの最適化、GPUの利用率、最初のトークンまでの時間、1秒あたりのトークン数を優先すべきだと言われています。しかし、ハードウェア（シリコン）を最大限に活用するソフトウェアレイヤーを持つことも重要です。

ホストOSは、AIインフラストラクチャスタックの大黒柱です。「大黒柱」とは、単に重要というだけでなく、スタックの中心に位置し、ハードウェアとソフトウェアの橋渡しをするという意味です。つまり基盤となるコンピューティングリソースを管理するOSは、GPUなどのAIアクセラレータの性能を引き出す役割を担っていると言えます。

これを踏まえ、Canonicalはシリコンベンダー（NVIDIA、AMD、Intel、Arm、Qualcommなど）やRISC-V関連企業と提携し、主要アーキテクチャ向けにUbuntuを最適化しています。この最適化により、OSのオーバーヘッドではなくAIワークロードに多くの消費電力が使用されます。

Canonicalは、ハードウェアの認定においてもパートナーと協力しています。組織が新しいハードウェアをAIスタックに追加するたびにOSをカスタマイズする必要がないよう、Canonicalは、標準化されたセキュアブートやファームウェア配信機能を事前に統合しています。これにより企業は価値を得るまでの時間を短縮し、エンジニアリングリソースも節約できます。

シングルコマンドのツールキット統合

さて、価値を得るまでの時間を短縮し、人間の生産性を高めるというテーマに戻りましょう。AIの時代でも、Ubuntuは人間のためのLinuxです。そしてCanonicalの重要な理念の1つが、ユーザーにAIインフラストラクチャを導入し、運用する負担をできるだけ軽減することです。

この目的で、CanonicalはNVIDIAおよびAMDと協力し、主要なAIソリューションをUbuntuに統合し、配信しています。Ubuntu 26.04 LTS以降、ユーザーは1つのコマンドでNVIDIA CUDA、AMD ROCm、NVIDIA DOCA-OFEDを利用できます。

GPGPUのフレームワーク

NVIDIA CUDAとAMD ROCmは、GPUを使用した汎用計算（GPGPU）のためのフレームワークです。この2つのソフトウェアレイヤーがなければ、開発者はNVIDIAとAMDの超高スループットのGPUをAIワークロードに活用できません。

従来、これらのフレームワークをインストールするには複数の手順が必要であり、依存ファイルや互換性の問題は、特に経験の浅いユーザーにとって大きな壁でした。しかし、Ubuntu 26.04 LTSでは、NVIDIA CUDAでもAMD ROCmでも、apt installコマンドを実行するだけでインストールできます。

この新しい方法により、GPGPUフレームワークのセットアップにかかる時間は何時間も何日も短縮でき、企業は短時間でGPUから価値を引き出すことができます。また、Canonicalのスムーズなアップグレードパスによってユーザーは安心して更新を実行し、これらのプラットフォームの最新機能を利用できます。

UbuntuでAMD ROCmを使用する方法については、このほど解説記事を公開しました。

高性能ネットワーキング

大規模なAIファクトリーやHPCクラスターを運用する組織にとって、NVIDIA DOCA-OFEDは、極めて人気の高い高性能ネットワークスタックです。しかし従来は、データ転送における超低レイテンシと高スループットを手に入れる代償として、複雑なセットアップやメンテナンスが必要でした。システム管理者は、外部インストーラや複雑な手動ビルドによってネットワーキングドライバーを管理しなければならず、OS更新時にはバージョンの競合やカーネルの不一致の問題もありました。

今後はNVIDIA DOCA-OFEDをシームレスにインストールでき、ライフサイクル管理全体が簡素化されます。新しいワークフローでは、インストールに時間がかからないだけでなく、カーネルのドリフト、ドライバーの非互換性、カーネルやOSのアップグレード後に発生するCIの破損など、一般的な運用上の問題も解消されます。インフラストラクチャの担当者は、リソースを節約しながら、スピードと安定性を提供することができます。

ハードウェアと人間のために最適化

Canonicalのエンジニアリング担当副社長であるJon Seagerは、このほどUbuntuにおけるAIの未来について記事を書き、「UbuntuはAI製品になるわけではない」と締めくくりました。Canonicalは、UbuntuをAIのイネーブラーにしたいと考えています。シリコンレベルで各種アーキテクチャに高度に最適化する、ユーザーレベルでAIツールキット導入やライフサイクル管理を効率化するなど、UbuntuはソフトウェアレイヤーとしてAIインフラ戦略をしっかり支えます。そして消費電力あたりのトークン数を増やすだけでなく、価値を生み出すまでの時間を短縮し、AIスタック全体の運用コストを削減します。

AIインフラストラクチャのベストプラクティス、自社のAI戦略におけるUbuntuの活用方法を知りたい方は、企業のためのAIインフラストラクチャガイドをお読みください。