Google、Gemma 4のモデルラインアップを公開　Dense、MoE、マルチモーダルの各変種を含む

Googleは、AI開発者向けドキュメントページを通じて、Gemma 4モデル群の詳細な構成を公表した。今回の発表には、Dense、Mixture-of-Experts（MoE）、統合型マルチモーダルモデルという3つの主要なアーキテクチャ変種が含まれている。

アーキテクチャの変種

Denseモデルは従来型のTransformer構造に従い、推論時にはすべてのパラメータが有効化される。これにより、予測可能なレイテンシーと一貫したスループットが得られる。

MoEアーキテクチャは、入力に応じて専門サブネットワークの一部のみを有効化し、総パラメータ数に対するアクティブなパラメータ数を削減する。ルーティング機構は、入力トークンに基づいて専門家の組み合わせを選択する。

統合型マルチモーダルモデルは、テキストと画像を単一のアーキテクチャ内で処理するよう設計されている。これにより、視覚的質問応答、文書理解、マルチモーダル検索などのタスクを支援できる。

開発者エコシステム

Gemmaシリーズはオープンウェイトモデル市場で注目を集めており、第4世代のラインアップは利用可能な選択肢を拡大する。Denseモデルは標準的な推論フレームワークとの互換性が高く、既存のパイプラインに統合しやすい。

MoEモデルには、ルーティングロジックと専門家の負荷分散をサポートするランタイムが必要となる。マルチモーダル変種では、画像前処理、解像度調整、テキストと画像の整合など、入力パイプライン設計の重要性が高い。

競争環境

オープンウェイトモデル市場には、MetaのLlamaシリーズ、Mistral AIのモデル群、AlibabaのQwenラインアップが含まれる。Gemma 4のMoE変種は他のMoEモデルと比較される可能性があり、マルチモーダルモデルは他のマルチモーダル製品と並んで評価される可能性がある。

ライセンスと展開

Gemmaモデルは一般に商用利用を許可するライセンスの下で配布されているが、具体的な条件はモデルカードと利用規約で確認する必要がある。MoEおよびマルチモーダル変種は、推論時のメモリ要件が高くなる可能性がある。

Googleの公式ドキュメントには、各変種に推奨されるハードウェア仕様、バッチサイズ設定、推論最適化ガイドが含まれる見込みである。現在公表されている情報はモデル変種の存在を確認するものであり、パラメータ数、ベンチマーク性能、学習データの構成、リリース時期は示されていない。