1200万トークンの壁を突破、GPT-5.5超えの精度を叩き出す新アーキテクチャ「SSA」の実力

人工知能（AI）の進化が加速する2026年において、コンテキストウィンドウの拡大は各社がしのぎを削る最前線となっています。

OpenAIやAnthropicといった主要なラボが提供するモデルでも、100万トークンの壁を越える際の処理効率と精度の維持が大きな課題となっていました。

こうした中、マイアミを拠点とするスタートアップ「Subquadratic」が、従来の常識を覆す1,200万トークンのコンテキストウィンドウを持つ革新的なモデルを発表しました。

このモデルは、最新のベンチマークにおいてOpenAIのGPT-5.5を凌駕するスコアを記録しており、AI開発のパラダイムシフトを予感させています。

コンテキストウィンドウの限界と「二次の壁」

2017年にTransformerが登場して以来、AIモデルの学習と推論は「Attention（注意）機構」に依存してきました。

しかし、標準的なAttention機構には、入力データの長さの2乗（Quadratic）に比例して計算量とメモリ消費が増大するという物理的な制約があります。

つまり、コンテキストを2倍に増やせば、計算負荷は4倍に膨れ上がる計算となり、これが長大な情報を扱う際のボトルネックとなっていました。

多くの企業はRAG（検索拡張生成）やモデルのハイブリッド化でこの問題を回避しようとしてきましたが、これらはあくまで「回避策」に過ぎませんでした。

既存手法の限界：スパースAttentionと状態空間モデル

これまでにも「Longformer」のようなスライディングウィンドウを用いた手法や、「Mamba」のような状態空間モデル（SSM）が提案されてきました。

しかし、情報を圧縮する手法は重要な情報の欠落（ロス）を招きやすく、精度面で従来のDense（密な）Attentionに及びませんでした。

また、DeepSeekが開発した「DSA」のような最新のスパースAttentionでも、どの情報に注目するかを選択するインデクサー自体が二次の計算量を必要とする「インデクサー・トラップ」に陥っていました。

革新的なアーキテクチャ「SSA（Subquadratic Selective Attention）」

Subquadratic社が開発したSubquadratic Selective Attention（SSA）は、この「二次の壁」を根本から打破するものです。

SSAは、コンテキストの長さに対して、計算量とメモリ消費が線形（リニア）にスケールする設計になっています。

これにより、100万トークン処理時の速度は、従来のDense Attentionと比較して52倍という驚異的な高速化を実現しました。

コンテンツ依存型の選択メカニズム

SSAの最大の特徴は、クエリの内容に応じて、どのキー位置が重要かを動的に判断する「コンテンツ依存型」の選択を行う点にあります。

この選択メカニズム自体がサブクアドラティック（二次未満）で動作するため、1,000万トークンを超える入力に対しても効率的に処理が可能です。

「プロンプトAでは1語目と6語目が重要だが、プロンプトBでは2語目と3語目が重要である」といった柔軟な対応を、低コストで行えるのが強みです。

ベンチマークが証明する圧倒的な性能

SSAは、単に「長く読み込める」だけでなく、その情報を正確に処理する能力においても既存のフロンティアモデルを圧倒しています。

複数の情報を参照して回答を導き出すベンチマーク「MRCR v2」において、SSAはOpenAIの最新モデルを大きく引き離すスコアを叩き出しました。

また、1,200万トークンという膨大なデータの中から特定の情報を探し出す「Needle-in-a-haystack」テストにおいても、92.1%という高い再現率を維持しています。

これは、他のどのフロンティアモデルも到達できていない領域であり、AIが「ライブラリ全体」や「数万行のソースコード」を一度に理解できる時代が来たことを意味します。

開発者向けの展開と今後の展望

Subquadratic社は、この強力なモデルをAPIを通じて提供開始しており、コーディングエージェント「SubQ Code」や深層リサーチツール「SubQ Search」を展開しています。

特に複雑なソフトウェア開発において、プロジェクト全体のコードベースを一つのコンテキストとして読み込める能力は、エンジニアの生産性を劇的に向上させるでしょう。

以下は、SubQ APIを利用して大規模なコードベースを解析する際のコンセプトコードです。

import subq

# 1,200万トークンのウィンドウを活用した大規模解析の例
client = subq.Client(api_key="your_api_key")

# 数千ファイルに及ぶリポジトリ全体を読み込む
project_files = client.load_repository("./large_enterprise_project")

# 巨大なコンテキストを前提とした複雑なリファクタリング提案の要求
response = client.chat.completions.create(
    model="subq-12m-ultra",
    messages=[
        {"role": "system", "content": "あなたは熟練のアーキテクトです。"},
        {"role": "user", "content": f"以下のコード全体を分析し、アーキテクチャの矛盾点をすべて指摘してください: {project_files}"}
    ]
)

print(response.choices[0].message.content)

分析完了：12,405個のファイルをスキャンしました。
以下の3点でモジュール間の循環参照と、メモリリークの可能性のある設計パターンが発見されました...

さらに同社は、2026年第4四半期までに5,000万トークンのコンテキストウィンドウを実現する計画を発表しています。

これは単なる容量の拡大に留まらず、AIが「一人の人間が生涯で接する情報量」に匹敵するデータを一度に処理できる可能性を示唆しています。

まとめ

Subquadratic社のSSAアーキテクチャは、Transformerが長年抱えてきた「計算コストの二次増大」という呪縛を解き放ちました。

1,200万トークンという広大なキャンバスを手に入れたAIは、断片的な情報の検索ではなく、構造化された巨大な知識体系の「完全な理解」へと一歩近づいたと言えます。

GPT-5.5を超える精度と、それを支える圧倒的な処理効率は、今後のAI開発の標準を塗り替えていくことになるでしょう。

我々は今、AIが真の意味で「大規模な文脈」を自由に扱える、新しい時代の幕開けを目の当たりにしています。