OpenAIが、ChatGPTなど自社製品を支えるオンラインストレージ基盤「Habitat」の内部構造を公式ブログで公開した。週10億人が利用する規模のサービスを支えるこの基盤は、当初シンプルなPythonライブラリだったが、2026年第2四半期にわずか2人のエンジニアの手でRustへ全面書き換えされ、性能が大幅に向上したという。

3年で10倍以上の成長を支える基盤

Habitatは、ChatGPTなどのOpenAI製品が必要なデータへ高速かつ確実にアクセスするために構築されたストレージプラットフォームだ。現在は毎秒70万件を超えるリクエストを処理し、500ペタバイト以上のデータを約40の地理的リージョンにわたって管理している。OpenAIによれば、過去3年間にわたり年間10倍を超えるペースで成長しており、従来型の「10倍を見込んだ拡張計画」では対応しきれない規模に達していたという。

Habitatは2024年半ば、単一のデータベースに接続するPythonのクライアントライブラリとして始まった。しかし2025年にはスケーリングの限界に達し、独立したサービスへと切り出す必要に迫られた。

Python時代の課題とRustへの全面移行

Python実装時代は、asyncioのスケジューリング遅延が大きな課題だった。ルーティング・暗号化・圧縮といったCPU負荷の高い処理が重なると、通常なら数十ミリ秒で終わるはずのリクエストの末尾レイテンシ(tail latency)が数百ミリ秒から数秒に達することもあったという。OpenAIはこれに対し、プロセスあたりの同時リクエスト数の制限、Pythonワーカープロセス数の大幅増加、接続プーリング方式のLIFOからFIFOへの変更、Envoyを用いた接続効率化などの対策を重ねて凌いできた。

こうした対症療法的な改善には限界があり、OpenAIは2026年第2四半期、Habitatサービス全体をRustで書き直す決断をした。特筆すべきは、この大規模な書き換えを担当したのがわずか2人のエンジニアだったという点だ。言語モデルを活用して開発を加速させたことで、通常であればより大きなチームと長期間を要する規模の移行を短期間で完了させたという。結果として、CPU効率は6倍、メモリ効率は15倍に向上し、平均・末尾レイテンシの双方も大幅に改善した。

NoSQL設計と読者への影響

HabitatはNoSQL型のAPIを採用し、「シンプルで予測可能、かつ処理量が一定なリクエスト」を最適化する設計を貫いている。複雑なSQLクエリが引き起こす予測不能な負荷を避けるためだ。より複雑な分析ニーズには、Rocksetを介したオフラインの二次ビューで対応するという役割分担を敷いている。

OpenAIがこうした内部インフラの詳細を公開する事例は多くない。急成長するAIサービスの裏側でどのような技術的判断が下されているかを知ることは、同様の急成長に直面する開発者やインフラ担当者にとって、分散システム設計や大規模書き換えプロジェクトの進め方を考える上で参考になる。少人数チームとAI支援によるコード移行という手法自体も、今後のソフトウェア開発のあり方を占う一例といえる。