ChatGPT や Claude を使っていて、こんな経験はありませんか？「この製品の価格設定について、先ほど説明した内容を踏まえて答えて」と聞いても、AI が先ほどの説明を忘れていて、的外れな回答が返ってくる――。

これは単なるユーザーの誤解ではなく、現代の大規模言語モデル（LLM）が抱える根本的な問題です。その名を 「カタストロフィックフォーゲッティング」 といいます。

AI の「忘却」問題とは

カタストロフィックフォーゲッティングの実態

マルチモーダル AI（テキストと画像を同時に理解できる AI）が新しい情報を学習するとき、既存の知識が大幅に失われてしまう という現象です。

具体例：

  • 企業は「製品 A の仕様」を学習させていたが、その後「製品 B の仕様」を学習させたら、製品 A について質問されたときに誤った情報を返すようになった
  • 法律 AI が「2025 年版の民法」を学習したら、「2024 年版の条文」についての知識が損なわれた

従来のアプローチでは、新知識と既存知識のバランスを取るのが極めて難しく、精度は 36～52% 程度 に留まっていました。

なぜ起きるのか

AI は学習時にニューラルネットワークの「重み」を調整します。新しい情報に最適化するように重みを変えると、その副作用として古い情報に対応した重みが上書きされてしまうのです。

これは、新しい知識を詰め込むたびに、既存の知識が「上書きされる」という問題です。

韓国 ETRI の MemEIC：解決策

技術の核心——「独立保存」

ETRI（韓国の電子通信研究院）が開発した MemEIC は、このカタストロフィックフォーゲッティングを解決する新たなアプローチです。

基本的な戦略は、視覚情報と言語情報を独立したメモリ領域に保存する こと。

具体的には：

  1. テキスト情報（言語知識）を A のメモリに保存
  2. 画像情報（視覚知識）を B のメモリに保存
  3. 新しい知識を学習するときは、両者を独立して更新
  4. 実際に質問されたときには、A と B の情報を「必要に応じて統合」して回答

こうすることで、新知識の学習が既存知識を破壊するのを防ぎます。

精度の飛躍的向上

ETRI の検証結果：

手法精度
既存技術（従来の継続学習）36～52%
MemEIC70%

驚くべきは、1 回の学習だけではなく、継続的な更新を行った場合でも精度が安定している こと。

ETRI は 1,278 項目 から構成されるベンチマーク「CCKEB」を使用して、数百の知識を連続編集した場合の性能を検証しました。従来手法では、学習を繰り返すたびに精度が低下していくのに対し、MemEIC は安定性を保ちます。

実用領域：どこで使えるのか

MemEIC の技術は、以下のような「常に最新情報に更新される必要がある分野」で威力を発揮します：

法律・政策情報

  • 新しい法律が成立したとき、過去の判例データベースを失わずに新知識を組み込む
  • 税法改正時に、従来の税計算ロジックを保持しながら新ルールを適用

製品情報管理

  • 価格改定、スペック更新、廃止モデルの置き換え
  • 古い製品情報と新製品情報の両方を正確に回答

産業データの継続的更新

  • 在庫管理システムが日々の取引データを学習
  • 市場統計や業界ベンチマークの定期的な更新

ChatGPT・Claude・Gemini への示唆

現在、OpenAI・Anthropic・Google などが提供する LLM は、一度モデルをトレーニングしたら、その後は新情報をリアルタイムで学習できません。 代わりに、「検索連携」や「プロンプトへの手動記述」という迂回策を使っています。

MemEIC のようなアプローチが実装された場合、LLM は：

  • ユーザーの質問に応じて、その場で新知識を学習する
  • 古い知識を忘れずに、常に最新の情報を提供する
  • 企業固有のデータベース（製品カタログ、社内ポリシー等）を継続的に統合する

といった動作が可能になります。

信頼性向上への道

AI が「間違い」を犯す理由の一つが、このカタストロフィックフォーゲッティングです。

ユーザーが「これ前に教えたのに」と感じるのは、実は AI システムの設計上の問題だったのです。MemEIC のような技術が一般化すれば、AI の信頼性と正確性が大幅に向上 することになります。

韓国の研究機関が示したこのアプローチは、グローバルな LLM 開発の次のフロンティアを指し示しています。