AIの予測は日々賢くなっていますが、同時に「なぜそうなるのか」の不確かさも残ります。特に医療や自動運転といった人の命に関わる領域では、結果に根拠が添えられることが求められます。そこで注目を集めるのが、出力に“証明（Proof）”を添える検証エコシステムです。中心にあるのがLean4というツール群です。

Lean4とは何か

Lean4は、形式検証のために設計されたプログラミング言語兼定理証明支援ツールです。簡潔に言えば「プログラムや論証の正しさを厳密にチェックするための道具」です。Leanのカーネルが型検査を行い、検証が通れば結論は正しいと断言できます。振る舞いは決定論的で、同じ入力には同じ出力を返します。検証過程が監査可能なのも大きな特徴です。

なぜAIに証明が必要か

AIは高い精度で答えを出しますが、往々にして“なぜその答えなのか”が見えにくいです。Lean4を使うと、推論の各ステップを証明形式で記録できます。これは言い換えれば“出力に添える監査ログ”です。医療診断や金融の判断、車の制御など、ミスが許されない場面では説明性と再現性が信頼につながります。

実装例：AristotleとSafe

実務ではいくつかの実装が注目されています。Aristotleは、AIの出力をLean4の式として組み立て、チェッカーで検証します。検証を通過した場合にだけ回答を提示する設計で、誤ったヒューリスティック解答を避ける狙いがあります。

Safeは、AIがたどった推論をチェーンオブソート（CoT、推論過程の逐次記述）としてLean4に翻訳し、証明を試みます。証明に失敗すればその推論は不正確と判定され、いわゆるハルシネーション（誤出力）の検出に役立ちます。どちらも「証明できることだけを出す」という哲学に基づいています。

12%から60%へ：自己修正の力

現状の課題も明らかです。VeriBenchというベンチマークでは、与えられたプログラミング課題を完全にLean4で検証できる割合が約12%に留まっていました。ところが、自己修正型のエージェントを導入すると、この成功率は約60%にまで向上したと報告されます。自己修正とは、Leanからのフィードバックを受けてAIが自らプログラムを直すループのことです。例えるなら、赤ペン先生の指摘を受けて答案を書き直すようなもの。これが検証率を大きく押し上げています。

大手とスタートアップの動き

主要プレイヤーも動いています。OpenAIやMetaは数学命題の形式証明でLeanを活用し、Metaは研究実装も公開しました。Google DeepMindは2024年にAlphaProofを発表し、Lean4上で数学を証明する能力を示しました。スタートアップではHarmonic AIのAristotleが資金調達で話題になり、Proof付きAIを目指す動きが広がっています。

実務導入の現実と対策

とはいえ壁はあります。既存の知識や大規模コードをすべてLean4に落とし込むには手間がかかります。非形式的な仕様（informal specs）を自動でLeanコードに変換する取り組みは進行中ですが、まだ完璧ではありません。また、現行の大規模言語モデルだけで完全なLean証明を自動生成するのは容易ではなく、適切なガイダンスや人の教育が重要です。導入には人材育成と組織文化の変革が必要ですが、安全性重視の企業ほど早期に利益を得られる可能性があります。

まとめ：Proof付きAIの時代へ

Lean4を核とした検証エコシステムは、AIの出力をより信頼できるものにします。証明を添えることは、不確実性を減らし、高リスク領域での採用を後押しします。技術的な課題や教育コストは残りますが、自己修正やチェッカーベースの手法が進むことで、実務導入は現実味を帯びてきました。これからは、単に答えを出すAIではなく、答えに「証拠」を添えるAIが求められる時代になりそうです。検証可能なAIが安心を生み、競争力を左右する――そんな未来が見えてきました。