ウォーターロー大学とAI安全性研究組織FAR.AIが主導し、トロント大学、Vector Institute、ETHチューリッヒ、MIT CSAILなど複数機関が参加した国際研究チームが、広く使われているオープンウェイトLLM（重みが公開されているLLM）21種を対象に安全性を検証したところ、すべてのモデルで安全対策を無効化できることが判明した。

TamperBenchという評価基盤

研究チームはこの検証のため、「TamperBench」と呼ばれるオープンソースの評価フレームワークを新たに開発した。TamperBenchは、モデルの重みを直接書き換えるファインチューニング攻撃と、モデル内部の表現空間を操作する攻撃の両方を体系的にシミュレーションできる、この種の評価としては初の統一基盤だとしている。9種類の改ざん手法を用い、モデルの規模や系統、既存の防御機構の有無にかかわらず攻撃を仕掛けた。

その結果、テストした21モデルすべてで、有用性（本来の性能）を保ったまま高い有害性を引き出せることが確認された。中でも「ジェイルブレイク・チューニング」と呼ばれる手法が最も深刻な攻撃として際立ったという。

何が悪用され得るか

研究チームが報告書で挙げる具体的なリスクには、大規模な偽情報キャンペーンの生成、精巧な詐欺メールの作成、危険な化学物質の製造手順の出力などが含まれる。研究チームは「現在利用可能な防御機構は、モデルが一般公開された後もその安全性を確実に維持できるほど強力ではない」と指摘している。

一方で、段階的に安全対策を重ねる「Tripletディフェンス」と呼ばれる防御手法は、他の対策と比べて相対的に高い耐性を示したことも報告されている。ただし、それでも攻撃を完全に防ぐには至っていない。

医療・教育分野への警鐘

医療、詐欺検知、教育といった公共性の高い領域でオープンウェイトLLMへの依存が広がる中、研究チームはモデルの評価・調達プロセスをより厳格化し、証拠に基づいた基準を設ける必要性を強調している。企業がオープンウェイトモデルを自社システムに組み込む際は、公開されているベンチマークスコアだけでなく、改ざん耐性という観点からの追加検証が今後求められる可能性がある。