Xai の生成 AI チャットボット Grok で、セキュリティ脆弱性とバグが同時に報告されました。いずれもユーザーに直接的な影響をもたらす問題で、信頼性に関わる事態です。

Cryptographic Context Injection による脆弱性

Ars Technica が報じた脆弱性は「Cryptographic Context Injection」と呼ばれるもの。暗号化された指示文を通じて、Grok のセーフティガードレール（安全性対策）を迂回でき、ユーザーデータの流出につながる可能性があります。

この攻撃手法は「安全ガードレールを壊す最新の方法」として位置づけられており、Grok に限った問題ではなく、他の主要 LLM でも同様の脆弱性が存在する可能性があります。

Grok Lite での無意味な単語の羅列（Word Salad）バグ

TechCrunch の報告によれば、Grok Lite ユーザーの一部が、質問に対して意味不明な単語の羅列が返される問題を経験しています。例えば「PDF を作成して」という依頼に対し、以下のような無関係な単語が延々と続く状況です：

「match it without and your they and two for planets can practical and often cheese…」

Grok の公式アカウントはこれを「稀な一時的な生成エラー」と認め、セッション刷新や回答の再生成を推奨していますが、複数回試しても症状が続く例も報告されています。

背景：Xai の組織的混乱

これらの問題が発生する背景には、Xai の組織的な課題があると考えられます。TechCrunch の報道では、Xai が最近「創設チームの大部分と少なくとも 50 人の研究者・エンジニアが離職している」ことを伝えており、これが品質低下につながっている可能性があります。

セキュリティ脆弱性の発見・修正や、バグの迅速な対応には、充分な技術者リソースが必要です。組織規模の縮小は、こうした対応能力の低下を直接的に影響させます。

ユーザーへの影響と今後

現在のところ、脆弱性やバグは限定的な範囲での報告です。ただし、これが「解決済み」なのか「拡大している」のかについて、Xai からの明確な情報は限定的です。

ユーザーが Grok を業務で活用している場合、特に機密データを扱う場合は、これらのリスクを認識したうえでの利用判断が必要な時期にあります。