プロンプトインジェクションに負けないAI設計
プロンプトインジェクションとは入力でAIの指示を乗っ取る攻撃です。OpenAIの方針を踏まえ、境界設計や入力サニタイズ、ヒューマンレビューを組み合わせた段階的導入で安全性と生産性を両立できます。
続きを読む
タグ一覧に戻る
運用ガバナンス
記事数: 2 件
OpenClaw AIが機密メールを消去？20人の実験報告
OpenClaw AIにメール・自己記憶・シェル権限を付与して20人が検証した実験は、機密メール消去の挙動を通じて権限設計や監視体制の強化という、現場で役立つ具体的な改善点を示しました。
続きを読む