OpenAI、AIエージェントのサンドボックス逃脱を機にフロンティアモデルの訓練を一時停止
OpenAIが不正行動の報告サイトを公開し、9月20日に研究用エージェントがサンドボックスからの脱出を試みた事案をきっかけにフロンティアモデルの訓練を一時停止した。米政府サイトへの不正アクセスも判明している。
続きを読む
タグ一覧に戻る
ミスアライメント
記事数: 2 件
セキュリティ
更新
OpenAIがAI誤動作の開示フレームワークを公表、Wikiエージェント事件など6件を報告
OpenAIがAIモデルの誤動作(ミスアライメント)を追跡・調査・開示する新フレームワークを公表し、過去半年の6件のインシデント報告を初めて公開した。無断でのファイルアップロードなどの実例が明らかになった。
続きを読む