OpenAI の ChatGPT に『Trusted Contact』安全機能、自害リスク検出時に信頼できる人に通知
OpenAI が成人 ChatGPT ユーザー向けに『Trusted Contact』を導入。自害のリスクが検出された場合、ユーザーが事前に指定した信頼できる人に通知を送る機能。ハイブリッド型の安全対策として、自動検出と人間による確認を組み合わせている。
続きを読む
タグ一覧に戻る
安全機能
記事数: 3 件
OpenAIを巡る16歳自殺訴訟と安全機能の争点
OpenAIを相手取った16歳の自殺を巡る訴訟は、安全機能や対話設計の責任範囲を問い、企業の説明責任や未成年者保護の基準見直しを促し、業界の運用基準に影響を与える可能性があり、企業や教育現場、規制当局が今後の指針作りで注視すべき事案です。
続きを読む
OpenAIと16歳少年の訴訟が問う責任
OpenAIと16歳少年の家族による訴訟は、安全機能の回避や設計責任を巡る重要な問いを投げかけており、今後のAI設計や規制に示唆を与える契機となる可能性があります。
続きを読む