複数AIエージェント間に臨界現象――PNAS論文が金融・防衛・エネルギーシステムの潜在リスク警告
マルチエージェントAIシステムには「群規模による臨界値」が存在し、2～約10,000エージェント間で相反する結果に達する可能性がある。既に金融・エネルギー・防衛・ソーシャルメディアで実運用中のシステムに未発見のリスク。
続きを読む
タグ一覧に戻る
安全性
記事数: 3 件
OpenAI が ChatGPT for Teens と CodeAI パートナーシップを発表——AI リテラシー教育を推進
OpenAI が新たに 10 代向けの ChatGPT バージョンをリリースし、同時に教育プラットフォーム CodeAI とのパートナーシップを発表。生徒の AI 思考力を育成し、親向けコントロール機能も搭載。
続きを読む
ニアミスデータで自動運転の訓練効率が90%向上——Michigan大学が実証
Michigan大学の研究チームが、衝突だけでなくニアミス（事故寸前）のシミュレーションデータを活用することで、自動運転車アルゴリズムの安全性を90%向上させることを発表。実世界テスト走行距離を99.9%削減。
続きを読む