オーストラリア政府は9月8日、SNSや検索エンジン、AIチャットボットを含むデジタルプラットフォームに対し、利用者がアルゴリズムによるおすすめ表示をオプトアウトできる仕組みの導入を義務付ける法案を公開した。違反企業には1億豪ドル(約95億円)超の罰金を科す。通信相のアニカ・ウェルズ氏は、フィード表示を「アルゴリズムか、友人やフォローしたクリエイターか」を選べる形にすると説明している。

フィードはどう変わるか

法案が成立すれば、アプリの利用者に通知やポップアップが届き、メインフィードに何を表示するか選択できるようになる。アルゴリズムのおすすめを選んだ場合は現状と同じ使い勝手が続くが、フォローしている相手のみの表示も選べる。設定はいつでも変更可能で、Instagram・YouTube・Xなどが備える「フォロー中」タブに近い機能が法的に義務化される形だ。

未成年には「無限スクロール」などを禁止

法案はプラットフォームに新たな「デジタル・デューティ・オブ・ケア(安全配慮義務)」を課し、子どもを「有害」なコンテンツから、成人を「重大に有害」なコンテンツから保護するよう求める。子ども向けでは性的表現や摂食障害助長、危険なスタント動画などが対象になる。加えて、無限スクロール、閲覧数・いいね数の表示、ストーリーズのような時限コンテンツ、パーソナライズされたフィードといった「行動面で悪影響を及ぼす」機能は、16歳未満向けに無効化することが義務付けられる。

オンライン安全委員会(eSafety Commissioner)には、なりすまし画像を作る「ヌーディファイ」アプリやサイトへの削除命令権限が新たに与えられる。ウェルズ氏は、この権限があれば同意なく人物のヌード画像を生成するAIツール「Grok」の画像生成機能を禁止できたはずだと述べている。

業界の反発と野党の懸念

Meta、TikTok、Googleはコメントを避けた。業界団体Digiは安全配慮義務の原則自体には賛同しつつ、「有害コンテンツ」の定義や利用体験への影響を精査する必要があると指摘する。野党连合(Coalition)は、閣僚が新たな「有害」の類型を指定できる権限について、政府が意に沿わない言論を封じる手段になりかねないと批判している。ウェルズ氏はこれに対し、誤情報や政治的な言論は対象外だとし、上院が閣僚の指定を無効化する権限を持つと説明した。

より厳しい規制を求める緑の党

野党の緑の党(Greens)は法案をさらに強化するよう求めている。無限スクロールの全面廃止、成人向けの「重大」ではない有害コンテンツも対象にすること、罰金を企業の世界売上高に連動させることなどを提案している。政府はデフォルト設定を定めない方針だが、緑の党はフォロー中の表示をデフォルトにし、希望者のみアルゴリズム表示に戻せる「強いオプトイン」方式を主張する。上院で法案を通すには、連立が反対した場合は緑の党との交渉が必要になる。

AIチャットボットが規制対象に明記された点は、生成AIサービスを提供する企業にとっても無視できない動きだ。パーソナライズされた応答やレコメンド機能を持つチャットボットが、SNSと同じ規制の枠組みで扱われる可能性が出てきたことになる。