一体何が起きたのか

最近の報道によれば、米国の移民管理機関が現場で使用した顔認証アプリが、設計意図と運用の間で大きなずれを生んでいる可能性が指摘されています。使われたのはMobile Fortifyというアプリです。推定で10万回を超える照合が行われたと報じられています。

ICE（Immigration and Customs Enforcement）は移民の取り締まりを担当する機関です。CBP（Customs and Border Protection）は税関・国境管理を担当します。DHS（Department of Homeland Security）はこれらを所管する省庁です。

報道のポイントをやさしく整理すると

・Mobile Fortifyが移民と市民の身元照合に用いられたとされる。
・このアプリは本来、個人を確定的に識別するために設計されたものではないとされる。
・承認はDHSが自らのプライバシー規則の適用を見送った後に得られたと報じられている。

設計と目的が一致しないまま現場で使われると、例えるなら鍵と鍵穴が微妙に合わないまま扉を無理に回しているようなものです。誤認識が生じやすくなります。

なぜこれは問題になるのか

顔認証の誤認識は個人の生活に直接影響します。誤った照合で尋問や拘束につながれば、当事者の人権や信用に傷がつきます。市民と移民の両方が対象になり得る点も重大です。

また、DHSがプライバシー規則の適用を緩和した経緯が、技術選択に影響を及ぼした可能性があります。透明性や説明責任が不足すると、信頼を損ないかねません。

現場で何が必要か

改善のために考えられる施策は次の通りです。

・運用データやポリシーの公開。どのように照合が行われたかを明らかにすることが重要です。
・独立した第三者による監査と評価。外部の目が精度や偏りを検証します。
・現場担当者への適切な教育と明確な運用手順。ツールの目的を超えた使い方を防ぎます。
・誤認識が起きた際の迅速な救済手続きの整備。被害を受けた人がすぐに助けを得られる仕組みが必要です。

最後に

技術は便利ですが、使い方次第で問題を引き起こします。顔認証が本来の目的を超えて使われないようにするには、透明性と外部監督が欠かせません。今回の報道を契機に、より安全で説明のつく運用が進むことを期待したいですね。