警察はナンバープレートも氏名も、さらにはすでに発生した事件すら必要としない。地図上に範囲を丸で囲み、時間帯と行動の特徴を一文入力するだけで、あとはアルゴリズムに任せればいい。これはテックメディアWiredの報道で明らかになったFlockの新ツールの仕組みであり、同社がこれまで対外的にアピールしてきたイメージと実際の能力との間に存在する、最大級のギャップでもある。

Flockは長年、自社を単なる自動ナンバープレート認識（ALPR）企業として位置づけてきたが、そのカメラがナンバープレートの読み取り以上のことをできるのではないかという疑念は以前から囁かれていた。Wiredの報道によれば、Flock社内では「Nightshift」というコードネームで新しいソフトウェアが開発されており、現在は対外的に「OS Investigate」と呼ばれている。このシステムは全米6,000の地域コミュニティに設置されたカメラネットワークを連携させ、車両がこれらの地域内でどう移動したかを記録する。例えば、ある場所で事件が発生した場合、システムは現場周辺の車両の動きを分析して目撃者候補を割り出し、その手がかりを警察の事件記録、911の出動記録、商用の身元データベースと照合することで、目撃者の氏名、住所、さらには家族や友人関係まで特定できるという。

Wiredの報道によれば、このツールは「外見の特徴を一文入力するだけで、地図上に指定した範囲内から条件に合う人物を検索できる」という。つまり、警察官はナンバープレートも氏名も具体的な事件すら事前に把握している必要はなく、場所と時間、そして行動パターンさえ入力すれば、あとはアルゴリズムが自動で処理してくれるのだ。システムにはチャットボット形式のインターフェースが内蔵されており、警察官が直接プロンプトを入力できる。例えば「過去14日間の特定の時間帯に、ある地域で最も多く出現した車両を見つけて」といった具合に、空欄を埋めて送信するだけで検索が実行される——しかも、こうしたプロンプト自体は具体的な事件の入力をユーザーに求めていない。

Flockによれば、OS Investigateは現時点では一部の法執行機関パートナーとの間でテストが行われている段階であり、現在の機能が「必ずしも」将来正式に販売される版を反映しているとは限らないという。同社はWiredの報道で言及された各種機能について否定はせず、これがナンバープレート認識技術とは別の独立した製品であることを強調するにとどめた。

「完全にイカれている」と「少し落ち着かない」の間で

元警察官で、Wiredの依頼を受けてこのソフトウェアと関連プロンプトを検証したNoel Pichardo氏はこう率直に語る。「他に言いようがないが、これは完全にイカれているとしか思えない。『Flockは実際に人間を追跡している』というこの事実に、反論できる人がいるとは思えない」。匿名を条件に取材に応じた現職の警察官は、目撃者を探すための機能について「少し落ち着かない気持ちになる」としながらも、「警察官として、『警察予算を削減しろ』と主張する人たちが何と言おうと、我々は使えるものは何でも使わなければならない」と付け加えた。独立系セキュリティ研究者のBuchodi氏の見解はやや慎重で、「これによって無実の日常的な行動が多数タグ付けされてしまう可能性があるが、それでも捜査担当者にとっては非常に有用なツールになり得る」と指摘している。

ACLUの弁護士Chad Marlow氏はリスクの核心を突く。「警察官が『何か犯罪のパターンを見かけましたか』と尋ねるのと、『犯罪のパターンを見つけ出してくれ』と指示するのとでは、まったく異なる結果が生まれる。そして彼らはプロンプトに対して何の制限も設けていないように見える。これでは警察がAIをほぼ思い通りに誘導できてしまうのと同じだ」。

Flockはこれまでにも、警察官によるカメラの悪用——特定の人物を監視したり、元交際相手をストーキングしたりする行為——を繰り返し指摘されてきた。そのため同社は、悪用アカウントを特定する仕組みや、検索に事件番号の添付を義務付けるといった防御策を導入している。しかし、まだテスト段階にあるこのOS Investigateにどのような防御策が必要なのかについては、Wiredの報道でもFlockの現在の回答でも、明確な答えは示されていない。

Flockをめぐる不安は、すでに実際の行動にも波及している。一部の法執行機関は同社との協力関係を打ち切り、住民が自ら街頭のFlockカメラを破壊したり、撤去したり、盗んだりする事例も出ている。ミネソタ州のある小さな町では、一夜にして町全域のFlockカメラが忽然と姿を消し、現地の警察当局は「もう再設置はしない」としている。