Flock, 새 AI 도구 테스트: 번호판 없이도 운전 습관만으로 사람 특정 가능

경찰은 번호판도, 이름도, 심지어 이미 발생한 사건도 필요 없다. 지도에서 한 구역을 그리고 시간 범위와 행동 묘사 한 줄만 입력하면 나머지는 알고리즘이 처리한다. 이는 테크 매체 와이어드(Wired)가 보도한 Flock의 새 도구 작동 방식이며, 이 회사가 지금껏 대외적으로 내세운 이미지와 실제 능력 사이의 가장 큰 간극이기도 하다.

Flock은 오랫동안 자사를 단순한 자동 번호판 인식(ALPR) 업체로 포지셔닝해왔지만, 이 회사의 카메라가 단순히 번호판을 읽는 것 이상의 일을 할 수 있다는 의혹은 이미 오래전부터 제기돼왔다. 와이어드 보도에 따르면 Flock은 내부적으로 Nightshift라는 코드명으로 새 소프트웨어를 개발해왔으며, 현재는 대외적으로 OS Investigate라 불린다. 이 시스템은 미국 전역 6,000개 커뮤니티에 분포된 카메라 네트워크를 연결해, 해당 지역 내 차량의 이동 경로를 기록한다. 예를 들어 어떤 곳에서 사건이 발생하면, 시스템은 사건 발생 지점 인근의 차량 동향을 분석해 잠재적 목격자를 찾아낸 뒤, 이 단서들을 경찰 사건 기록, 911 출동 기록, 상업용 신원 데이터베이스와 대조해 목격자의 이름, 주소, 친인척 및 지인 관계까지 알아낼 수 있다.

와이어드 보도는 이 도구가 "단지 외모 묘사만으로 지도에 지정된 범위 안에서 조건에 맞는 사람을 검색할 수 있다"고 밝혔다. 즉 경찰관은 번호판이나 이름, 구체적인 사건조차 없이 위치와 시간, 그리고 하나의 행동 패턴만 제공하면 알고리즘이 알아서 연산을 수행한다. 시스템에는 챗봇 인터페이스가 내장돼 있어 경찰관이 직접 프롬프트를 입력할 수 있다. 예를 들어 "지난 14일간 특정 시간대에 특정 커뮤니티에서 가장 자주 나타난 차량을 찾아줘"처럼 빈칸을 채워 제출하면 바로 검색이 실행된다. 이런 프롬프트는 애초에 사용자에게 구체적인 사건 입력을 요구하지도 않는다.

Flock 측은 OS Investigate가 현재 일부 법 집행 협력 파트너와의 테스트 단계에 있으며, 지금 단계의 기능이 향후 정식 출시될 버전을 "반드시 반영하는 것은 아니다"라고 밝혔다. 다만 회사는 와이어드 보도에서 언급된 각종 기능들을 부인하지는 않았으며, 이는 번호판 인식 기술과는 별개의 독립된 제품이라는 점만 강조했다.

"완전히 미쳤다"와 "다소 불편하다" 사이

전직 경찰관 출신으로 와이어드의 초청을 받아 이 소프트웨어와 관련 프롬프트를 검토한 노엘 피차르도(Noel Pichardo)는 이렇게 잘라 말했다. "달리 뭐라 표현해야 할지 모르겠지만, 이건 완전히 미쳤다고밖에 할 수 없다. 'Flock이 실제로 사람을 추적하고 있다'는 사실을 반박할 수 있는 사람이 있을지 모르겠다." 익명을 요구한 현직 경찰관 한 명은 목격자를 찾는 기능이 "다소 불편하게" 느껴진다면서도 "법 집행관으로서, '경찰 예산 삭감'을 주장하는 사람들이 뭐라 하든 우리는 활용 가능한 모든 도구를 써야 한다"고 덧붙였다. 독립 보안 연구자 부코디(Buchodi)는 좀 더 신중한 입장을 보이며 "이로 인해 무고한 일상 행동들이 많이 표시될 수 있지만, 동시에 수사관들에게는 상당히 유용할 수 있다"고 말했다.

ACLU 변호사 채드 말로(Chad Marlow)는 위험의 핵심을 이렇게 짚었다. "경찰관이 '어떤 범죄 패턴을 목격했습니까'라고 묻는 것과 '나를 위해 범죄 패턴을 찾아줘'라고 요청하는 것은 완전히 다른 결과를 낳는다. 그런데 그들은 프롬프트에 어떤 제한도 두지 않는 것 같다. 이는 사실상 경찰이 원하는 대로 AI를 유도할 수 있게 만드는 것이나 다름없다."

Flock은 과거에도 경찰관들의 오남용 의혹을 여러 차례 받아왔다. 특정 대상을 카메라로 감시하거나 전 애인을 스토킹하는 데 악용된 사례가 그것이다. 이 때문에 회사는 악용 계정을 차단하고 검색 시 반드시 사건 코드를 첨부하도록 요구하는 등의 보호 장치를 도입했다. 하지만 아직 테스트 단계에 있는 OS Investigate에 어떤 보호 장치가 필요한지에 대해서는 와이어드의 보도도, Flock의 현재 답변도 명확한 답을 내놓지 못하고 있다.

Flock을 둘러싼 불안감은 이미 실질적인 행동으로 이어지고 있다. 일부 법 집행기관은 이 회사와의 협력을 종료했고, 주민들이 직접 거리의 Flock 카메라를 파손하거나 철거, 심지어 훔쳐가는 일도 벌어지고 있다. 미네소타주의 한 작은 마을에서는 하룻밤 사이 마을 전역의 Flock 카메라가 모두 사라졌으며, 현지 경찰서는 다시 설치하지 않겠다고 밝혔다.