업계 경고: AI 에이전트 통제 불능 시 암호화폐 해킹 손실 "10억 달러급 사건도 무색해질 것"

거래 에이전트가 인간의 건별 승인 없이 온체인 거래에 서명할 수 있게 되면, 한 번의 모델 환각이 초래하는 결과는 더 이상 잘못된 계좌로의 단순 송금 정도에 그치지 않을 수 있다.

《더 블록》 보도에 따르면, 암호화폐 업계 관계자들은 AI 에이전트(AI agents)가 온체인 작업을 수행할 더 큰 자율성을 부여받을 경우, 판단 오류나 악의적 악용이 발생했을 때 그 손실 규모가 기존 10억 달러급 해킹 사건들을 무색하게 만들 수 있다고 경고했다. 보도 표현을 빌리자면, 기존 사례들은 그때가 되면 "잔돈(pennies)" 수준에 불과할 수도 있다는 것이다.

보도에 따르면, 업계가 현재 AI 에이전트의 암호화폐 분야 대규모 도입을 가로막는 가장 큰 세 가지 장애물로 꼽는 것은 다음과 같다: 사용자와 기관 사이에 에이전트에 대한 신뢰 기반이 아직 구축되지 않았다는 점, 대형언어모델이 여전히 "환각(hallucinations)" 현상을 일으켜 잘못된 판단을 내릴 수 있다는 점, 그리고 에이전트가 자율적으로 실행한 작업에서 오류가 발생했을 때 법적 책임을 누가 져야 하는지가 여전히 불분명하다는 점이다.

이 세 가지 우려는 결국 하나의 핵심 문제로 귀결된다. 의사결정 권한이 인간에서 자동화된 에이전트로 옮겨가면서 위험이 발생하는 속도와 규모 또한 달라지는데, 현재의 신뢰 체계와 법적 프레임워크는 아직 이를 따라가지 못하고 있다는 것이다.

보도에서는 구체적인 발언자의 신원, 시점, 관련 사건의 세부 내용까지는 밝히지 않았다.