業界が警鐘：AIエージェント暴走なら仮想通貨ハッキング被害、10億ドル規模事件も「霞む」恐れ

取引エージェントが人間による逐一の承認を必要とせずにオンチェーン取引に署名できるようになれば、一度のモデルの幻覚(ハルシネーション)がもたらす結果は、もはや誤った口座への単純な送金では済まなくなる可能性がある。

The Blockの報道によると、仮想通貨業界関係者はAIエージェント(AI agents)がオンチェーン操作を実行するうえでより大きな自律性を与えられた場合、判断ミスや悪意ある利用が発生すれば、その被害規模はこれまでの10億ドル級ハッキング事件を霞ませるほどになりかねないと警告している。報道中の表現を借りれば、既存の事例はその時点では「はした金」(pennies)にすぎなくなる可能性があるという。

報道によれば、業界がAIエージェントの仮想通貨分野への大規模導入を見る上で最大の障壁とみなしているのは、次の3点だ。すなわち、ユーザーや機関によるエージェントへの信頼基盤がまだ確立されていないこと、大規模言語モデルが依然として「幻覚」(hallucinations)を起こし誤った判断を下す可能性があること、そしてエージェントが自律的に実行した操作が誤っていた場合、法的責任を誰が負うのかが不明確なままであることだ。

これら3つの懸念は、いずれも同じ核心的な問題を指し示している。意思決定の権限が人間から自動化されたエージェントへと移行するにつれ、リスクが発生する速度と規模もまた変化するが、現時点での信頼メカニズムや法的枠組みはそれに追いついていないという点だ。

報道では、具体的な発言者の身元や時期、関連事件の詳細についてはさらなる説明はなされていない。