ある法案草稿では、「州」の定義がアメリカ本土の50州のみを対象とし、ワシントンD.C.や部族地域が条文からすっぽり抜け落ちていた。これは政治的な駆け引きではなく、単にAIが間違えたのだ。

Politicoの報道によると、米下院立法顧問室（House Office of Legislative Counsel、略称OLC）は近ごろ、誤りだらけのAI生成法案の急増に悩まされている。ますます多くの議員事務所がChatGPTやClaudeといった一般公開のAIツールを使って法案提案を直接作成し、OLCに持ち込むようになった。その結果、用語の誤用や条文の引用ミスが相次ぎ、弁護士たちはゼロから書き直すよりも多くの時間を修正作業に費やす羽目になっている。

約10年にわたりOLCを率い、2024年に退任したWade Ballou氏は問題の核心を指摘する。AIは、ある資金を「税額控除」「税控除」「税免除」「補助金」のどれに分類すべきか判断できないのだという。この4つの言葉は法律上、まったく異なる執行方法を意味する。OLCと協力した経験のある別の弁護士もPoliticoに対し、AIが作成した草稿には過去の法規条文への誤った引用も見られると語った。

条文の誤りよりも厄介なのは、報道が指摘するもう一つの問題だ。議会スタッフがAIに提案書の作成を任せきりにすることで、「議題そのものを深く理解する」必要がなくなり、自分たちが提出した法案の内容にかえって疎くなっているという。

AI草稿の急増による業務量の爆発的増加に直面し、OLC内部の作業部会はAIの使用を禁止するのではなく、「Comparative Print Suite」と呼ばれるツールを開発した。これは、提案が現行法をどのように変更するかをスタッフが視覚的に把握できるよう支援するものだ。ChatGPTのような汎用ツールと異なる点は、提案の修正箇所をシステムが判断できない場合、もっともらしく見えるが実は捏造された内容を生成する代わりに、エラーを直接報告する仕組みになっていることだ。これにより、幻覚（ハルシネーション）による誤情報が正式な草案に紛れ込むのを防いでいる。