한 법안 초안에서 '주(州)'의 정의가 미국 50개 주만 포함하고, 워싱턴 D.C.와 부족 지역은 조문에서 통째로 빠져 있었다. 이건 정치적 힘겨루기가 아니라, AI가 그냥 틀린 것이다.
Politico 보도에 따르면 미국 하원 입법고문실(House Office of Legislative Counsel, 약칭 OLC)이 최근 오류투성이 AI 생성 법안으로 몸살을 앓고 있다. 점점 더 많은 의원실이 ChatGPT, Claude 같은 공개 AI 도구로 직접 법안 제안서를 작성해 OLC에 넘기는데, 용어를 잘못 쓰거나 인용 조항이 맞지 않아 변호사들이 처음부터 새로 쓰는 것보다 더 많은 시간을 들여 수정해야 하는 상황이다.
근 10년간 OLC를 이끌다 2024년 물러난 Wade Ballou는 문제의 핵심을 짚었다. AI는 특정 자금이 '세액공제(tax credit)'인지 '세금공제(tax deduction)'인지 '세금 제외(tax exclusion)'인지 아니면 '보조금(subsidy)'인지 구분하지 못한다는 것이다. 이 네 가지 용어는 법적으로 완전히 다른 집행 방식을 수반한다. OLC와 협업한 경험이 있는 또 다른 변호사는 Politico에 AI가 작성한 초안이 기존 법 조항을 잘못 인용하는 경우도 있다고 전했다.
조문 오류보다 더 골치 아픈 건 보도에서 언급된 또 다른 문제다. 국회 보좌진이 AI에 법안 작성을 맡기다 보니 '해당 사안을 깊이 이해할' 필요가 없어졌고, 결과적으로 자신들이 발의한 법안 내용에 오히려 점점 낯설어지고 있다는 것이다.
이렇게 폭증한 AI 초안 업무량에 맞서 OLC 내부 태스크포스는 AI 사용 금지 대신 'Comparative Print Suite'라는 도구를 개발했다. 이 도구는 법안 제안이 현행법을 어떻게 바꾸는지 보좌진이 시각적으로 파악하도록 돕는다. ChatGPT 같은 범용 도구와 다른 점은, 시스템이 제안의 수정 위치를 판단할 수 없을 때 그럴듯하지만 실제로는 지어낸 내용을 생성하는 대신 곧바로 오류를 알려준다는 것이다. 이를 통해 환각(hallucination) 콘텐츠가 정식 초안에 섞여 들어가는 것을 막는다.
