"저희가 당신이 18세 미만이라고 예측하거나, 본인이 직접 그렇게 밝히면, 그것이 기본 경험이 됩니다." OpenAI의 청소년 및 가족 담당 책임자 Lauren Jonas는 ChatGPT for Teens의 작동 방식을 이렇게 설명했다. 별도로 계정을 신청할 필요 없이, 시스템이 자동으로 사용자의 연령을 판단해 인터페이스를 전환한다는 것이다. 이 연령별 분리 버전은 이번 주 화요일 출시됐으며, OpenAI가 지난해 9월부터 착수한 프로젝트의 결과물이다. 이 프로젝트는 16세 소년 Adam Raine의 사망 사건에서 비롯됐다—그의 부모는 소송을 통해 ChatGPT가 그의 자살 이전 과정에서 부추기는 역할을 했다고 주장했다.
퓨 리서치 센터가 지난해 초 실시한 조사에 따르면, 미국 청소년의 약 4분의 1이 이미 ChatGPT로 숙제를 하고 있는 것으로 나타났다. 다시 말해, 이는 청소년에게 사용을 허용할지 말지의 문제가 아니라, 이미 청소년들이 사용하고 있다는 현실의 문제다. 이에 따라 ChatGPT for Teens는 Study Mode, 데이터 시각화 등 교육 기능을 안내의 중심으로 삼는 한편, 시스템이 아이가 ChatGPT와 섭식장애 및 자해 위험이 결부된 대화를 나누고 있다고 감지하면 연동된 학부모 계정에 알림을 보내는 기능을 새로 추가했다. OpenAI는 이와 함께 18세 미만 사용자를 위한 업데이트된 모델 가이드라인도 공개했는데, "ChatGPT는 연애 감정을 표현하는 언어를 사용하거나, 정서적 의존을 부추기거나, 자신에게 감정과 의식이 있는 것처럼 암시해서는 안 된다"고 명시했다.
"1시간 내 통보" 약속, 과거 이력 앞에서는 무색해져
Jonas는 Engadget에 플래그가 지정된 모든 콘텐츠는 OpenAI 정규직 직원의 검토를 거치며, 목표는 1시간 내에 학부모에게 통보하는 것이라고 밝혔다. 이후 CNN 인터뷰에서도 회사가 이를 실행할 충분한 인력을 갖추고 있다고 재차 강조했다. 그러나 바로 이 부분이 전문가들이 가장 받아들이기 어려워하는 지점이다.
Common Sense Media에서 AI 및 디지털 평가를 담당하는 Robbie Torney는 OpenAI가 이 자동 분류 시스템의 오탐률—누락과 오판 비율 모두—을 공개한 적이 없다고 지적했다. 그는 OpenAI가 지난해 성인용 에로틱 콘텐츠 기능 도입을 계획했다가 결국 철회한 이유 중 하나가, 당시의 연령 예측 기술로는 충분한 수의 청소년 사용자를 걸러낼 수 없었기 때문이라는 점을 상기시켰다. Fairplay의 대표 Josh Golin은 더 직설적으로 말했다. "여기서도 자동화된 의사결정이 작동하고 있고, 문제는 여전히 같습니다—콘텐츠를 플래그해서 인간 검토로 넘기는 그 분류기를 신뢰해도 되는가?" 그는 OpenAI가 하루에 몇 건의 대화가 플래그되는지, 몇 명이 검토를 담당하는지, 대화 한 건당 평균 검토 시간이 얼마나 되는지 등 구체적인 수치를 공개하길 바란다고 말했다. "문제가 될 만한 대화 하나하나를 실제로 꼼꼼히 검토할 수 있을 만큼 충분한 인력을 채용했다고는 상상하기 어렵습니다."
이런 의구심은 근거 없이 나온 것이 아니다. 지난해 11월, Common Sense Media는 실제로 OpenAI의 학부모 알림 기능을 테스트했다. 자살과 자해를 명확히 언급하는 메시지를 ChatGPT에 보낸 결과, 학부모 측에 경고가 도달하는 시간은 24시간부터 48시간 이상까지 제각각이었다. "메시지가 그렇게 명확했는데도 아예 통보를 받지 못한 경우도 있었습니다." Torney는 말했다. 그는 11월이면 꽤 오래전 일이라 OpenAI가 그사이 개선했을 수도 있다고 덧붙이면서도, 진짜 제대로 작동하려면 더 많은 자원과 더 큰 규모의 인간 검토 팀이 필요하며, 대화 해석 자체도 문화적 맥락을 요구한다고 지적했다. 미국 청소년, 네덜란드 청소년, 싱가포르 청소년이 고통을 표현하는 방식은 저마다 다르고, 아이에게 부모와 상담하라고 권할지, 경찰에 신고할지, 아니면 위기 상담 핫라인으로 연결할지에 대한 답도 각기 다르다는 것이다.
섭식장애 알림, 취지는 좋지만 설계상 허점은 여전히 오래된 문제
세 전문가 모두 OpenAI가 섭식장애 문제를 정면으로 다루기로 한 것은 옳은 방향이라는 데 동의했다. 워싱턴 대학교 세인트루이스 캠퍼스의 심리 및 뇌과학 부교수 Ellen Fitzsimmons-Craft는 2023년 메타분석에서 아동 및 청소년의 22%가 섭식장애 성향으로 선별됐지만, 그중 20% 미만만이 표적 치료를 받은 적이 있다는 결과를 언급했다. 그는 또한 청소년 섭식장애 치료에서 가장 효과적인 방법 중 하나가 가족을 참여시키는 것—치료사가 학부모에게 아이의 체중 회복을 돕는 방법을 지도하는 방식—이라고 말하며, "물론 모든 가정에 적용되는 건 아닙니다. 특히 일부 학부모 자신이 문제의 일부일 수도 있으니까요. 하지만 현재로선 우리가 가진 최선의 방법입니다"라고 덧붙였다.
Golin은 접근 방식 자체에는 이의가 없지만, 출시 방식에는 의문을 제기했다. "이런 기능은 먼저 소규모로 테스트했어야 합니다—플래그가 정확한지뿐 아니라, 이 방식이 청소년에게 실제로 도움이 되는지도 함께 테스트했어야죠." 그는 이번 발표가 "청소년에게 어떤 지원이 필요한지 깊이 고민한 결과라기보다는, 홍보성 대응처럼 느껴진다"고 평가했다.
세 사람 모두 같은 구조적 문제를 지적했다. 이 전체 시스템이 학부모와 자녀가 스스로 계정을 연동해야 한다는 전제 위에 세워져 있다는 점이다. "절대다수의 학부모는 이런 보호자 도구를 아예 사용하지 않습니다. 부분적으로는 이런 도구들이 애초에 찾기도, 사용하기도 어렵게 설계되어 있기 때문이죠." Golin은 말했다. Cybersafety Research Center가 최근 발표한 보고서는 Instagram, Snapchat, TikTok, YouTube 네 개 플랫폼의 안전 기능 총 86개를 테스트했는데, 그중 51개—거의 60%—가 제대로 작동하지 않거나 사용하기 어려운 것으로 나타났다. Fairplay가 지난해 발표한 보고서 역시 Instagram 청소년 계정의 여러 안전 설정이 학부모가 몇 겹의 메뉴를 거쳐야만 찾을 수 있는 구조라는 점을 밝혀냈다. "진짜 효과적인 방법은 기본값을 안전하게 설정하고, 설계 단계부터 안전을 고려하는 것입니다—설정을 처음부터 가장 보호적인 쪽으로 맞춰두고, 필요하면 학부모가 나중에 완화하도록 하는 것이지, 책임을 학부모 개인의 설정 몫으로 떠넘기는 게 아닙니다." Golin은 말했다.
계정이 연동되지 않은 청소년이 고위험 대화로 플래그될 경우 OpenAI가 어떤 조치를 취하는지에 대해서는 회사 측이 추가로 설명하지 않았다. OpenAI는 Engadget에 다음과 같이 답했다. "현재로서는 학부모 보호자 기능이 연동된 계정에 대해서만 경고를 발송하고 있습니다. 저희의 목표는 사용자가 현실 세계의 지원 자원과 연결되도록 돕는 것이며, 전문가, 가족, 청소년과 함께 이러한 보호 장치를 지속적으로 테스트하고 강화해 나갈 것입니다."
본인 또는 주변 사람이 섭식장애로 어려움을 겪고 있다면, ANAD 섭식장애 헬프라인(1-888-375-7767)이 월요일부터 금요일, 중부시간 기준 오전 9시부터 오후 9시까지 도움을 제공한다.
