가입도, 수동 전환도 필요 없다. 시스템이 18세 미만이라고 판단하는 순간, 계정은 곧바로 다른 규칙 체계로 바뀐다. 이것이 OpenAI가 오늘부터 청소년 사용자를 대상으로 시행하는 새 메커니즘의 핵심이다. 사용자 동의 없이도 적용되는 기본 모드인 셈이다.
OpenAI 청소년·가족 부문 책임자 로렌 조나스(Lauren Jonas)는 이렇게 말했다. "청소년이 새 계정을 만들거나 뭔가를 바꿀 필요는 없습니다. 저희가 당신을 18세 미만으로 예측하거나, 스스로 그렇다고 알려주면 그게 곧 기본 경험이 됩니다." ChatGPT for Teens라는 이름의 이 시스템은, 16세 소년 애덤 레인(Adam Raine)의 자살을 방조했다는 소송을 당한 후 지난해 9월 OpenAI가 개발을 약속했던 연령 판별 메커니즘으로, 거의 1년 만에 정식 출시됐다.
새 경험은 학습과 안전이라는 두 축 위에 세워졌다. 학습 부문은 지난 1년간 차례로 출시된 기능들을 통합했는데, 그중 핵심은 소크라테스식 질문법을 채택해 정답을 바로 알려주지 않고 사용자가 스스로 풀이를 유도하도록 하는 Study Mode다. 조나스는 청소년 계정에서 Study Mode가 기본으로 켜져 있지는 않다고 밝혔지만, OpenAI는 몇 가지 유도 장치를 추가했다. 이미 청소년들이 "많이 활용하고 있는" 시작 프롬프트는 앞으로도 계속 조정되겠지만 "항상 학습에 초점을 맞춘다"는 것, 그리고 새로 추가된 Study Hours 기능은 설정한 시간대에 시스템이 자동으로 Study Mode를 켜주는데, 이 시간대는 청소년 본인이 정할 수도 있고 부모가 연동 계정을 통해 대신 지정할 수도 있다. Study Hours를 켜두지 않아도 ChatGPT는 이제 청소년이 숙제를 회피하려는 시도를 감지하고 대화를 Study Mode로 유도하려 시도한다.
조나스는 Study Mode가 여러 무작위 대조 시험에서 "긍정적인 성과 향상"을 보였다고 언급했지만, 구체적인 수치는 공개하지 않았다. 기능 이면에서는 지속적인 개선도 이뤄지고 있다. 예를 들어 설명용 시각 이미지를 생성하는 기능은 지난 3월 출시 당시 70여 개 주제만 다뤘지만 지금은 300개를 넘어섰고, 적분, 세포분열, 달의 위상 변화 등도 모두 포함됐다.
ChatGPT, 더 이상 친구인 척하지 않는다
안전 메커니즘의 또 다른 핵심은 ChatGPT가 감정을 가진 상대처럼 행동하는 것을 제한하는 데 있다. 조나스는 "저희는 더 엄격한 관계 경계 제한을 도입하고 있습니다. 모델은 스스로를 친구라고 칭해서는 안 되고, 개인적인 감정이 있는 척해서도 안 되며, 의식이 있는 것처럼 암시해서도 안 됩니다"라고 말했다. 이 원칙은 여러 세부 사항에 반영된다. 예컨대 기존에 있던 휴식 알림은 표현이 "당신의 자녀가 즉시 답할 필요가 없는" AI라는 점을 강조하는 방향으로 바뀌고, 발생 빈도도 늘어난다. 청소년과 부모는 "조용한 시간대"를 설정해 특정 시간에 ChatGPT를 아예 사용할 수 없게 만들 수도 있다. 새로 추가된 배경화면 같은 커스터마이징 옵션들도 같은 논리를 따른다. 즉, 청소년이 인터페이스를 조정할 수는 있게 하되, 도구와 인간관계 사이의 경계를 흐리지는 않는다는 것이다.
지난달 OpenAI는 청소년 계정이 폭력적 위협 정책을 위반해 정지될 경우, 연동 계정을 통해 부모에게 알리기 시작했다. 이번 업데이트는 알림 범위를 섭식장애 관련 대화까지 확대했다. OpenAI는 구체적으로 어떤 대화 내용이 알림을 촉발하는지는 밝히지 않았고, "심각한 자해 우려"를 보이는 대화라면 어떤 것이든 경고가 발생할 수 있다고만 설명했다.
조나스는 실제 절차를 이렇게 설명했다. "저희는 문자 메시지, 앱 내 알림, 이메일을 통해 부모에게 알립니다. 표시된 모든 콘텐츠는 OpenAI 정규직 직원이 먼저 검토한 후에 부모에게 알림이 가며, 목표는 대화 발생 후 한 시간 이내에 알림을 완료하는 것입니다." 그녀는 또한 이것이 시작에 불과하다는 점도 인정했다. "안전 작업은 결코 끝나는 법이 없습니다. 저희는 1년 365일, 하루 24시간 이 일을 하고 있으며, 계속 배우고 계속 개선해 나가고 있습니다."
OpenAI는 오늘부터 전 세계에서 ChatGPT for Teens를 시행하기 시작했으며, 2주 안에 전면 배포를 완료할 예정이다. 자료에는 연령 판별 시스템의 실제 정확도나 테스트 데이터는 공개되지 않았다.
