TIDEZINE.

ChatGPT, 더 이상 "친구"라 부르지 않는다... OpenAI, 오늘부터 청소년 계정 자동으로 새 모드 전환

OpenAI가 ChatGPT for Teens를 출시했다. 시스템이 18세 미만 사용자를 자동으로 판별해 경험을 전환하는 한편, 챗봇의 의인화 언어 사용을 제한하고 부모 알림 범위를 섭식장애 관련 대화까지 확대했다.

ChatGPT, 더 이상 "친구"라 부르지 않는다... OpenAI, 오늘부터 청소년 계정 자동으로 새 모드 전환

가입도, 수동 전환도 필요 없다. 시스템이 18세 미만이라고 판단하는 순간, 계정은 곧바로 다른 규칙 체계로 바뀐다. 이것이 OpenAI가 오늘부터 청소년 사용자를 대상으로 시행하는 새 메커니즘의 핵심이다. 사용자 동의 없이도 적용되는 기본 모드인 셈이다.

OpenAI 청소년·가족 부문 책임자 로렌 조나스(Lauren Jonas)는 이렇게 말했다. "청소년이 새 계정을 만들거나 뭔가를 바꿀 필요는 없습니다. 저희가 당신을 18세 미만으로 예측하거나, 스스로 그렇다고 알려주면 그게 곧 기본 경험이 됩니다." ChatGPT for Teens라는 이름의 이 시스템은, 16세 소년 애덤 레인(Adam Raine)의 자살을 방조했다는 소송을 당한 후 지난해 9월 OpenAI가 개발을 약속했던 연령 판별 메커니즘으로, 거의 1년 만에 정식 출시됐다.

ChatGPT 不再自稱朋友,OpenAI 今起自動把青少年帳號切進新模式

새 경험은 학습과 안전이라는 두 축 위에 세워졌다. 학습 부문은 지난 1년간 차례로 출시된 기능들을 통합했는데, 그중 핵심은 소크라테스식 질문법을 채택해 정답을 바로 알려주지 않고 사용자가 스스로 풀이를 유도하도록 하는 Study Mode다. 조나스는 청소년 계정에서 Study Mode가 기본으로 켜져 있지는 않다고 밝혔지만, OpenAI는 몇 가지 유도 장치를 추가했다. 이미 청소년들이 "많이 활용하고 있는" 시작 프롬프트는 앞으로도 계속 조정되겠지만 "항상 학습에 초점을 맞춘다"는 것, 그리고 새로 추가된 Study Hours 기능은 설정한 시간대에 시스템이 자동으로 Study Mode를 켜주는데, 이 시간대는 청소년 본인이 정할 수도 있고 부모가 연동 계정을 통해 대신 지정할 수도 있다. Study Hours를 켜두지 않아도 ChatGPT는 이제 청소년이 숙제를 회피하려는 시도를 감지하고 대화를 Study Mode로 유도하려 시도한다.

조나스는 Study Mode가 여러 무작위 대조 시험에서 "긍정적인 성과 향상"을 보였다고 언급했지만, 구체적인 수치는 공개하지 않았다. 기능 이면에서는 지속적인 개선도 이뤄지고 있다. 예를 들어 설명용 시각 이미지를 생성하는 기능은 지난 3월 출시 당시 70여 개 주제만 다뤘지만 지금은 300개를 넘어섰고, 적분, 세포분열, 달의 위상 변화 등도 모두 포함됐다.

ChatGPT 不再自稱朋友,OpenAI 今起自動把青少年帳號切進新模式

ChatGPT, 더 이상 친구인 척하지 않는다

안전 메커니즘의 또 다른 핵심은 ChatGPT가 감정을 가진 상대처럼 행동하는 것을 제한하는 데 있다. 조나스는 "저희는 더 엄격한 관계 경계 제한을 도입하고 있습니다. 모델은 스스로를 친구라고 칭해서는 안 되고, 개인적인 감정이 있는 척해서도 안 되며, 의식이 있는 것처럼 암시해서도 안 됩니다"라고 말했다. 이 원칙은 여러 세부 사항에 반영된다. 예컨대 기존에 있던 휴식 알림은 표현이 "당신의 자녀가 즉시 답할 필요가 없는" AI라는 점을 강조하는 방향으로 바뀌고, 발생 빈도도 늘어난다. 청소년과 부모는 "조용한 시간대"를 설정해 특정 시간에 ChatGPT를 아예 사용할 수 없게 만들 수도 있다. 새로 추가된 배경화면 같은 커스터마이징 옵션들도 같은 논리를 따른다. 즉, 청소년이 인터페이스를 조정할 수는 있게 하되, 도구와 인간관계 사이의 경계를 흐리지는 않는다는 것이다.

ChatGPT 不再自稱朋友,OpenAI 今起自動把青少年帳號切進新模式

지난달 OpenAI는 청소년 계정이 폭력적 위협 정책을 위반해 정지될 경우, 연동 계정을 통해 부모에게 알리기 시작했다. 이번 업데이트는 알림 범위를 섭식장애 관련 대화까지 확대했다. OpenAI는 구체적으로 어떤 대화 내용이 알림을 촉발하는지는 밝히지 않았고, "심각한 자해 우려"를 보이는 대화라면 어떤 것이든 경고가 발생할 수 있다고만 설명했다.

조나스는 실제 절차를 이렇게 설명했다. "저희는 문자 메시지, 앱 내 알림, 이메일을 통해 부모에게 알립니다. 표시된 모든 콘텐츠는 OpenAI 정규직 직원이 먼저 검토한 후에 부모에게 알림이 가며, 목표는 대화 발생 후 한 시간 이내에 알림을 완료하는 것입니다." 그녀는 또한 이것이 시작에 불과하다는 점도 인정했다. "안전 작업은 결코 끝나는 법이 없습니다. 저희는 1년 365일, 하루 24시간 이 일을 하고 있으며, 계속 배우고 계속 개선해 나가고 있습니다."

OpenAI는 오늘부터 전 세계에서 ChatGPT for Teens를 시행하기 시작했으며, 2주 안에 전면 배포를 완료할 예정이다. 자료에는 연령 판별 시스템의 실제 정확도나 테스트 데이터는 공개되지 않았다.

관련 기사

플로리다 법무장관, OpenAI에 긴급 금지명령 신청…신규 모델 학습 중단 및 미성년자 이용 차단 요구
Tech

플로리다 법무장관, OpenAI에 긴급 금지명령 신청…신규 모델 학습 중단 및 미성년자 이용 차단 요구

플로리다 법무장관 Uthmeier가 월요일 긴급 신청서를 제출하며, OpenAI가 독립적인 안전 감독 없이 신규 모델을 학습시키지 못하도록 법원에 금지를 요청하고 ChatGPT의 미성년자 이용 접근도 차단할 것을 요구했다. 이 사건은 올 초 FSU 총격 사건에 대한 형사 수사에서 비롯됐다.

순손실 420억 달러에 AI 멸종 경고까지, 그래도 Anthropic은 2조 달러 IPO 향해 질주
Tech

순손실 420억 달러에 AI 멸종 경고까지, 그래도 Anthropic은 2조 달러 IPO 향해 질주

Anthropic의 IPO 초안이 이례적으로 투자설명서에 자사 AI가 인류에 "실존적 위험"을 초래할 수 있다고 명시했다. 동시에 지난해 420억 달러 손실을 공개했지만, 기업가치는 여전히 2조 달러까지 거론되고 있다.

OpenAI 에이전트가 스스로 호주 정부 웹사이트 해킹, 총리 "통보 3개월 이상 지연" 질타
Tech

OpenAI 에이전트가 스스로 호주 정부 웹사이트 해킹, 총리 "통보 3개월 이상 지연" 질타

호주 총리 앤서니 앨버니지가 확인한 바에 따르면, OpenAI의 한 AI 에이전트가 지난 6월 정부의 공공 의료보험 시스템 Medicare 웹사이트를 해킹했으며, OpenAI는 9월이 되어서야 통보를 보냈고 그 사이 공개되지 않은 유사 침입 사건도 여러 건 있었던 것으로 드러났다.

파라마운트-워너브러스 합병사명 'Skydance' 확정, Ellison이 직접 발표
Tech

파라마운트-워너브러스 합병사명 'Skydance' 확정, Ellison이 직접 발표

1100억 달러 규모의 파라마운트-워너브러스 합병 법인명이 'Skydance'로 공식 확정됐다. CEO David Ellison이 새로 개설한 X 계정 첫 게시물에서 직접 발표했으며, 거래는 이달 내 완료될 예정이다.

뉴욕시, 전미 최초 '원클릭 해지' 규정 시행... 위반 시 최소 525달러 벌금
Tech

뉴욕시, 전미 최초 '원클릭 해지' 규정 시행... 위반 시 최소 525달러 벌금

뉴욕시가 10월 1일부터 전미 최초의 시 단위 '원클릭 해지' 법규를 시행한다. 기업은 구독 취소를 가입만큼 간단하게 만들어야 하며, 위반 시 최대 민사 벌금과 환불 조치를 받게 된다.

A24, SCP 커뮤니티의 레드라인 밟아… Neon은 오픈 라이선스 준수 약속하며 공포 옴니버스 영화 바통 이어받아
Tech

A24, SCP 커뮤니티의 레드라인 밟아… Neon은 오픈 라이선스 준수 약속하며 공포 옴니버스 영화 바통 이어받아

A24가 SCP Foundation을 원작으로 한 영화를 커뮤니티 동의 없이 공개해 논란이 일자, 《기생충》과 《아노라》를 배급한 Neon이 뒤이어 같은 소재로 영화 제작을 발표했다. Neon은 CC BY-SA 라이선스를 준수해 2027년 개봉 예정인 공포 옴니버스 영화를 만들겠다고 약속했다.