챗GPT 개발사 오픈AI가 이용자의 사용 패턴을 분석해 연령을 추정하고, 미성년자로 판단될 경우 컨텐츠 접근을 제한하는 보호 장치를 본격 도입한다.

오픈AI는 20일 자사 블로그를 통해 “챗GPT에 연령 예측(age prediction) 기능을 가동해 계정 소유자가 18세 미만일 가능성을 판단하고, 청소년에게 보다 적합한 이용 환경과 보호 장치를 적용할 것”이라고 밝혔다.

회사 측에 따르면 새로 도입된 연령 예측 모델은 계정 생성 시점, 이용자의 일반적인 접속 시간대, 시간 흐름에 따른 사용 패턴 등을 종합적으로 분석해 이용자가 18세 미만인지 여부를 판단한다.

연령 예측 결과 미성년자로 추정될 경우, 챗GPT는 민감하거나 유해한 컨텐츠 노출을 줄이기 위한 추가 보호 장치를 자동으로 적용한다. 이에 따라 폭력적이거나 잔혹한 묘사, 미성년자에게 위험한 행동을 조장할 수 있는 유행성 ‘챌린지’, 성적·폭력적 역할극, 자해 묘사, 극단적인 미적 기준, 건강에 해로운 다이어트, 신체 비하를 부추기는 컨텐츠 등의 접근이 제한된다.

오픈AI는 이러한 조치가 전문가 의견과 아동 발달 과학 관련 학술 연구를 바탕으로 마련됐으며, 청소년의 위험 인식 능력과 충동 조절, 또래 영향, 감정 조절 능력이 성인과 다르다는 점을 고려했다고 설명했다.

다만 연령 예측 모델로 인해 18세 미만으로 잘못 분류된 이용자의 경우, 신원 확인 서비스인 ‘페르소나(Persona)’를 통해 실제 연령을 확인하면 제한이 해제되고 정상적인 이용 권한을 회복할 수 있도록 했다.

한편 오픈AI는 앞서 일부 청소년 이용자들이 챗GPT와의 대화 이후 망상이나 우울 증상을 겪다 극단적인 선택에 이르렀다는 주장과 관련해 유가족들로부터 소송을 당한 바 있어, 이번 조치는 미성년자 보호 강화를 위한 대응 차원이라는 분석이 나온다.