챗GPT 가이드

챗GPT 24시간 이용 정지 기준|아동 성착취물 요청 시 경고·대화 삭제, 반복하면 계정 해지 (2026년 11월)

결론부터: 챗GPT에서 아동 성착취물을 찾거나 만들려고 하면 이제 경고와 함께 대화가 지워지고 24시간 동안 챗GPT를 쓸 수 없습니다. 반복하면 계정 해지와 수사기관 신고까지 갈 수 있습니다.

거실 소파에서 가족이 쓰는 태블릿의 보호 설정 화면을 확인하는 여성을 AI로 표현한 예시 이미지

오픈AI가 11월 16일(현지) 아동 성착취물(CSAM) 대응을 강화했습니다. 챗GPT 안의 새 경고·정지 조치와 함께, AI로 만든 이미지까지 찾아내는 탐지 도구를 다른 기관에 무료로 내놨어요.

목차 (4)

부모나 선생님이 알아 둘 규칙과, 이번에 공개된 도구가 무엇인지 나눠 정리했습니다.

관련 글: AI 목소리 보이스피싱 막는 방법


1. 챗GPT에서 바뀐 규칙

단계 조치
시도 감지 경고 메시지 표시 (AI 생성물이라도 아동을 성적으로 다루면 해롭다는 내용)
즉시 해당 대화 삭제, 24시간 챗GPT 이용 정지
함께 해로운 행동을 멈추도록 돕는 전문 지원 안내
반복 위반 더 긴 이용 제한 → 계정 해지 또는 수사기관 신고

이 경고 방식은 아동 성범죄 예방 단체와 연구자들의 의견을 받아 만들었다고 합니다. 처벌만이 아니라, 행동을 멈추게 하는 안내를 함께 띄운다는 점이 특징이에요.

챗GPT 아동 성착취물 대응 단계, 시도 감지 시 경고, 대화 삭제와 24시간 이용 정지, 전문 지원 안내, 반복 시 계정 해지와 수사기관 신고


2. 함께 공개된 탐지 도구

오픈AI는 아동 성착취물을 찾아내는 새 이미지 분류기도 공개했습니다.

  • AI 생성물 여부까지 표시: 널리 쓸 수 있는 탐지 도구 가운데 AI로 만든 것인지 따로 신호를 주는 첫 도구라고 밝혔습니다.
  • 무료 제공: 검증된 기관에 OpenAI API로 무료로 줍니다. 아동 보호 단체, 플랫폼 운영사 등이 대상이에요.
  • 검토 부담 감소: 기존 도구와 비교해 찾아내는 양은 비슷하면서 검토할 이미지를 48% 줄였다고 합니다.

미국 실종·착취아동센터(NCMEC)의 도움을 받아 만들었고, 수사관을 지원하는 도구와 개발자용 안전 지침도 함께 내놨습니다.


3. 부모와 선생님이 할 일

이번 조치는 성인 사용자의 범죄 시도를 막는 장치입니다. 아이를 지키는 건 여전히 가정과 학교의 몫이 커요.

  • 아이가 쓰는 AI 앱은 연령 기준과 보호자 기능이 있는지 먼저 확인합니다.
  • 아이 사진을 공개 계정이나 낯선 AI 서비스에 올리지 않습니다. 합성 피해는 공개 사진에서 시작되는 경우가 많습니다.
  • 피해를 알게 되면 증거를 지우지 말고 경찰(112)이나 디지털성범죄피해자지원센터에 바로 알립니다.

AI 캐릭터 채팅 앱의 청소년 보호 기능은 제타 청소년 보호 강화 정리에서 따로 다뤘습니다.


마무리

11월 17일 기준으로 확인한 오픈AI 발표의 핵심은 '시도 즉시 24시간 정지, 반복하면 해지·신고'입니다. AI 생성 이미지라도 예외가 없다는 점을 분명히 했고, 다른 기관이 쓸 수 있는 탐지 도구도 무료로 풀었습니다.

함께 보면 좋은 글: AI 쇼핑 추천 가짜 사이트 주의

자료: OpenAI, Strengthening the fight against online child sexual abuse (2026년 11월 16일), AI타임스 2026년 11월 17일.

자주 묻는 질문

챗GPT 24시간 이용 정지는 어떤 경우에 걸리나요?
오픈AI 발표에 따르면 아동 성착취물을 찾거나 만들려는 시도를 챗GPT가 감지했을 때입니다. 경고 메시지를 띄우고 해당 대화를 지운 뒤 24시간 동안 챗GPT 이용을 멈춥니다. AI로 만든 이미지라도 아동을 성적으로 다루면 해롭다는 점을 경고에서 분명히 밝힙니다.
반복하면 어떻게 되나요?
반복 위반은 더 긴 이용 제한으로 이어지고, 결국 계정 해지나 수사기관 신고까지 갈 수 있다고 오픈AI가 밝혔습니다.
일반적인 계정 정지와 다른가요?
이번 조치는 아동 성착취물 관련 시도에 맞춘 것입니다. 경고와 함께 해로운 행동을 멈추도록 돕는 전문 지원 안내를 보여 준다는 점이 다릅니다. 다른 정책 위반에 따른 계정 조치는 기존 이용 정책을 따릅니다.

이 글은 공개 자료를 바탕으로 AI 도구를 활용해 초안을 만들고, AGPTEDU 편집부가 사실을 확인해 다듬었습니다.