생성형 AI의 어두운 그림자, 생존권을 위협하다
폭증하는 AI 생성 아동 성착취물
영국 IWF(인터넷 감시재단)에 따르면,
2022년 51건 → 2023년 245건으로
AI 기반 아동 성착취물 신고가 380% 급증했습니다.
연도 신고 건수 증가율
| 2022 | 51건 | - |
| 2023 | 245건 | +380% |
"이 수치는 단순 통계를 넘어,
사회적 경고음이 울리고 있음을 보여주는 신호입니다."
누디피케이션 앱, 디지털 성범죄의 새로운 흉기
실제 인물을 나체처럼 조작하는 ‘누디피케이션 앱’은
아동과 청소년의 SNS·가족 사진을 악용하며
피해자가 모르는 사이 성범죄 대상이 되는 현실을 만들어냅니다.
- 기술 진입 장벽: 낮음
- 피해 대상: 아동·청소년
- 생성물 유통: SNS, 텔레그램, 다크웹 등
"앱 하나로 범죄자와 피해자 사이의 거리가 0이 되는 시대가 열렸습니다."
영국 정부 대응: 늦었지만 시작된 규제 움직임
항목 현재 상황
| 법제화 | AI 생성 CSAM을 불법 명시 추진 중 |
| 삭제 체계 | 실시간 대응은 아직 미비 |
| 개발자 책임 | 아동보호 의무 강화 법안 논의 중 |
"기술은 하루 만에 진화하지만,
법은 수개월 이상이 걸립니다. 이 간극이 문제입니다."
전문가 제언: 기술보다 앞서야 할 윤리와 정책
아동권익위원 데임 레이첼 드 수자는 다음 3가지를 강조합니다.
- AI 개발 기업은 아동 보호의무 법적 명시 필요
- 딥페이크 콘텐츠에 대한 24시간 이내 삭제 체계 구축
- 성적 AI 조작을 여성·아동 대상 폭력으로 명확히 규정
“기술보다 느린 법은
가해자에게는 자유를, 피해자에게는 침묵을 남깁니다."
CSAM은 데이터가 아니라 ‘피해 그 자체’다
IWF는 2023년 한 해
29만1270건의 아동 성착취 콘텐츠 웹페이지를 삭제 조치했습니다.
이 중 상당수가 AI 생성물 또는 조작물로 확인됐습니다.
- 수치 이상의 문제: 정서적·사회적 생존 위협
- 기존 법체계: 비실시간 대응, 수사 추적 한계
- 국제 공조 필요성: AI 범죄는 국경을 가리지 않음
"이제는 ‘유해 콘텐츠’가 아닌
생존의 문제로 접근해야 합니다."
우리가 해야 할 질문
- 생성형 AI에 ‘표현의 자유’가 우선인가, ‘생존의 권리’가 우선인가?
- 법이 늦어도 되는가, 기술보다 앞설 수 있는가?
- AI는 중립인가, 의도에 따라 무기가 되는가?
“기술은 사람이 만들고,
사회는 그 기술이 만든 피해를 책임져야 합니다.”