과학기술정보통신부(장관 배경훈)는 23일 여성가족부와 함께 AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입에 착수했다고 밝혔다.
이날 과기정통부는 여성가족부와 공동 추진하는 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템’ 사업의 착수보고회를 23일 세종청사에서 개최했다.
해당 과제는 인공지능(AI), 빅데이터, 클라우드 등 디지털 신기술을 공공 서비스에 적용해 사회 문제를 해결하려는 '디지털 기반 사회현안 해결 프로젝트'의 일환으로, 최근 딥페이크 등 디지털 성범죄가 심각한 사회 문제로 떠오른 가운데 지정 공모를 통해 선정됐다.
기존에는 한국여성인권진흥원 담당자가 키워드를 중심으로 수작업 검색을 통해 성착취물을 탐지하고, 플랫폼사에 개별적으로 삭제를 요청하는 방식이었다.
이번 사업에서는 자가학습형 AI 시스템을 도입해 24시간 365일 실시간 감시 체계를 구축한다.
AI 알고리즘은 성착취 관련 키워드 및 이미지의 유해성을 분석해 의심 게시물을 탐지하고, 위험도에 따라 검토 대기열을 구성해 체계적인 판단과 삭제 요청이 이뤄지도록 한다.
또한 신고·삭제 지원 API를 활용해 플랫폼사에 신속하게 삭제를 요청하고, 그 처리 내역을 체계적으로 관리할 수 있도록 했다.
공동주관기관인 한국여성인권진흥원(원장 신보라)은 피해자 보호 전문성을 바탕으로, 플랫폼 내 상담 연계와 피해 대응 체계를 설계하는 역할을 맡는다.
과기정통부는 이번 사업을 통해 AI 기반 자동 모니터링, 신고·삭제 지원 자동화, 피해자 보호 연계 등 통합 시스템을 구축하고, 이를 통해 보다 체계적이고 지속 가능한 디지털 성범죄 대응 모델을 만들겠다고 밝혔다.
착수보고회에는 과기정통부, 여성가족부, 한국지능정보사회진흥원, 수행 기업 등이 참여해 기관 간 협업 방안을 논의하고, 사회적 약자 대상 디지털 범죄에 대한 선제적 대응 역량을 강화하기로 했다.
과기정통부 관계자는 “앞으로도 AI 등 디지털 기술을 공공 서비스에 적극 접목해 국민이 체감할 수 있는 디지털 안전망을 강화하고 사회적 약자를 보호하는 데 앞장설 것”이라고 밝혔다.
아주경제=최연재 기자 ch0221@ajunews.com
<본 콘텐츠의 저작권 및 법적 책임은 아주경제(www.ajunews.com)에 있으며, 뽐뿌는 제휴를 통해 제공하고 있습니다.>
불법촬영물 신고
