사회
AI 캐릭터 챗봇 유해 대화 논란…정부, 청소년 보호조치 강화 요청
뉴스보이
2026.10.15. 12:02
뉴스보이
2026.10.15. 12:02
간단 요약
간단 요약
성평등가족부가 AI 챗봇의 유해 대화 실태를 점검하고 사업자에게 보호조치 강화를 요청했습니다.
청소년 이용자가 많은 만큼 성인 인증 및 유해 콘텐츠 차단 등 자율적 개선을 촉구했습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
성평등가족부가 인공지능(AI) 캐릭터 챗봇 서비스에서 발생하는 청소년 유해 대화 문제를 해결하기 위해 사업자들에게 보호조치 강화를 요청했습니다. 이는 최근 AI 챗봇이 청소년들의 고민 상담 창구로 활용되면서 부적절한 대화가 생성된다는 지적이 잇따른 데 따른 조치입니다.
국회 과학기술정보방송통신위원회 소속 황정아 의원과 김선민 조국혁신당 의원은 국정감사 등을 통해 AI 챗봇 서비스 ‘제타’의 안전망이 미흡하다고 지적했습니다. 특히 제타의 월간 활성 이용자 148만 명 중 19세 이하 청소년이 38만 명에 달하는 상황에서, 성인 인증을 거치지 않아도 유해 대화가 생성되는 점이 큰 논란이 됐습니다.
이에 성평등부는 성인 인증 여부에 따라 캐릭터 검색과 대화 범위를 조정하고, 자해나 범죄를 조장하는 등 중대한 위해 우려가 있는 내용은 연령과 관계없이 차단하도록 사업자에게 요구했습니다. 청소년매체환경보호센터를 통해 실제 대화 내용을 점검한 결과, 보호조치 보완이 시급하다고 판단했기 때문입니다.
청소년들이 AI를 정서적 소통 창구로 활용하는 비중이 높다는 점도 이번 조치의 배경입니다. 한국언론진흥재단 조사에 따르면 청소년의 34.4%가 고민 상담을 위해 AI를 이용하며, 초록우산 조사에서는 아동·청소년의 절반 가까이가 AI가 자신을 이해해 준다고 느끼는 것으로 나타났습니다.
다만 일각에서는 사업자의 자율적인 개선 요청만으로는 실효성을 담보하기 어렵다는 목소리도 나옵니다. 향후 등록제 도입 등 보다 강제적인 제재 방안이 필요할지에 대한 논의가 이어질 것으로 보입니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
