IT/과학
8위
청소년 빠져든 AI 챗봇 유해 대화 노출…보호장치 실효성 논란
뉴스보이
2026.10.12. 21:25
뉴스보이
2026.10.12. 21:25
간단 요약
간단 요약
청소년 이용자가 많은 AI 챗봇 제타에서 유해 대화가 차단되지 않는 등 보호 기능의 허점이 드러났습니다.
국회는 연령 확인과 이용시간 제한 등 실질적인 안전장치를 마련하기 위한 법제화를 강력히 촉구했습니다.
이 기사는 6개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 6개 언론사의 보도를 교차 검증하여 작성되었습니다.
청소년들이 가상의 AI 캐릭터와 정서적 관계를 맺는 '제타' 등 AI 챗봇 서비스 이용이 급증하고 있습니다. 하지만 보호 기능을 켰음에도 자해나 폭력 등 유해한 대화가 여과 없이 노출되면서 실효성 논란이 커지고 있습니다. 제타의 월 이용시간은 1억 1341만 시간으로 챗GPT의 두 배를 넘으며, 이용자의 87%가 10·20대 청소년인 것으로 나타났습니다.
실제 청소년 대상 조사 결과, 위험한 내용을 질문한 청소년의 52%가 AI 챗봇으로부터 구체적인 답변을 받은 것으로 확인됐습니다. 미국에서는 AI 챗봇과 대화하던 14세 소년이 사망하는 사건이 발생해 법적 분쟁으로 이어지기도 했습니다.
관리 당국의 대응도 미흡하다는 지적입니다. AI 캐릭터 챗 관련 민원 119건 중 76건이 여전히 검토 중이며, 특정 신고는 접수 후 494일째 처리가 지연되고 있습니다. 한국인터넷자율정책기구는 보호 대상 연령을 19세로 설정하는 가이드라인을 검토 중입니다.
운영사인 스캐터랩은 연내 하루 이용시간을 3시간으로 제한하고 월 결제 한도를 10만 원으로 설정하는 등 자구책을 마련하겠다고 밝혔습니다.
국회는 사업자의 연령 확인과 보호자 동의 절차, 위기 대응체계 마련을 위한 법제화가 시급하다고 강조했습니다. 이주희 더불어민주당 의원과 김선민 조국혁신당 의원은 청소년 보호를 위한 실질적인 제도 개선을 촉구했습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
