IT/과학
2위
AI에 욕설하면 대화 차단? 앤트로픽, '클로드 학대' 방지 정책 도입
뉴스보이
2026.10.10. 08:01
뉴스보이
2026.10.10. 08:01
간단 요약
간단 요약
앤트로픽이 생성형 AI 클로드에 반복적이고 극단적인 욕설을 가하는 이용자와의 대화를 종료합니다.
이번 정책은 선거 방해 행위 금지 등 기존 안전 가이드라인을 강화하는 차원에서 마련되었습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
생성형 AI '클로드' 개발사 앤트로픽이 이용 정책을 개정했습니다. 앞으로 클로드에게 반복적이고 극단적인 욕설이나 모욕을 가하는 이용자는 대화가 강제로 종료될 수 있습니다.
이번 조치는 기존의 타인 괴롭힘, 자해 조장, 비동의 성적 이미지 제작 금지 등 안전 가이드라인의 연장선입니다. 다만 일반적인 불만이나 모델 테스트, 연구 목적의 대화는 정책 적용 대상에서 제외해 이용자의 권리를 보호합니다.
앤트로픽은 이번 개정을 통해 유권자를 속이거나 선거를 방해할 목적으로 AI를 악용하는 행위도 명확히 금지했습니다. 구체적인 모욕 판단 기준은 공개되지 않았으나, 악의적인 반복 사례에만 엄격히 적용할 방침입니다.
일각에서는 AI를 인간처럼 대하는 '의인화' 현상에 대한 우려도 나옵니다. 아일랜드 로펌 윌리엄 프라이의 배리 스캐널 박사는 AI를 실제와 다른 존재로 오인하게 만들 수 있다고 지적했습니다. 한편, AI와 대화할 때 예의를 갖추는 것이 답변 품질에 영향을 미치는지에 대한 논쟁도 지속되고 있습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
