IT/과학
AI 오류·위험 국민이 직접 찾는다…‘AI 안전 지킴이’ 공식 출범
뉴스보이
2026.11.12. 13:41
뉴스보이
2026.11.12. 13:41
간단 요약
간단 요약
80명의 국민 모니터링단이 생성형 AI의 환각과 편향 등 4대 위험 요소를 상시 감시합니다.
제보된 오류는 기술 개선과 안전성 평가의 기초 자료로 활용되어 AI 생태계를 강화합니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
과학기술정보통신부와 인공지능안전연구소는 12일 서울 여의도 글래드 호텔에서 국민 참여형 모니터링단인 ‘AI 안전 지킴이’ 발대식을 열고 본격적인 상시 감시 체계를 가동했습니다.
이번에 선발된 80명의 지킴이는 10대부터 60대 이상까지 다양한 세대와 직군을 아우르며, 2026년 9월부터 2027년 8월까지 1년간 활동합니다. 이들은 생성형 AI의 4대 중점 위험 요소인 환각 현상, 편향과 차별, 보안 취약점, 기술적 결함을 집중적으로 살필 예정입니다.
국민 참여형 검증의 실효성은 이미 입증된 바 있습니다. 지난해 12월 진행된 ‘정보 오류 없는 찐 AI 챌린지’에서는 총 625건의 제보 중 464건이 실제 유효한 오류로 확인되었습니다.
지킴이들이 제보한 내용은 정확성과 위험도 등 유효성 검증을 거쳐 AI 안전성 평가와 위험 연구의 기초 자료로 활용됩니다. 정부와 연구소는 검증된 오류 사례를 관련 기업에 전달해 실질적인 기술 개선을 끌어낼 계획입니다. 엄열 과학기술정보통신부 인공지능정책실장은 “지킴이들이 찾아낸 오류 사례가 안전한 AI 생태계를 다지는 밑거름이 될 것”이라고 밝혔습니다.
