IT/과학
UNIST, 'AI에 백도어공격 방어 챌린지' 국제대회서 2위
뉴스보이
2026.03.30. 15:25
뉴스보이
2026.03.30. 15:25
간단 요약
간단 요약
UNIST 연구팀은 AI 모델 백도어 공격 방어 국제대회 '안티 배드'에서 2위를 차지했습니다.
모델 양자화, 병합, 이상치 탐지 등 범용적인 방어 기법을 제시했습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
울산과학기술원(UNIST) 연구팀이 인공지능(AI) 모델에 몰래 심어진 조작, 즉 '백도어 공격'을 막는 기술로 국제대회에서 2위를 차지했습니다.
UNIST 산업공학과·인공지능대학원 박새롬 교수와 인공지능대학원·전기전자공학과 윤성환 교수 공동 연구팀은 지난 3월 23일부터 25일까지 독일 뮌헨에서 열린 국제전기전자공학회(IEEE) '안티 배드(Anti BAD)' 챌린지에서 이 같은 성과를 거두었습니다. 이 대회 우승은 중국과학원(CAS)에 돌아갔습니다.
연구팀은 생성, 분류, 다국어 등 다양한 과제에 적용 가능한 범용 공격 완화 기법을 제시했습니다. 이 기법은 모델 양자화, 모델 병합, 이상치 매개변수 탐지, 과신뢰 방지를 결합한 전략입니다.
윤지은 산업공학과 석박사통합과정 연구원은 공격 데이터셋이나 방법에 대한 사전 정보 없이도 대규모 언어모델의 악의적 사용을 효과적으로 막을 수 있는 방어법 개발 가능성을 확인했다고 밝혔습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
