사회
"AI 속이는 가짜 데이터 잡아낸다" 단국대, 서울시립대와 AI 판단 신뢰성 높이는 보안 기술 개발
뉴스보이
2026.04.20. 16:28
뉴스보이
2026.04.20. 16:28
간단 요약
간단 요약
인식 어려운 미세 변형 데이터로 AI를 속이는 '적대적 공격'을 방어합니다.
여러 이미지 동시 분석으로 AI 스스로 데이터를 보정하는 기술입니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
단국대학교 김선오 컴퓨터공학과 교수팀이 서울시립대 엄대호 교수팀과 공동으로 인공지능(AI)의 신뢰도를 높이는 기술을 개발했습니다.
연구팀은 AI의 판단을 흐리게 하는 '적대적 공격'을 효과적으로 방어하는 기술을 선보였습니다. 적대적 공격은 사람이 인지하기 어려운 미세한 변형을 이미지나 데이터에 가해 AI가 대상을 다르게 인식하게 만드는 것입니다. 이는 자율주행, 보안, 의료 기술 등 높은 신뢰성이 요구되는 분야에서 심각한 위험 요소로 지적되어 왔습니다.
이번에 제안된 'MAC(Multi View Guided Adaptive Counterattack)' 기법은 여러 이미지를 동시에 분석하여 변형 정도를 추정하고 결과를 보정합니다. 이 기술은 기존 AI 모델을 재학습하지 않고도 추론 단계에서 바로 적용 가능한 것이 특징입니다.
김선오 교수는 AI가 입력된 데이터를 다양한 시각에서 재검증하고 스스로 보정하도록 설계한 것이 핵심이라고 밝혔습니다. 이 연구 성과는 오는 6월 컴퓨터 분야 최고 권위의 국제 학술대회(CVPR)에서 발표될 예정입니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
