사회
GIST, 자율주행 AI 시각 인식 오류 유도하는 'LSAA' 기술 개발
뉴스보이
2026.10.20. 14:57
뉴스보이
2026.10.20. 14:57
간단 요약
간단 요약
잠재 공간 정보를 분석해 AI의 사물 인식 오류를 효과적으로 유도하는 기술입니다.
도심 주행 영상에서 인식 정확도를 0.41%까지 급감시키며 취약점 진단 성능을 입증했습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
광주과학기술원(GIST) AI학과 김승준 교수 연구팀이 인공지능(AI)의 시각 인식 취약점을 정밀하게 찾아내는 새로운 적대적 공격 기법 'LSAA(Latent Space Aware Adversarial Attack)'를 개발했다고 20일 밝혔습니다. 이번 연구는 김광빈 박사과정생이 제1저자로 참여했으며, 과학기술정보통신부와 국토교통부의 지원을 받아 수행됐습니다.
LSAA는 AI가 학습 과정에서 사물의 특징을 수치화해 정렬하는 내부 공간인 '잠재 공간(Latent Space)'을 활용합니다. 연구팀은 특징이 비슷하게 표현되는 대상은 AI가 서로 혼동할 가능성이 크다는 점에 착안했습니다. 특히 영상에 변화를 가할 때마다 혼동하기 쉬운 대상을 실시간으로 다시 선택해 공격 방향을 조정하는 방식을 채택했습니다.
기술의 성능은 도심 주행 영상 실험에서 입증됐습니다. 정상 상태에서 68.35%였던 AI의 사물 영역 일치도(mIoU)는 LSAA 공격 적용 시 0.41%로 급감했습니다. 이는 기존 공격 기법의 결과인 2.04%보다 훨씬 낮은 수치로, AI의 인식 오류를 유도하는 능력이 탁월함을 보여줍니다. 이번 연구 결과는 최근 미국 피츠버그에서 열린 로봇 분야 최고 권위 학술대회인 'IROS 2026'에서 발표됐습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
