IT/과학
7위
KAIST, AI 숨은 취약점 7배 더 찾는다… ‘스테이블 지플로우넷’ 개발
뉴스보이
2026.07.30. 09:29
뉴스보이
2026.07.30. 09:29
간단 요약
간단 요약
기존 레드팀 기술의 고질적 문제인 모드 붕괴를 해결해 AI 안전성 검증의 정확도를 크게 높였습니다.
134개의 공격 유형을 발굴하며 92%의 공격 성공률을 기록해 국제 학회에서 우수성을 인정받았습니다.
이 기사는 5개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 5개 언론사의 보도를 교차 검증하여 작성되었습니다.
KAIST 전기및전자공학부 김준모 교수 연구팀이 대규모 언어모델(LLM)의 안전성을 검증하는 새로운 프레임워크 ‘스테이블 지플로우넷’을 개발했습니다. 이번 연구는 기존 레드팀 기술의 고질적 한계였던 학습 불안정성과 모드 붕괴 문제를 해결했다는 점에서 큰 주목을 받습니다.
연구팀이 개발한 스테이블 지플로우넷은 대조 궤적 균형(CTB) 기법과 노이즈 경사 가지치기(NGP), 유창성 안정화 장치(MKS) 등 핵심 기술 3종을 집약했습니다. 이를 통해 기존 기술이 찾아낸 17개의 공격 유형보다 약 7배 많은 134개의 고유 공격 유형을 발굴했으며, 92%의 높은 공격 성공률을 유지하는 성과를 거뒀습니다.
권민찬 박사과정이 제1저자로 참여한 이번 연구 성과는 인공지능 분야 최고 권위 학회인 ‘국제머신러닝학회(ICML) 2026’에서 상위 2.2%에 해당하는 스포트라이트 논문으로 선정되며 학술적 가치를 입증했습니다.
이번 기술은 AI 안전성 검증을 넘어 신약 후보 물질 생성 등 다양한 분포 매칭 문제에서도 활용 가능성이 큽니다. 한편, 이번 연구는 과학기술정보통신부 정보통신기획평가원의 SW스타랩 사업 지원을 받아 수행됐습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
