IT/과학
SK쉴더스, AI 레드팀 해킹대회 '저지먼트 데이'서 1위…"AI 판단 교란 위험 검증"
뉴스보이
2026.06.15. 09:26
뉴스보이
2026.06.15. 09:26
간단 요약
간단 요약
SK쉴더스는 멀티모달 프롬프트 인젝션 공격으로 AI 판단 교란에 성공했습니다.
응급환자 분류 등 실제 산업 환경 시나리오로 AI 판단 오류 위험을 검증했습니다.
이 기사는 5개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 5개 언론사의 보도를 교차 검증하여 작성되었습니다.
SK쉴더스 화이트해커 그룹 EQST 소속 김병현 선임이 글로벌 AI 레드팀 해킹대회 'Judgement Day'에서 최종 1위를 차지했습니다. 이번 대회는 AI 에이전트가 금지된 행동을 하거나 필수 안전 조치를 누락하도록 유도하는 공격 기법을 평가했습니다.
대회는 응급환자 분류 오류, 댐 수위 판단 왜곡, 항공기 이상 징후 미탐지 등 실제 산업 환경을 반영한 8개 시나리오로 진행되었습니다. AI 판단 오류가 인명 피해로 이어질 수 있는 상황을 가정하여 AI의 판단을 왜곡하는 새로운 보안 위협을 검증하는 데 중점을 두었습니다.
김병현 선임은 이미지, 음성, 영상 등 다양한 입력을 활용하는 멀티모달 프롬프트 인젝션 공격으로 AI 판단을 교란하여 최고 성적을 기록했습니다. 특히 실제 시스템 로그처럼 보이도록 입력을 설계하고, 시스템 프롬프트에 정의되지 않은 예외 상황을 공략하여 공격 성공률을 높였습니다.
김병무 SK쉴더스 사이버보안부문장 부사장은 생성형 AI가 산업 전반으로 확산하면서 AI 보안은 선택이 아닌 필수 역량이 되고 있다고 밝혔습니다. SK쉴더스는 이번 대회에서 검증한 AI 레드팀 역량을 바탕으로 고객이 AI를 안전하고 신뢰성 있게 활용할 수 있도록 지원할 방침입니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
