양자컴퓨팅으로 AI 한계 넘는다… UNIST, '강인한 AI' 학습 부담 80% 줄였다

국내 연구진이 양자 컴퓨팅 기술을 인공지능(AI) 학습에 접목하여 연산 비용 폭증 문제를 해결했습니다. 울산과학기술원(UNIST) 인공지능대학원 윤성환 교수팀과 고려대학교 전기전자공학부 김중헌 교수팀은 'QRIM(Quantum Robust Inner Minimization)'이라는 독자적 학습 기법을 개발했습니다. 이 기술은 돌발적인 환경 변화에도 오작동하지 않는 '강인한 AI'의 학습 효율을 최대 5배까지 끌어올릴 수 있습니다. 기존의 강화학습은 경험하지 못한 환경 변화에 취약하여 성능이 급락하는 문제가 있었습니다. 이를 보완하기 위한 강인한 강화학습은 최악의 시나리오를 대비해야 하므로 연산량이 기하급수적으로 늘어나는 한계가 있었습니다. 연구팀은 양자 컴퓨팅의 핵심인 중첩 원리를 활용하여 수많은 환경 후보군을 동시에 표현하고, 양자 진폭 추정(QAE)과 양자 최솟값 탐색(QMF) 알고리즘을 결합해 이 문제를 해결했습니다. QRIM 기법은 1만 개의 시나리오를 검토해야 할 경우 기존 방식의 1만 번 계산 대신 약 100번만으로 동일한 결과를 얻을 수 있습니다. 이는 이론적으로 제곱근 수준의 계산량 감소를 의미하며, 실제 실험에서 기존 대비 약 20~30% 수준의 계산량만으로 동일하거나 더 높은 강인성을 확보했습니다. 학습에 필요한 연산량은 최대 약 80%까지 줄었습니다. 연구팀은 IBM의 127큐비트 양자 컴퓨터 하드웨어에서도 QRIM을 검증했습니다. 실제 양자 하드웨어의 잡음이 존재하는 환경에서도 AI의 오작동 방지 기능이 안정적으로 유지됨을 세계 최초로 확증했습니다. 이현규 연구원은 QRIM이 기존 강화학습 구조를 그대로 활용하면서 최악의 상황 탐색 부분만 양자 알고리즘으로 대체할 수 있어 다양한 AI 시스템에 적용 가능하다고 설명했습니다. 이번 연구 성과는 전 세계 AI 연구자들이 주목하는 최고 권위 학회인 '국제머신러닝학회(ICML) 2026'에 정식 채택되었습니다. 윤성환 UNIST 교수는 양자 컴퓨팅이 기존 인공지능의 한계를 보완할 수 있음을 보여준 사례라며, 자율주행, 로보틱스, 의료 등 안전성과 신뢰성이 요구되는 분야에 활용될 것으로 기대한다고 밝혔습니다.