IT/과학
7위
KAIST, AI '과신' 잡았다 "모르면 모른다고 말하는 AI" 신뢰성 'UP'
뉴스보이
2026.04.27. 09:29
뉴스보이
2026.04.27. 09:29
간단 요약
간단 요약
KAIST 연구팀이 AI 과신의 근본 원인을 밝히고, '예열' 학습 전략을 제안했습니다.
이 기술로 AI는 학습하지 않은 데이터에 확신도를 낮춰 '모른다'고 판단하게 되었습니다.
이 기사는 10개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 10개 언론사의 보도를 교차 검증하여 작성되었습니다.
KAIST 연구팀이 인공지능(AI)의 과도한 확신 문제를 해결할 새로운 방법을 제시했습니다. AI가 스스로 모르는 상황을 인식하도록 하는 학습 방법을 개발하여 AI의 신뢰성을 높일 수 있게 되었습니다.
KAIST 뇌인지과학과 백세범 석좌교수 연구팀은 딥러닝에서 널리 사용되는 무작위 가중치 초기화가 AI 과신을 유발하는 근본 원인임을 규명했습니다. 연구팀은 이를 해결하기 위해 실제 데이터를 학습하기 전, 무작위 노이즈로 신경망을 짧게 학습시키는 '예열' 전략을 제안했습니다.
예열 과정을 거친 AI 모델은 초기 확신도가 낮은 값으로 정렬되며, 기존 초기화에서 나타나던 과신 편향이 크게 완화되었습니다. 그 결과, 모델의 정확도와 확신도가 자연스럽게 일치하는 방향으로 개선되었습니다.
특히 예열 학습을 적용한 모델은 학습하지 않은 데이터에 대해 확신도를 낮춰 '모른다'고 판단하는 능력이 뚜렷하게 향상되었습니다. 백세범 석좌교수는 이번 연구가 인공지능이 스스로의 불확실성을 판단하는 원리를 제시했다고 설명했습니다.
이 기술은 자율주행, 의료 AI, 생성형 AI 등 높은 신뢰성이 요구되는 분야에 적용될 수 있으며, AI 전반의 신뢰성을 높이는 핵심 기술로 활용될 것으로 기대됩니다. 이번 연구 결과는 국제학술지 '네이처 머신 인텔리전스'에 4월 9일 게재되었습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
