사회
포스텍, "챗GPT는 왜 자신 있게 틀릴까" AI 답변 오류 원인 구분·분석하는 기술 개발
뉴스보이
2026.07.01. 14:57
뉴스보이
2026.07.01. 14:57
간단 요약
간단 요약
AI 예측의 불확실성을 데이터 모호함과 지식 부족 두 원인으로 분리해 측정합니다.
AI가 그럴싸하게 틀리는 환각 현상을 찾아내는 데 우수한 성능을 보입니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
포스텍 연구진이 인공지능(AI) 챗GPT의 잘못된 답변을 진단하는 새로운 기술을 개발했습니다. 이 기술은 AI 예측에 담긴 불확실성을 원인별로 분리해 측정하는 방법론입니다.
포스텍 인공지능대학원 이남훈 교수 연구팀은 AI 불확실성이 질문이나 데이터 자체의 모호함, 그리고 AI의 지식 부족 두 가지 원인에서 비롯된다고 설명했습니다. 연구팀은 AI 모델 내부를 직접 분석하여 데이터 모호함과 모델의 지식 부족에서 발생한 불확실성을 효과적으로 분리해 측정했습니다.
이 기술은 AI가 사실이 아닌 내용을 그럴싸하게 꾸며내는 부분을 찾아내는 데 우수한 성능을 보였습니다. 이남훈 교수는 이번 연구가 AI 내부 작동 원리에 대한 이해와 불확실성 측정을 연결한 새로운 시도라고 밝혔습니다. 이 연구는 7월 27일 미국 샌디에이고에서 열리는 국제 학회 ACL 2026에 구두 발표 논문으로 채택되었습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
