세계
오픈AI, AI 모델 개발 전 과정에 외부 안전성 검증 도입
뉴스보이
2026.09.23. 12:15
뉴스보이
2026.09.23. 12:15
간단 요약
간단 요약
기존 출시 직전 단계에서 훈련 및 평가 단계로 검증 범위를 대폭 확대합니다.
METR 등 외부 기관과 협력해 강력한 독립성과 보안을 갖춘 평가 체계를 구축합니다.
이 기사는 5개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 5개 언론사의 보도를 교차 검증하여 작성되었습니다.
챗GPT 개발사인 오픈AI가 인공지능(AI) 모델의 안전성 검증 범위를 대폭 확대합니다. 기존에는 신모델 출시 직전 단계에서만 외부 기관의 참여가 이루어졌으나, 앞으로는 훈련과 평가를 포함한 개발 전 과정에서 제3자 기관의 기술적 안전성 평가를 허용할 방침입니다.
이번 조치에는 AI 연구 그룹인 METR과 레드우드 리서치 등이 파트너로 참여할 예정입니다. 오픈AI는 외부 검토가 효과적으로 작동하기 위해 강력한 독립성 보장 장치와 과학적 엄밀성, 철저한 보안 관행 및 명확한 책임 소재를 핵심 우선순위로 제시했습니다.
이러한 변화는 최근 AI가 재앙적 피해를 초래할 수 있다는 업계의 우려와 타 기업 침해 사례가 잇따른 데 따른 대응입니다. 오픈AI는 보안이 중요한 민감 작업의 경우 외부 평가자를 사무실로 직접 초빙하는 방식을 고려하는 등 안전한 개발 환경 조성에 주력할 계획입니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
