세계
오픈AI, AI 모델 개발 초기부터 외부 기관 안전성 검증 도입
뉴스보이
2026.09.23. 12:15
뉴스보이
2026.09.23. 12:15
간단 요약
간단 요약
기존 출시 직전 단계에서 훈련·평가·배포 단계로 검증 시점을 앞당깁니다.
강력한 독립성을 보장하며 외부 전문가와 함께 안전한 AI 개발에 나섭니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
챗GPT 개발사 오픈AI가 인공지능(AI) 모델의 안전성 검증 시점을 대폭 앞당깁니다. 라마 아흐마드 오픈AI 외부 전문가 안전성 검토 담당은 앞으로 AI 모델의 훈련, 평가, 배포 전 과정에서 제3자 기관이 기술적 안전성 평가를 수행할 수 있도록 허용할 계획이라고 밝혔습니다. 기존에는 신모델 출시 직전 단계에서만 외부 기관이 참여했으나, 이제는 개발 초기부터 안전성을 확보하겠다는 방침입니다.
이번 조치는 최근 AI 기술이 재앙적 피해를 초래할 수 있다는 업계의 우려가 커진 데 따른 것입니다. 경쟁사인 앤트로픽이 지난 18일 액센추어를 상주 독립 안전 평가기관으로 지정하며 선제적 안전 조치를 시행한 점도 영향을 미쳤습니다. 샘 올트먼 오픈AI 최고경영자(CEO) 역시 AI 개발 속도 조절과 외부 평가 도입 필요성에 공감해왔습니다.
오픈AI는 METR, 레드우드 리서치 등 외부 기관과 협력할 예정이며, 가장 민감한 작업은 외부 평가자를 사무실로 직접 초빙해 진행합니다. 또한 외부 검토의 실효성을 높이기 위해 강력한 독립성 보장 장치, 과학적 엄밀성, 철저한 보안 관행, 명확한 책임 소재 등 4대 핵심 우선순위를 제시했습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
