IT/과학
오픈AI, AI 모델 개발 초기부터 외부 기관 안전성 검증 허용
뉴스보이
2026.09.23. 11:03
뉴스보이
2026.09.23. 11:03
간단 요약
간단 요약
오픈AI가 AI 모델의 훈련부터 배포까지 전 주기에 걸쳐 외부 기관의 안전성 평가를 도입합니다.
인류에 미칠 잠재적 위험을 고려해 독립성과 보안을 갖춘 외부 검증 체계를 구축할 방침입니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 3개 언론사의 보도를 교차 검증하여 작성되었습니다.
오픈AI가 인공지능(AI) 모델의 안전성 검증 시점을 기존 출시 직전에서 개발 초기 단계로 앞당깁니다. 라마 아흐마드 오픈AI 외부 전문가 안전성 검토 협력 담당은 앞으로 모델의 훈련, 평가, 배포 전 주기에 걸쳐 제3자 기관의 기술적 안전성 평가를 허용할 계획이라고 밝혔습니다.
이번 조치는 AI 기술이 인류에 재앙적 피해를 줄 수 있다는 우려가 커지면서 마련됐습니다. 오픈AI는 외부 평가의 필수 조건으로 강력한 독립성 보장 장치와 과학적 엄밀성, 철저한 보안 기준, 명확한 책임 분담을 제시했습니다. 특히 민감한 작업의 경우 외부 평가자를 사무실에 상주시키는 방안도 검토 중입니다.
외부 평가에는 허깅페이스 해킹 사건을 조사했던 METR과 레드우드 리서치 등이 참여할 예정입니다. 이는 경쟁사인 앤트로픽이 지난 18일 액센추어를 상주 독립 안전 평가기관으로 지정하며 안전 조치를 강화한 것과 궤를 같이합니다. 샘 올트먼 오픈AI CEO 역시 제3자 평가기관 도입 필요성에 공감하며 안전성 확보에 주력하고 있습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
