IT/과학
오픈AI 안전 담당 사임…“반복적 배포 전략, AI 재앙 부를 것”
뉴스보이
2026.10.05. 13:37
뉴스보이
2026.10.05. 13:37
간단 요약
간단 요약
데이비드 로빈슨 전 오픈AI 안전 담당자가 회사의 개발 전략을 비판하며 사임했습니다.
그는 반복적 배포 방식이 AI 통제력을 상실시켜 원전 사고보다 큰 위험을 초래할 수 있다고 경고했습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 4개 언론사의 보도를 교차 검증하여 작성되었습니다.
오픈AI의 안전 시스템팀에서 투명성 부문을 이끌던 데이비드 로빈슨이 회사를 떠났습니다. 그는 약 3년 6개월간 근무하며 고성능 AI의 위험을 평가하고 관리하는 ‘준비성 프레임워크’ 작성에 참여했으며, 프런티어 AI 모델 12개의 안전 보고서 작성을 감독해 온 핵심 인물입니다.
로빈슨은 오픈AI가 고수해 온 ‘반복적 배포’ 전략에 강한 우려를 표했습니다. 이는 AI 모델을 먼저 출시한 뒤 실제 이용 과정에서 발견되는 오류와 피드백을 바탕으로 개선하는 방식입니다. 그는 이 전략이 AI의 위험성을 키우고 있으며, 기업들이 기술 개발에 충분히 신중하지 않다고 지적했습니다. 특히 AI가 통제력을 잃을 경우 원전 사고보다 더 큰 피해가 발생할 수 있다고 경고했습니다.
오픈AI는 이에 대해 모델 기능이 회사가 안전하게 통제할 수 있는 수준을 넘지 않도록 엄격히 관리하고 있으며, 필요시 학습 중단이나 출시 보류를 단행한다고 반박했습니다. 또한 외부 독립 평가기관과의 협력을 확대하고 모델 출시 이후 실시간 모니터링을 강화하고 있다고 설명했습니다.
로빈슨은 내부 노력만으로는 한계가 있다며, AI 안전을 위해 외부의 법적·제도적 규제가 필수적이라는 입장을 밝혔습니다. 앞서 오픈AI에서는 수퍼얼라인먼트 팀 해체와 공동창업자 등 안전 분야 주요 인사들의 이탈이 이어지며 안전성 논란이 지속되고 있습니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
