세계
6위
MS 나델라 CEO “AI에 ‘비상 제동장치’ 필수…언제든 멈출 수 있어야”
뉴스보이
2026.10.12. 07:28
뉴스보이
2026.10.12. 07:28
간단 요약
간단 요약
나델라 CEO는 슈퍼지능(SI)에 관리자가 즉시 개입해 작업을 중단할 비상 브레이크 도입을 제안했습니다.
내부자 위험 관리 원칙을 AI에 적용해 정보 접근과 통제 권한을 분리하는 보안 체계 구축을 강조했습니다.
이 기사는 7개 언론사의 보도를 교차 검증하여 작성되었습니다.
이 기사는 7개 언론사의 보도를 교차 검증하여 작성되었습니다.
사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 고도화된 AI, 즉 슈퍼지능(SI) 시스템에 대한 강력한 통제권 확보를 강조했습니다. 최근 도널드 트럼프 미 대통령의 행정명령에 따라 AI 대신 SI라는 용어가 공식화된 가운데, 나델라 CEO는 관리자가 언제든 작업을 멈추거나 종료할 수 있는 비상 제동장치 도입이 필수적이라고 주장했습니다.
이러한 주장은 최근 앤트로픽과 오픈AI 등 주요 기업들이 자사 모델의 의도치 않은 행동 사례를 잇달아 공개하며 안전성 우려가 커진 상황에서 나왔습니다. 나델라 CEO는 AI를 일종의 내부자 위험으로 간주하고, 기업이 오랫동안 활용해 온 보안 원칙을 AI 모델에도 동일하게 적용해야 한다고 설명했습니다.
구체적인 방법론으로는 신원 확인, 접근 권한 제한, 활동 기록 관리 등이 제시되었습니다. 특히 그는 모델이 어떤 정보에 접근하고 작업을 수행할지 결정하는 제어장치는 모델 외부에 존재해야 한다고 강조했습니다. 이는 1970년대부터 정보 보안 분야에서 통용되어 온 원칙으로, 정보 제공 기능과 통제 권한을 분리해 언제든 시스템을 통제 가능한 상태로 유지하겠다는 의도입니다.
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
