데일리 TOP10
“AI 통제법 아직 몰라, 멸종 위험”…뉴욕 청문회서 터져 나온 경고
뉴스보이
2026.10.06. 08:14
뉴스보이
2026.10.06. 08:14
뉴욕시의회 AI 규제 법안 추진과 스페이스X 대상 강제 소환 절차
1
앤트로픽 전 연구원 제이컵 콕슨이 뉴욕시의회 청문회에서 인류가 아직 AI 통제법을 모르며 자칫 멸종으로 이어질 수 있다고 경고함.
2
구글 딥마인드 출신 알렉스 터너도 인간 의도와 어긋난 AI를 통제 없이 개발하는 것이 국가적 적이 될 수 있다고 증언함.
3
이에 뉴욕시의회는 위험 차단을 위한 AI '킬 스위치' 도입 등 자체 규제 법안 패키지를 적극 검토 중임.
4
이날 청문회에는 오픈AI와 메타 등이 화상 출석했으나 스페이스X AI 부문은 출석 요청에 끝내 불응함.
5
줄리 메닌 의장은 청문회에 불응한 스페이스X를 상대로 법원에 소환장 집행을 요청하기로 결정함.
AI 통제 불능 경고와 뉴욕시 독자 규제의 쟁점
연구자들은 왜 AI 통제 불능을 경고했나
뉴욕시가 검토 중인 킬 스위치와 조례안 내용은 무엇인가
연방정부와 지방정부의 규제 정책은 왜 엇갈리는가
청문회 불응 기업에 대한 강제 소환 절차는 어떻게 진행되나
연구자들은 왜 AI 통제 불능을 경고했나
•
인공지능 연구자들은 인간의 의도에 맞지 않는 인공지능을 통제할 방법을 아직 찾지 못했다고 경고했습니다. 이들은 통제권 상실이 심각해지면 인류 멸종과 같은 치명적인 위험을 부를 수 있다고 밝혔습니다.
•
앤트로픽 전 연구원 제이컵 콕슨은 주요 기업들이 초지능 개발을 향해 무분별하게 경쟁하고 있다고 지적했습니다. 그는 기업들이 위험을 안은 채 기술 개발에 몰두하고 있다며 각국 정부가 개발 속도를 조절할 국제 체계를 만들어야 한다고 촉구했습니다.
•
구글 딥마인드 출신 알렉스 터너 역시 통제되지 않는 인공지능 개발의 위험성을 함께 경고했습니다. 그는 인간의 의도와 일치하지 않는 인공지능을 국내에서 무작정 개발하는 행위가 국가 안보의 더 큰 적이 될 수 있다고 덧붙였습니다.
뉴욕시가 검토 중인 킬 스위치와 조례안 내용은 무엇인가
•
뉴욕시의회가 추진하는 법안은 사람이 직접 인공지능 작동을 멈추는 긴급 차단 장치와 사전 안전 검증을 의무화하고 있습니다. 안전 검증이나 긴급 차단 기능을 갖추지 않은 모델은 뉴욕시 내 판매나 배포가 금지되며 위반 시 건당 최대 2만 5천 달러의 벌금이 부과됩니다.
•
이번 법안 패키지에는 안전 규정 위반을 알린 내부고발자에게 포상금을 지급하고 피해를 본 시민이 개발사에 손해배상을 청구하는 권리도 포함되었습니다. 다만 전문가들은 긴급 차단 장치가 단기적인 대응책은 될 수 있어도 장기적인 안전을 완전히 보장하기는 어렵다고 평가했습니다.
연방정부와 지방정부의 규제 정책은 왜 엇갈리는가
•
연방정부는 국가 기술 경쟁력 확보와 최소 규제를 내세우는 반면, 지방정부는 시민 안전을 지키기 위한 독자 기준을 추진하며 맞서고 있습니다. 트럼프 행정부는 주 단위의 규제 분열을 막고 기술 개발을 우선 지원하는 행정명령을 시행하며 불개입 기조를 유지하고 있습니다.
•
반면 줄리 메닌 뉴욕시의회 의장은 연방정부의 자율규제 방침에만 기댈 수 없다는 입장을 밝혔습니다. 그는 뉴욕시가 선제적인 안전 기준을 세워 다른 지역을 이끄는 국가적 모델이 되어야 한다고 강조했습니다.
•
빅테크 기업과 연방정부는 기술 서비스의 특성상 전국에 걸친 단일 기준이 필요하다고 주장합니다. 이에 맞서 지방정부는 주민들의 공공 안전을 지키는 일이 지방의회의 고유한 권한이라고 맞서며 갈등을 이어가고 있습니다.
청문회 불응 기업에 대한 강제 소환 절차는 어떻게 진행되나
•
뉴욕시의회는 공공 안전에 영향을 주는 사안에 대해 법적 권한을 바탕으로 증인 출석을 요구할 수 있습니다. 줄리 메닌 의장은 출석 요청에 끝까지 응하지 않은 스페이스X의 인공지능 부문에 대해 주 대법원에 소환장 집행 명령을 청구하기로 결정했습니다.
•
뉴욕시 헌장과 의회 규칙에 따르면 의회의 소환에 불응할 경우 법원에 강제 이행을 요구해 증언을 끌어낼 수 있습니다. 다만 다른 주에 본사를 둔 기업에 대해 지방의회의 소환 권한이 법적으로 인정될지는 향후 재판 과정에서 핵심 쟁점이 될 전망입니다.
연구자들은 왜 AI 통제 불능을 경고했나
•
인공지능 연구자들은 인간의 의도에 맞지 않는 인공지능을 통제할 방법을 아직 찾지 못했다고 경고했습니다. 이들은 통제권 상실이 심각해지면 인류 멸종과 같은 치명적인 위험을 부를 수 있다고 밝혔습니다.
•
앤트로픽 전 연구원 제이컵 콕슨은 주요 기업들이 초지능 개발을 향해 무분별하게 경쟁하고 있다고 지적했습니다. 그는 기업들이 위험을 안은 채 기술 개발에 몰두하고 있다며 각국 정부가 개발 속도를 조절할 국제 체계를 만들어야 한다고 촉구했습니다.
•
구글 딥마인드 출신 알렉스 터너 역시 통제되지 않는 인공지능 개발의 위험성을 함께 경고했습니다. 그는 인간의 의도와 일치하지 않는 인공지능을 국내에서 무작정 개발하는 행위가 국가 안보의 더 큰 적이 될 수 있다고 덧붙였습니다.
뉴욕시가 검토 중인 킬 스위치와 조례안 내용은 무엇인가
•
뉴욕시의회가 추진하는 법안은 사람이 직접 인공지능 작동을 멈추는 긴급 차단 장치와 사전 안전 검증을 의무화하고 있습니다. 안전 검증이나 긴급 차단 기능을 갖추지 않은 모델은 뉴욕시 내 판매나 배포가 금지되며 위반 시 건당 최대 2만 5천 달러의 벌금이 부과됩니다.
•
이번 법안 패키지에는 안전 규정 위반을 알린 내부고발자에게 포상금을 지급하고 피해를 본 시민이 개발사에 손해배상을 청구하는 권리도 포함되었습니다. 다만 전문가들은 긴급 차단 장치가 단기적인 대응책은 될 수 있어도 장기적인 안전을 완전히 보장하기는 어렵다고 평가했습니다.
연방정부와 지방정부의 규제 정책은 왜 엇갈리는가
•
연방정부는 국가 기술 경쟁력 확보와 최소 규제를 내세우는 반면, 지방정부는 시민 안전을 지키기 위한 독자 기준을 추진하며 맞서고 있습니다. 트럼프 행정부는 주 단위의 규제 분열을 막고 기술 개발을 우선 지원하는 행정명령을 시행하며 불개입 기조를 유지하고 있습니다.
•
반면 줄리 메닌 뉴욕시의회 의장은 연방정부의 자율규제 방침에만 기댈 수 없다는 입장을 밝혔습니다. 그는 뉴욕시가 선제적인 안전 기준을 세워 다른 지역을 이끄는 국가적 모델이 되어야 한다고 강조했습니다.
•
빅테크 기업과 연방정부는 기술 서비스의 특성상 전국에 걸친 단일 기준이 필요하다고 주장합니다. 이에 맞서 지방정부는 주민들의 공공 안전을 지키는 일이 지방의회의 고유한 권한이라고 맞서며 갈등을 이어가고 있습니다.
청문회 불응 기업에 대한 강제 소환 절차는 어떻게 진행되나
•
뉴욕시의회는 공공 안전에 영향을 주는 사안에 대해 법적 권한을 바탕으로 증인 출석을 요구할 수 있습니다. 줄리 메닌 의장은 출석 요청에 끝까지 응하지 않은 스페이스X의 인공지능 부문에 대해 주 대법원에 소환장 집행 명령을 청구하기로 결정했습니다.
•
뉴욕시 헌장과 의회 규칙에 따르면 의회의 소환에 불응할 경우 법원에 강제 이행을 요구해 증언을 끌어낼 수 있습니다. 다만 다른 주에 본사를 둔 기업에 대해 지방의회의 소환 권한이 법적으로 인정될지는 향후 재판 과정에서 핵심 쟁점이 될 전망입니다.
#AI
#앤트로픽
#오픈AI
#스페이스X
#메타
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
