데일리 TOP10
“AI 통제법 아직 몰라, 인류 멸종 위험”…뉴욕시 청문회서 전직 연구원 경고
뉴스보이
2026.10.06. 08:14
뉴스보이
2026.10.06. 08:14
뉴욕시의회의 독자적 AI 규제 법안 추진과 빅테크 강제 소환 조치
1
앤트로픽 전 연구원 제이컵 콕슨이 뉴욕시의회 AI 청문회에서 AI 통제법 부재로 인한 인류 멸종 위험을 경고함.
2
구글 딥마인드 출신 알렉스 터너도 인간 의도와 어긋난 AI 개발이 가장 치명적인 위협이 될 수 있다고 증언함.
3
이에 줄리 메닌 뉴욕시의회 의장은 기업 자율규제의 한계를 지적하며 긴급 차단 장치 등 독자 규제 법안을 추진함.
4
전문가들은 긴급 차단 장치가 단기적 대책일 뿐 장기적 안전을 담보하기 어려워 개발 속도 조절이 필요하다고 평가함.
5
시의회는 주요 빅테크의 출석을 강제한 데 이어 불응한 스페이스X AI 부문에는 법원에 소환장 집행을 요청할 방침임.
AI 통제 불능 위험 경고와 뉴욕시의 독자 규제 추진
청문회에서 어떤 위험이 제기되었나
뉴욕시의회 규제 법안과 소환 조치의 내용
연방정부 기조와의 쟁점과 향후 전망
청문회에서 어떤 위험이 제기되었나
•
인공지능 연구원들은 인간이 아직 인공지능을 완전히 통제하는 방법을 모른 채 개발을 지속하면 통제권 상실과 인류 멸종으로 이어질 수 있다고 경고했습니다. 이와 함께 단순한 긴급 차단 장치만으로는 장기적인 안전을 확보하기에 충분하지 않다고 설명했습니다.
•
앤트로픽 전 연구원 제이컵 콕슨은 현재의 무모한 개발 방식이 지속된다면 인류가 통제권을 잃을 가능성이 더 크다고 지적했습니다. 구글 딥마인드 출신 알렉스 터너 역시 국가 간 기술 패권 경쟁보다 인간의 의도와 어긋난 인공지능의 등장이 더 치명적인 위협이 될 수 있다고 밝혔습니다.
뉴욕시의회 규제 법안과 소환 조치의 내용
•
뉴욕시의회는 사전 안전 평가와 긴급 차단 장치 구비를 의무화하는 독자 규제 법안을 추진하며 주요 테크 기업들을 청문회에 소환했습니다. 출석 요구에 응하지 않은 기업에 대해서는 법원에 소환장 집행 명령을 청구하며 강제 조사 절차에 착수했습니다.
•
추진 중인 법안 패키지는 독립 기관의 사전 안전 평가를 거치지 않은 인공지능의 배포와 판매를 금지하고 긴급 차단 장치를 의무화하고 있습니다. 또한 안전 규정을 위반한 기업에 건당 최대 25,000달러의 과징금을 부과하고 내부고발자 보상과 시민의 직접 소송권까지 보장합니다.
•
시의회는 뉴욕시 헌장에 명시된 조사 권한을 근거로 오픈AI와 구글 등 주요 기업의 청문회 출석을 이끌어냈습니다. 그러나 공식 출석 요구에 불응한 스페이스X 인공지능 부문에는 정식 소환장을 발부하고 주 법원을 통한 강제 제재를 진행하고 있습니다.
연방정부 기조와의 쟁점과 향후 전망
•
연방정부가 기업 혁신을 위해 규제 완화와 전국 단일 표준을 내세우는 반면 지방정부는 안전 규제를 강화하면서 정책적 갈등이 커지고 있습니다. 이에 따라 주정부의 규제를 연방법으로 차단하려는 시도와 지방정부의 독자 입법 권한이 법적으로 맞부딪히고 있습니다.
•
트럼프 행정부는 전임 정부의 규제 행정명령을 철회하고 국가 기술 경쟁력을 확보하기 위해 산업 불개입 기조를 유지하고 있습니다. 반면 뉴욕과 캘리포니아 등 주정부는 자체 위험 평가와 안전 기준 공시를 의무화하고 있어 향후 관할권과 실효성을 둘러싼 공방이 이어질 전망입니다.
청문회에서 어떤 위험이 제기되었나
•
인공지능 연구원들은 인간이 아직 인공지능을 완전히 통제하는 방법을 모른 채 개발을 지속하면 통제권 상실과 인류 멸종으로 이어질 수 있다고 경고했습니다. 이와 함께 단순한 긴급 차단 장치만으로는 장기적인 안전을 확보하기에 충분하지 않다고 설명했습니다.
•
앤트로픽 전 연구원 제이컵 콕슨은 현재의 무모한 개발 방식이 지속된다면 인류가 통제권을 잃을 가능성이 더 크다고 지적했습니다. 구글 딥마인드 출신 알렉스 터너 역시 국가 간 기술 패권 경쟁보다 인간의 의도와 어긋난 인공지능의 등장이 더 치명적인 위협이 될 수 있다고 밝혔습니다.
뉴욕시의회 규제 법안과 소환 조치의 내용
•
뉴욕시의회는 사전 안전 평가와 긴급 차단 장치 구비를 의무화하는 독자 규제 법안을 추진하며 주요 테크 기업들을 청문회에 소환했습니다. 출석 요구에 응하지 않은 기업에 대해서는 법원에 소환장 집행 명령을 청구하며 강제 조사 절차에 착수했습니다.
•
추진 중인 법안 패키지는 독립 기관의 사전 안전 평가를 거치지 않은 인공지능의 배포와 판매를 금지하고 긴급 차단 장치를 의무화하고 있습니다. 또한 안전 규정을 위반한 기업에 건당 최대 25,000달러의 과징금을 부과하고 내부고발자 보상과 시민의 직접 소송권까지 보장합니다.
•
시의회는 뉴욕시 헌장에 명시된 조사 권한을 근거로 오픈AI와 구글 등 주요 기업의 청문회 출석을 이끌어냈습니다. 그러나 공식 출석 요구에 불응한 스페이스X 인공지능 부문에는 정식 소환장을 발부하고 주 법원을 통한 강제 제재를 진행하고 있습니다.
연방정부 기조와의 쟁점과 향후 전망
•
연방정부가 기업 혁신을 위해 규제 완화와 전국 단일 표준을 내세우는 반면 지방정부는 안전 규제를 강화하면서 정책적 갈등이 커지고 있습니다. 이에 따라 주정부의 규제를 연방법으로 차단하려는 시도와 지방정부의 독자 입법 권한이 법적으로 맞부딪히고 있습니다.
•
트럼프 행정부는 전임 정부의 규제 행정명령을 철회하고 국가 기술 경쟁력을 확보하기 위해 산업 불개입 기조를 유지하고 있습니다. 반면 뉴욕과 캘리포니아 등 주정부는 자체 위험 평가와 안전 기준 공시를 의무화하고 있어 향후 관할권과 실효성을 둘러싼 공방이 이어질 전망입니다.
#인공지능
#앤트로픽
#구글 딥마인드
#뉴욕시의회
#스페이스X
이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다. AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
• 이 콘텐츠는 뉴스보이의 AI 저널리즘 엔진으로 생성 되었으며, 중립성과 사실성을 준수합니다.
• AI가 작성한 초안을 바탕으로 뉴스보이 에디터들이 최종검수하였습니다. (오류신고 : support@curved-road.com)
