데일리 TOP10

#인공지능

#앤트로픽

#구글 딥마인드

#오픈AI

#뉴욕시의회

"AI 시스템 통제법 아직 몰라"…전직 빅테크 연구원들 '인류 멸종' 경고

logo

뉴스보이

2026.10.06. 09:16

"AI 시스템 통제법 아직 몰라"…전직 빅테크 연구원들 '인류 멸종' 경고
뉴욕시의회의 AI 긴급 차단 장치 도입 추진과 빅테크 규제 청문회
1
앤트로픽 전 연구원 제이컵 콕슨이 뉴욕시의회 청문회에서 AI 통제 기술이 없어 현 상황 지속 시 인류 멸종으로 이어질 수 있다고 경고함.
2
구글 딥마인드 출신 알렉스 터너도 통제되지 않는 AI를 만드는 내부 경쟁이 잠재적 적국보다 더 큰 위협이 될 수 있다고 증언함.
3
콕슨은 실리콘밸리의 무모한 속도 경쟁을 비판하며 첨단 프런티어 모델 개발 속도를 조절해야 한다고 강조함.
4
뉴욕시의회는 기업 자율규제의 한계를 지적하며 시스템 긴급 차단 장치(킬 스위치)와 제3자 검증을 포함한 규제 법안을 검토 중임.
5
이날 청문회에는 오픈AI·구글 등이 화상 출석했으나, 출석 요청에 응하지 않은 스페이스X AI 부문에 대해서는 법원에 소환장 집행을 요청하기로 함.
AI 통제 불능 경고와 지방정부 규제 시도의 배경
down
빅테크 연구자들은 왜 통제 불능을 경고하며 회사를 떠났나
down
뉴욕시의회는 어떤 방식으로 AI를 직접 규제하려는가
down
지방정부의 규제 시도가 넘어야 할 과제는 무엇인가
leftTalking
빅테크 연구자들은 왜 통제 불능을 경고하며 회사를 떠났나
rightTalking
•
빅테크 연구자들은 인공지능을 완전히 통제할 기술이 없는 상태에서 기업들이 무리한 속도 경쟁을 이어가자 공개적인 경고에 나섰습니다. 제이컵 콕슨 전 앤트로픽 연구원은 대규모 학습 시스템을 통제할 방법이 아직 명확하지 않다고 밝혔습니다.
•
실리콘밸리 기업들이 안전성 검증보다 시장 선점을 우선하면서 자발적인 개발 중단이 어려운 구조에 갇혔다는 지적이 나옵니다. 연구진은 업계의 자율적인 규제 노력만으로는 첨단 모델 개발 과정에서 발생할 파멸적 위험을 막기 어렵다고 강조했습니다.
leftTalking
뉴욕시의회는 어떤 방식으로 AI를 직접 규제하려는가
rightTalking
•
뉴욕시의회는 모델 배포 전 제3자 검증을 의무화하고 긴급 차단 장치를 도입하는 강력한 규제 조례안을 검토하고 있습니다. 이 법안에는 내부고발자 보상 제도와 피해를 본 시민이 기업을 상대로 직접 소송을 제기할 수 있는 권리가 담겼습니다.
•
규정 위반 사실이 적발될 경우 기업에 건당 최대 2만 5,000달러에 달하는 민사 과태료를 부과할 수 있습니다. 시의회는 청문회 출석 요청에 응하지 않은 스페이스X의 인공지능 부문에 대해 법원에 소환장 강제 집행을 요청하기로 결정했습니다.
leftTalking
지방정부의 규제 시도가 넘어야 할 과제는 무엇인가
rightTalking
•
지방정부의 독자 규제는 연방정부의 불개입 기조와 충돌하며 적지 않은 법적 난관을 마주하고 있습니다. 트럼프 행정부는 주 단위의 규제가 국가 경쟁력을 떨어뜨린다고 판단해 무효화 소송을 추진하는 방침을 세웠습니다.
•
지난 2024년 캘리포니아주에서 추진되었던 첨단 모델 안전 규제 법안도 주지사의 거부권 행사로 무산된 바 있습니다. 이에 따라 뉴욕시 조례안의 최종 본회의 통과 여부와 연방법 우선 원칙에 따른 법적 공방이 향후 핵심 변수가 될 전망입니다.

#인공지능

#앤트로픽

#구글 딥마인드

#오픈AI

#뉴욕시의회

소셜데이터 분석
기사 댓글이 많은 언론사를 기준으로 분석했어요
경기일보
│
12개의 댓글
best 1
2026.10.6 00:41
좌파단체에서 돈 많이 받았나봄
thumb-up
6
thumb-down
4
best 2
2026.10.6 05:13
그렇다고 개발을 제한하자니, 중국에 추월 당할 수 있고, 이러지도 저러지도 못하고, 영화가 현실화되는 시대가 오고 있다는.. 네 자식 대에나 현실화될까 했더니 내 대에 현실화 되려고 하네..
thumb-up
1
thumb-down
0
best 3
2026.10.6 04:29
우선은 가까운 미래에 인간집단끼리의 갈등이 AI를 매개로 대규모 전쟁 등으로 폭발하고.. 이후 승자그룹들 사이에서도 기계적 요소들이 생체적 요소들을 서서히 대체해 나가고 자기도 모르는 사이에 노예화 진행되고 결국 멸종인지 아닌지 네안데르탈인처럼 메카닉 존재들에 흡수되겠지.. 시간이 걸리겠지만 예정된 미래임.. 인간끼리의 경쟁심을 완전히 제어하지 못하는 한 커다란 방향을 바꾸긴 힘들듯.
thumb-up
1
thumb-down
0
한국경제
│
11개의 댓글
best 1
2026.10.5 23:51
예로부터 탐욕의 끝엔 멸망만이 존재했었음
thumb-up
6
thumb-down
0
best 2
2026.10.5 23:40
인류멸종의 적그리스도가 도람프였구나
thumb-up
5
thumb-down
0
best 3
2026.10.5 23:34
충분히 그럴 수 있다 어릴 때 만화로만 봤던것들이 현실이 되는 세상에 살고 있다 ai가 사람을 지배하는 가상이 현실이 될 수 있음을 알고 막아야한다
thumb-up
2
thumb-down
0
KBS
│
3개의 댓글
best 1
2026.10.6 03:02
사실 답은 이미 정해져 있지 인간의 욕망이 브레이크 밟는거 본적있냐
thumb-up
0
thumb-down
0
best 2
2026.10.6 01:05
사실 난 근본 원인을 알지. 만... 힌트도 안 줬어. AI에게 난 어떤 힌트도 안 주고 정보만 얻으려면서 문답을 하는데... 고도의 전략이 필요해. ㅎㅎㅎ
thumb-up
0
thumb-down
0
best 3
2026.10.6 01:03
제미나이와 문답을 통해 어떤 상황인지 알아봤는데. ㅎㅎㅎㅎㅎ 이미 답이 없던데. 전모를 알겠더라고. 관련 인재 엔지니어들이 그만둘 수밖에 없겠구나. 싶더라고. 시스템을 아예 엎을 순 없잖아. 회사를 쑥대밭으로 만들 순 없고 그만두는 선택지밖에는 없겠더라고. 어느 한 분야 엔지니어가 전분야를 다 모르니까. 자기 분야 스톱시키면 뒷감당이 안되는 거지. 빅테크 대표들은 괜찮다 잇점이 더 많다,며 종용하고 중이고. 그런 상황인 거지.
thumb-up
0
thumb-down
0
속보
오늘 06:48 기준
1
1시간전
[속보] 이 대통령 "AI 부정 등 환경 변화 맞춰 국가시험제도 전면 개편"
2
2시간전
[속보] 급락장에 코스피 이어 코스닥서도 매도 사이드카 발동
3
3시간전
[속보] 코스피, 4%대 급락에 매도 사이드카 발동
4
4시간전
[속보] 교육부 "수능 전자기기 부정행위 총 111건 적발"
5
6시간전
[속보] 삼성전자 사업부장, 반도체 메모리 황상준·모바일경험 최원준…사업부장 분리
appstore logoplaystore logo

고객센터

운영시간 : 평일 오전 10시 ~ 오후 5시

서비스 이용문의 : support@curved-road.com

제휴 문의 : support@curved-road.com

주식회사 커브길에서

footer text logo

대표 : 최재형, 안세현

서울시 서대문구 성산로 512-42, 307호

사업자 등록 번호 : 237-86-03199

전화번호 : 1688-4564

발행인・편집인・청소년보호책임자 : 최재형

제호 : 뉴스보이

등록번호 : 서울 아 56429

등록・발행일자 : 2026-03-10