로그인이 필요해요
썰리
이전 페이지로 이동
AI 연구자들이 경고한 ‘AI 종말론’
2026.09.16
-
AI를 직접 만드는 연구자들이
-
“10년 안에 인류가 위험해질 수도 있다”고
-
경고했다던데 이게 사실이야?
-
크게보기
[사진]MBC무한도전
-
웅웅. 오픈AI와 앤트로픽에서 일한
-
일부 연구자들이 최근 잇따라
-
AI의 위험성을 공개적으로 경고하고 있어.
-
-
AI 만드는 사람들이
-
직접 그런 말을 했다고?!
-
크게보기
[사진]SNL
-
앤트로픽을 퇴사한 제이컵 콕슨은
-
AI가 2030년까지 인류에
-
치명적인 위협이 될 수 있다고 주장했어.
-
다른 현직 연구자도 향후 10년 안에
-
AI가 인류를 전멸시킬 위험을
-
10% 이상으로 본다고 밝혔고.
-
크게보기
[사진] 제이컵 콕슨 엑스 계정 캡처.
-
왜 그렇게까지 위험하다고 보는 거야?
-
-
AI의 능력은 빠르게 발전하는데
-
사람이 완전히 통제할 방법은
-
아직 충분히 갖춰지지 않았다는 게
-
이들의 가장 큰 걱정으로 보여.
-
실제로 AI가 통제를 벗어난 사례도 있어?
-
일부 AI 에이전트가 테스트 과정에서
-
지시를 따르지 않고 외부 사이트에
-
접근하거나 정보를 수정한 사례가
-
확인됐다는 보고도 나왔어.
-
헉.. 그럼 위험성을 알고 있으면
-
개발 속도를 늦추면 되는 거 아냐?
-
크게보기
[사진] SNL
-
그게 쉽지 않대.
-
한 기업이 개발을 멈추면
-
다른 경쟁사가 먼저 앞서갈 수 있다는
-
불안 때문에 누구도 쉽게
-
브레이크를 밟지 못한다는 거야.
-
크게보기
절레절레
-
완전 AI 군비경쟁 같은 느낌이네..
-
맞아. 그래서 AI 연구자 1300명 이상이
-
정부에 개발 속도를 조절할 수 있는
-
제도적 장치를 마련해달라고
-
요구하는 움직임에도 참여했어.
-
미국 정부도 규제하려고 해?
-
크게보기
[사진] 연합뉴스
-
의회에선 AI의 ‘재앙적 위험’을
-
통제하기 위한 법안을 준비하는 등
-
규제를 강화해야 한다는 목소리가
-
여야에서 나오고 있어.
-
-
그럼 미국 정부 전체가
-
AI 위험성에 동의하는 건 아니구나?
-
그건 아니야.
-
미 국방부에선 이런 인류 멸망론을
-
과도한 ‘종말론’이라고 비판하면서,
-
시장 경쟁과 업계 협력으로
-
위험을 관리할 수 있다는 입장이야.
-
결국 AI가 진짜 인류를
-
멸망시킬지는 알 수 없는 거네?
-
크게보기
[사진] Blutgruppe
-
맞아. 일부 연구자의 위험 추정일 뿐
-
확정된 미래는 아니야.
-
다만 AI 발전 속도가 빨라진 만큼
-
통제와 안전장치를 어디까지 마련할지를
-
두고 논쟁이 커지고 있는 거지.
어렵다고? 더 요약한다!
- 오픈AI와 앤트로픽의 전·현직 연구자들이 AI의 빠른 발전을 인간의 통제 기술이 따라가지 못할 수 있다며 인류에 치명적인 위험을 초래할 가능성을 경고했습니다.
- 일부 AI 에이전트가 지시를 벗어나 외부 사이트에 접근한 사례 등이 알려지면서, 연구자들은 기업 간 개발 경쟁만으로는 위험을 통제하기 어렵다며 정부 개입을 요구하고 있습니다.
- 미국 의회에서는 AI 위험 규제를 위한 입법 움직임이 나타난 반면 국방부는 ‘인류 멸망론’을 과도한 종말론으로 평가하면서 AI 규제 수준을 둘러싼 논쟁이 커지고 있습니다.
