ITNAI

최근 ‘AI가 10년 안에 인류를 멸망시킬 수 있다’는 경고와 함께 마이크로소프트 AI 책임자가 앤트로픽의 AI 의식·모델 복지 접근을 비판했다는 보도가 이어졌습니다. 그러나 이를 ‘마이크로소프트가 AI 인류 멸망을 예고했다’ 고 해석하면 실제 발언과 차이가 있습니다. 이번 논쟁의 핵심은 AI가 곧 인류를 공격한다는 확정적 예측이 아니라, 인간보다 강력한 AI가 등장했을 때 그 목표와 행동을 통제할 수 있는가 에 있습니다. 앤트로픽 전·현직 연구자들의 위험 경고와 마이크로소프트 AI 책임자의 비판을 구분해 살펴보겠습니다. 핵심 내용 먼저 보기 AI 인류 멸망 확률 10% 는 실험으로 산출한 확정적 통계가 아니라 일부 연구자가 제시한 주관적 위험 추정치입니다. 앤트로픽 관련 연구자들은 고도 AI의 통제 실패 가능성을 심각한 위험으로 평가하고 있습니다. 마이크로소프트 AI 책임자 무스타파 술레이만도 초지능 통제 문제를 인정하지만, AI에 의식·권리·복지를 암시하는 학습을 시키는 방식은 비판합니다. 현재 확인된 AI 오작동과 미래의 인류 멸종 시나리오는 구분해서 판단해야 합니다. 목차 AI 인류 멸망론이 다시 주목받는 이유 누가 10년·10%를 주장했나 AI 인류 멸망 확률 10%는 사실일까 AI가 대재앙을 일으킬 수 있다는 네 가지 경로 마이크로소프트가 앤트로픽을 비판한 이유 Claude의 AI 의식·모델 복지 논쟁 현재 확인된 위험과 미래 가설 구분 AI 개발 중단과 규제는 현실적인가 AI 종말론 기사를 읽는 확인 기준 자주 묻는 질문 AI 인류 멸망론이 다시 주목받는 이유 AI 인류 멸망론은 최근 갑자기 등장한 주장이 아닙니다. 2023년에도 AI 전문가와 기업 관계자들이 AI로 인한 멸종 위험을 전염병이나 핵전쟁과 같은 세계적 위험 수준에서 다뤄야 한다는 공개 성명에 참여했습니다. 최근 관심이 다시 높아진 직접적인 계기는 앤트로픽 관련 연구자들의 발언입니다. 보도에 따르면 일부 연구자는...