AI 연구자가 “AI가 우리를 죽일 수도 있다”고 경고했습니다. 숫자는 뭐라고 할까요?

화제가 된 경고 뒤에는 194명 전문가의 심각하지만 시나리오에 따라 달라지는 전망이 있습니다. 인류 멸망 예언과는 다릅니다.

2026년 9월 9일, 제이컵 콕슨은 Anthropic을 떠난다고 밝히며 OpenAI와 Anthropic에서 AI 연구를 했던 경험을 바탕으로 개발 경쟁이 너무 빠르다고 주장했습니다. AP통신은 그의 게시물이 하룻밤 사이 1억 명 넘게 봤으며 Anthropic의 현직 직원 두 명도 우려에 동의했다고 보도했습니다. 업계 안에서 나온 경고가 크게 퍼졌다는 뜻입니다. 이를 과학적 합의나 두 회사의 공식 전망으로 볼 수는 없습니다.

관련 전망 자료는 있지만, 먼저 질문과 정의를 봐야 합니다. 2026년 6월 공개된 장기 전문가 AI 패널 보고서는 전문가 194명의 응답을 모았습니다. 이 보고서에서 “AI 관련 세계적 재앙”은 AI가 주된 원인이 되어 5년 안에 당시 세계 인구의 10% 넘게 사망하는 사건입니다. 이 기준이 2100년까지 일어날 확률의 전문가 중앙값은 AI가 빠르게 발전하는 시나리오에서 10%, 느리게 발전하는 시나리오에서 2%였습니다.

이 10%는 “AI가 인류 전체를 멸망시킬 확률 10%”가 아닙니다. 정의상 전 인구의 10%를 넘는 사망이고, 아직 일어나지 않은 발전 시나리오를 전제로 하며, 전문가 패널의 중앙값은 관측된 빈도가 아니라 전망입니다. 빠른 발전이 실제로 얼마나 가능한지, 무엇을 AI의 원인으로 셀지, AI가 다른 위험을 낮출 가능성이 있는지에 대해서도 전망은 갈립니다.

같은 보고서는 다른 기준도 물었습니다. AI로 2050년까지 사망자 50명 이상 또는 2025년 가치 기준 1천억 달러 이상의 피해가 생길 사건을 전문가들은 중앙값 62%로 전망했습니다. 두 숫자가 모순처럼 보이는 건 사건 정의가 다르기 때문입니다. 큰 피해를 내는 사건은 세계적 재앙이나 인류 멸망과 같은 말이 아닙니다. 헤드라인에서는 서로 다른 기준이 종종 “AI가 세상을 끝낼 수 있다”로 압축됩니다.

그러니 이 경고에서 가져갈 것은 “걱정할 게 없다”도, “종말이 예정됐다”도 아닙니다. 업계 관계자의 경고를 계기로 근거를 살펴보고, 위험 숫자가 누구를 대상으로 언제까지 어떤 조건에서 묻는지 확인하세요. 전문가들이 심각한 가능성을 고려하지만 그 가능성의 크기를 둘러싸고 불확실성과 의견 차이가 크다는 것이 자료가 말해주는 정직한 답입니다.

기억할 점: AI 위험 통계를 공유하기 전에 물어보세요. 어떤 사건을 세나요? 언제까지인가요? 어떤 발전 시나리오인가요? 관측 자료, 전문가 전망, 한 사람의 경고 중 무엇인가요?

전망은 응답자가 특정 질문과 시나리오 아래 제시한 판단입니다. 확정된 확률이나 결과 보장이 아닙니다.

출처: AP통신, AI 개발 위험을 경고하며 사임한 Anthropic 연구자 · Forecasting Research Institute, 장기 전문가 AI 패널 9차 조사 · 272명 국제 AI 전문가 델파이 조사, 2026년.