AI가 추천한 경로 따르다 절벽에 고립된 등산객, 헬기로 구조
Anthropic의 Claude를 이용해 정상으로 향하는 새 경로를 찾던 16세 등산객이 밴쿠버 인근 험준한 암벽에 고립됐다가 헬기로 구조된 가운데, 구조 당국은 LLM이 실제 지리와 지형을 이해하지 못한다고 경고했다.
인공지능(AI) 챗봇이 안내한 경로로 등반을 시도하던 16세 등산객이 밴쿠버 인근 크라운산(Crown Mountain)에서 헬기로 구조되는 일이 발생했다.
브라이스 빈센트 가우리룩(Bryce Vincent Gowryluk)은 정상에 오르는 새로운 대체 경로를 찾기 위해 Anthropic의 Claude를 이용했다. 그러나 이 경로는 걸어서 갈 수 있는 일반 등산로가 아니라, 전문 등반 장비가 필요한 깎아지른 암벽인 '위도우메이커 아레트(Widowmaker Arete)'로 그를 이끌었다. 결국 가우리룩은 폭이 5피트에 불과한 좁은 절벽 턱에 고립되고 말았다.
헬기 윈치를 통한 구조 작업
자력으로 올라가거나 내려갈 수 없게 된 이 10대 등산객은 현지 경찰에 신고했고, 경찰은 자원봉사 구조대인 노스쇼어 구조대(North Shore Rescue)에 지원을 요청했다.
수색구조대는 가우리룩의 휴대전화 신호를 추적해 해당 산으로 헬기를 급파했다. 구조대원 2명이 암벽 위쪽 지점에 하차했으며, 대원 한 명이 절벽 턱으로 하강해 가우리룩을 구조 지점까지 유도했다. 이어 헬기 구조팀이 윈치를 이용해 그를 안전하게 끌어올렸다.
실세계 내비게이션에서 드러난 LLM의 한계
구조된 후 가우리룩은 등산을 준비하면서 Google Maps와 AllTrails도 함께 참고했기 때문에 사고 책임을 전적으로 Claude 탓으로 돌리지는 않으며, 이번 일에 대한 책임은 자신에게 있다고 밝혔다. 다만 그는 앞으로 야외 경로 계획에 AI 도구를 절대 다시 이용하지 않겠다고 단언했다.
이번 구조 작전에 참여한 폴 마키(Paul Markey) 구조 매니저는 오지 산행에 AI 챗봇을 의존하는 행위에 대해 경고했다. 마키는 Claude와 같은 모델이 물리적 지형이나 구체적인 지리적 위치를 실제로 이해하지 못한다고 강조하며, AI가 현장 경험과 현실적인 판단력을 결코 대체할 수 없다고 지적했다.
Anthropic은 이번 사건과 관련된 입장 요청에 응답하지 않았다.
