Rota planejada por IA deixa trilheiro ilhado à beira de penhasco e mobiliza resgate de helicóptero
Um jovem de 16 anos foi resgatado de helicóptero em uma encosta íngreme perto de Vancouver após usar o Claude, da Anthropic, para traçar uma nova rota até o cume; socorristas alertam que grandes modelos de linguagem não compreendem a geografia e o terreno do mundo real.
Um trilheiro de 16 anos precisou ser resgatado de helicóptero na Crown Mountain, perto de Vancouver, após tentar percorrer um caminho planejado com um chatbot de inteligência artificial.
Bryce Vincent Gowryluk usou o Claude, da Anthropic, para encontrar uma rota alternativa até o cume. Em vez de uma trilha caminhável, o trajeto o levou diretamente para a "Widowmaker Arete", um paredão rochoso quase vertical que exige equipamentos especializados de escalada. Gowryluk acabou ficando ilhado em uma saliência estreita de apenas cinco pés de largura.
Operação com guincho de helicóptero
Incapaz de subir ou descer em segurança, o adolescente entrou em contato com a polícia local, que alertou a equipe voluntária de resgate North Shore Rescue.
Os socorristas rastrearam o sinal do celular de Gowryluk e enviaram um helicóptero até a montanha. Dois membros da equipe de resgate desembarcaram acima da posição do jovem no paredão de pedra. Um deles desceu de rapel até a saliência e guiou Gowryluk até um ponto de extração, onde a tripulação do helicóptero conseguiu içá-lo em segurança.
Os limites dos LLMs na navegação no mundo real
Após o resgate, Gowryluk declarou que assume a responsabilidade pelo incidente e não coloca a culpa inteiramente no Claude, destacando que também consultou o Google Maps e o AllTrails ao se preparar para a caminhada. No entanto, ele confirmou que nunca mais confiará em ferramentas de IA para planejar rotas ao ar livre.
Paul Markey, gerente de resgate envolvido na operação, alertou contra a dependência de chatbots de IA para travessias em áreas remotas. Markey enfatizou que modelos como o Claude não possuem nenhuma compreensão real do terreno físico ou de localizações geográficas específicas, reforçando que a IA não substitui a experiência ao ar livre e o discernimento prático.
A Anthropic não respondeu aos pedidos de comentário sobre o ocorrido.
