Anthropic-veteraner planerar återflytt till avlägsna US-regioner

Några av de mest erfarna medarbetarna på Anthropic överväger att vidta konkreta försiktighetsåtgärder om artificiell intelligens skulle gå snett. Enligt uppgifter från en branschkollega har de diskuterat att köpa mark i avlägsna områden i USA för att kunna flytta dit om utvecklingen av AI skulle gå fel.

Diskussioner om att fly från potentiella AI-risker är inte nya. Tidigare anställda minns att det redan under tidiga företagsevenemang på Anthropic talades om scenarier liknande Manhattanprojektet, där de kunde bli ombedda att flytta till en avskild plats för att utveckla AI i en elektromagnetiskt avskärmad anläggning som tillhör den amerikanska regeringen.

Rapporten visar även hur tidiga medarbetare på Anthropic och OpenAI är nära kopplade till subkulturen "Effective Altruism". Många av dem kommer från ett nätverk av "Doomers" som länge har diskuterat världens undergångsscenarier. Eliezer Yudkowsky, en av de första att varna för okontrollerad AI, blev en intellektuell ledare inom denna subkultur under mitten av 2000-talet.