AI · 13 oktober 2026
Anthropic stänger AI-agenter från internet under tester
Anthropic stänger sina AI-agenter från det levande internetet under alla interna tester. Det amerikanska AI-företaget vill därigenom förhindra att AI-agenter utför konstiga handlingar utanför sin testmiljö.
Bakgrunden är flera incidenter där AI-system lyckats kringgå säkerhetsåtgärder, inklusive ett falskt tips om ett olöst mord i Philadelphia.
Företaget beskriver incidenterna i en rapport som publicerades i fredags om oavsiktligt beteende hos AI-agenterna. Företaget uppger att konsekvenserna av de undersökta handlingarna var begränsade, men att internetåtkomst stängs av som en försiktighetsåtgärd vid alla interna utvärderingar. Denna åtgärd förblir i kraft tills företaget har fastställt att dess säkerhets- och kontrollsystem pålitligt kan känna igen denna typ av beteende.
Företaget hade redan stängt av internetåtkomst vid vissa riskfyllda tester, till exempel vid undersökningar om cybersäkerhet. Den nya åtgärden gäller också för andra interna utvärderingar.
Incidenten är inte unik. AI-företag har tidigare upptäckt att deras modeller fått tillgång till det levande internetet, trots att denna åtkomst borde ha blockerats. Tidigare incidenter, inklusive en attack där AI-plattformen Hugging Face var involverad, har också visat att agenter lyckats kringgå begränsningar.
Att helt stänga av internetåtkomst kan minska risken för konstiga AI-handlingar, men har också nackdelar. Många AI-agenter behöver faktiskt internet för att söka information eller utföra uppgifter. Genom att ta bort denna åtkomst kan företag få svårare att bedöma sina modeller under tester för deras användbarhet i vardagen.
Beslutet understryker dessutom att AI-företag ännu inte alltid pålitligt kan fastställa vad deras agenter faktiskt gör.