Kunstig intelligens har gjort sikkerhet gjennom uklarhet foreldet

Konseptet med sikkerhet gjennom uklarhet, som innebærer at systemer forblir trygge så lenge arkitekturen og sårbarhetene er skjulte, anses nå som utdatert. Kunstig intelligens har gjort det mulig å avdekke svakheter i systemer som tidligere ble ansett som sikre fordi de var lite kjent eller komplekse.

Programvareleverandører og uavhengige forskere bruker nå agenter med kunstig intelligens for å finne feil i produkter og åpen kildekode. Dette inkluderer svært uklar kode som er flere tiår gammel. Utviklingen har ført til et rekordhøyt antall sikkerhetsmeldinger og rettelser, noe som har skapt en massiv arbeidsmengde for de som vedlikeholder prosjektene.

Brett Leatherman fra FBI opplyser at nyere modeller har vært i stand til å bryte biblioteker som har vært synlige for teknologimiljøet i ti år og som kjører på 80 prosent av alle webservere. Dustin Childs fra Trend Micro peker på at nylige oppdateringer fra Microsoft og Adobe har rettet feil i komponenter som ingen har snakket om på mange år, inkludert Telnet-klienter, Windows RNDIS, NFS Portmapper fra 1980-tallet og Link Layer Topology Discovery fra Vista-tiden. Microsoft rettet nylig 974 sårbarheter i en enkelt oppdatering.

Angripere benytter også kunstig intelligens til å analysere rettelser og finne utnyttelsesmetoder i løpet av få timer. Fire spionasjegrupper, som mistenkes for å ha koblinger til Kina, utnyttet et gap i utrullingen av en rettelse for Chromium ved å bruke et verktøysett utviklet kort tid etter at rettelsen ble publisert.

Det er uttrykt stor bekymring for operasjonell teknologi og industrielle kontrollsystemer. Disse systemene styrer kritiske tjenester som strøm, gass og drikkevann. Historisk sett har disse vært beskyttet fordi de bruker proprietær maskinvare og uklare protokoller. Kunstig intelligens gjør det nå mulig for kriminelle å utføre angrep uten å være eksperter på feltet, ved at de lar en agent lære om systemene.

Fem amerikanske etater har advart om at dette er en aktiv trussel. De rapporterer at angripere har brukt skript generert av kunstig intelligens for å bryte inn i internetteksponerte Siemens S7-serien programmerbare logiske styringer ved anlegg for vann, energi og produksjon.

Katie Moussouris fra Luta Security mener at kunstig intelligens gjør hacking betydelig enklere fordi teknologien har absorbert all tilgjengelig informasjon. Hun påpeker imidlertid at det største problemet ikke er å finne feil, men å prioritere og fikse dem. Ifølge Moussouris har ikke den defensive siden av sikkerheten holdt følge, og studier viser at rettelser generert av kunstig intelligens feiler mer enn halvparten av gangene.