42 ledande matematikern varnar i ett öppet brev för existentiella KI-risker

En grupp av 42 framstående matematikern varnar för de existentiella riskerna med avancerad KI. I ett öppet brev till presidenten för Royal Society uppmanar de den brittiska vetenskapsakademin att informera regeringen och medierna om situationens allvar. Ingen av undertecknarna är involverad i KI-företag.

Inom tre månader har ledande modeller från OpenAI och Anthropic löst öppna forskningsfrågor, inklusive ett av de sju millenniumproblemen, och arbetar nu på samma nivå som de bästa matematikern.

Effekterna på deras eget område är dock inte anledningen till brevet. Gruppen varnar för att dessa förmågor också kan ha betydande konsekvenser inom områden som cybersäkerhet, autonoma vapen, biologiska och kemiska stridsmedel samt riktad desinformation. Indikationer från KI-laboratorier på ett existentiellt risk över tio procent bör inte avfärdas som överdrivna. Om situationen blir uppenbar för allmänheten kan det vara för sent att agera.