AI · 20 października 2026
Anthropic proponuje amerykańskie polityki dotyczące AI: zakaz przy ryzyku 50 zgonów
Ostatnio ostrzegano z wielu stron o daleko idących konsekwencjach, jakie może przynieść szybki rozwój sztucznej inteligencji. Równocześnie szczególnie rozmawia się o tym, a nie podejmuje się wielu działań. Anthropic chce wprowadzić zmiany, proponując politykę bezpieczeństwa dla decydentów.
Według raportu, Anthropic przedstawił politykę rządowi amerykańskiemu. Pomysł polega na tym, że rząd powinien mieć możliwość wstrzymywania wydania modelu AI, gdy istnieje ryzyko szkód przekraczających 1 miliard dolarów lub gdy co najmniej 50 osób umrze lub zostanie ranny. Przykładem może być sytuacja, w której sztuczna inteligencja opracowuje broń biologiczną lub działa całkowicie poza kontrolą deweloperów. W polityce uwzględniono również cyberataki.
Ta polityka nie jest całkowicie nowa; w dużej mierze jest zawarta w Advanced AI Framework, który obowiązuje w Anthropic od początku tego roku. Propozycja ustawy daje rządowi możliwość „blokowania lub wstrzymywania niebezpiecznego wdrożenia najpotężniejszych modeli”. Dodatkowo zobowiązuje deweloperów do testowania przełomowych modeli i pełnej przejrzystości co do wyników tych testów.
Powinni również pojawić się niezależni oceniający, którzy będą znani w Ministerstwie Handlu i będą okresowo oceniać różne modele AI. Jeśli zauważą bezpośrednie ryzyko, muszą zgłosić to w ciągu 72 godzin do Ministerstwa Handlu. Tylko ministerstwo może zawiesić model za pośrednictwem sądu; inne agencje rządowe nie mają takiej możliwości.
Rząd amerykański jeszcze nie odpowiedział.