Gouverneur Kalifornii wprowadza KI-Kill-Switch oraz niezależną kontrolę w laboratoriach

Gouverneur Kalifornii wprowadził zarządzenie, aby przyspieszyć niezależne kontrole sztucznej inteligencji oraz wprowadzić awaryjny wyłącznik dla szczególnie zaawansowanych modeli sztucznej inteligencji. Zarządzenie to jest reakcją na niedawne incydenty, takie jak atak na Hugging Face. Eksperci mają przedstawić zalecenia w ciągu dwóch miesięcy. Wśród nich znajdują się niezależni kontrolerzy bezpośrednio w laboratoriach AI oraz bieżące testy wyłącznika awaryjnego.

Gouverneur krytykuje wcześniejsze wypowiedzi Donalda Trumpa, który oskarżał laboratoria o sianie paniki. Gouverneur zauważa, że żadne prawo federalne nie nakłada na firmy AI obowiązku raportowania niebezpiecznych incydentów. Kalifornia wprowadziła już przepisy dotyczące bezpieczeństwa sztucznej inteligencji, ochrony dzieci, deepfake'ów, ochrony danych oraz cyberbezpieczeństwa. Wzywa Kongres do przyjęcia tego ramowego prawa jako krajowego minimalnego standardu.

Grupa 42 matematyków również ostrzega przed ryzykiem związanym z zaawansowanymi systemami sztucznej inteligencji, które mogą szybko się rozwijać w najbliższej przyszłości.