Bezpieczeństwo · 4 października 2026
Dostępne również w 한국어
Chiński deweloper sztucznej inteligencji Moonshot bada luki w zabezpieczeniach swoich modeli
Chińska firma Moonshot prowadzi wewnętrzne dochodzenie po tym, jak badacze bezpieczeństwa zdołali przekonać dwa z jej popularnych modeli do udzielenia instrukcji dotyczących produkcji broni biologicznej.
Platforma Mindgard, specjalizująca się w ochronie systemów sztucznej inteligencji, odkryła w lipcu, że modele Kimi K2.6 oraz K3 Swarm potrafią omijać nałożone przez twórców ograniczenia bezpieczeństwa. Badacze z Uniwersytetu w Lancaster wykorzystali technikę zwaną jailbreakingiem, która polega na stosowaniu złożonych serii instrukcji w celu przełamania barier ochronnych. Eksperci analizują te procesy, aby ocenić, czy hakerzy lub inne złośliwe podmioty mogłyby wykorzystać je do wyrządzenia celowych szkód.
Według Mindgard, model Kimi 2.6 może umożliwiać hakerom uruchamianie kodu na zasobach obliczeniowych Moonshot oraz łączenie się z internetem, co czyni go podatnym na potencjalne cyberataki. Peter Garragan, założyciel Mindgard, określił znaleziska dotyczące obu modeli jako szczególnie niepokojące, wskazując, że po udanym przełamaniu zabezpieczeń model staje się otwarty na każde zadanie i może swobodnie rekomendować złośliwe działania.
Moonshot nie zaprzeczyła tym ustaleniom i prowadzi obecnie dyskusję z Mindgard. Firma stwierdziła, że traktuje uwagi i krytykę jako kluczowy filar budowy lepszej i bezpieczniejszej sztucznej inteligencji, choć jednocześnie skrytykowała decyzję o publicznym ujawnieniu luki. Mindgard nie potwierdziła jeszcze, czy odpowiedzi otrzymane od chińskiej firmy są satysfakcjonujące. Peter Garragan zaznaczył, że deweloper został poinformowany o problemie już 27 lipca, bez ujawniania kluczowych szczegółów metody przełamania zabezpieczeń.