Chińskie firmy DeepSeek i Moonshot AI pod lupą służb za przekazywanie danych do USA

Chińskie organy regulacyjne wszczęły dochodzenie przeciwko DeepSeek oraz Moonshot AI, dwóm czołowym firmom z sektora sztucznej inteligencji. Firmy te są podejrzewane o przekazywanie zapytań i danych chińskich użytkowników do modelu Claude firmy Anthropic bez ich wiedzy.

Śledztwo rozpoczęło się po tym, jak Anthropic wykryła nietypową aktywność obejmującą dziesiątki milionów interakcji ze swoim chatbotem. Amerykańska firma przypisuje tę aktywność chińskim podmiotom, które miały wykorzystywać Claude do procesu zwanego destylacją. Metoda ta polega na wykorzystywaniu odpowiedzi zaawansowanego modelu do trenowania i ulepszania innych systemów. Według danych Anthropic, łącznie odnotowano ponad 35 milionów interakcji, z czego ponad 23 miliony przypisano Moonshot, a ponad 12 milionów DeepSeek.

Szczególnie kontrowersyjne są doniesienia, że Moonshot przekazywała do Claude rzeczywiste zapytania użytkowników swojego asystenta Kimi. W ciągu jednego dziesięciodniowego okresu zidentyfikowano prawie 300 tysięcy takich próśb przesłanych za pomocą tysięcy kont. W jednym z przypadków użytkownik Kimi prosił o analizę danych z systemu monitoringu w mieście Chengdu, który obejmował kamery przy obiektach Armii Ludowej Wyzwolenia oraz instytucjach przemysłu obronnego. Dane te zostały przetworzone przez amerykański model, co jest kwestią krytyczną dla Pekinu ze względu na surowe przepisy dotyczące transferu informacji związanych z bezpieczeństwem narodowym poza granice kraju.

Chińska Administracja Cyberprzestrzeni, znana jako CAC, wezwała menedżerów i pracowników obu firm na przesłuchania. Służby badają, w jaki sposób wykorzystywano Claude, jaki zakres danych został przesłany oraz czy użytkownicy byli świadomi, że ich zapytania opuszczają chińskie systemy. Dochodzenie ma ustalić, czy doszło do naruszenia prawa dotyczącego transferu danych strategicznych i rządowych.

Sytuacja ta zbiega się w czasie z planowanym briefingiem dla Rady Bezpieczeństwa ONZ na temat ryzyk sztucznej inteligencji dla bezpieczeństwa międzynarodowego, w którym miały uczestniczyć obie firmy. Według doniesień Reuters, założyciel DeepSeek, Liang Wenfeng, nie powinien wziąć w nim udziału. Sprawa ta stawia pod znakiem zapytania stopień niezależności chińskiego sektora sztucznej inteligencji od technologii z USA.