Claude AI z Anthropic okradzione?
Claude AI z Anthropic okradzione? Właśnie dowiedzieliśmy się o ciekawej akcji związanej z chińskim Alibabą. Okazuje się, że ten azjatycki gigant e-commerce wykonał właśnie proceder typu „Knowledge Distillation” (destylacja wiedzy) na wyżej wymienione AI.
Destylacja wiedzy
Co to jest właściwie „destylacja wiedzy”? Jest to w sumie standardowa technika uczenia maszynowego. Polega na kompresji dużych modeli (LLM) do mniejszych, równie wydajnych i zarazem tańszych. Zarzut postawiony przez Anthropic dotyczy kopiowania wzorców rozumowania, zachowań bezpieczeństwa i specjalistycznych możliwości za ułamek pierwotnego kosztu.
Innymi słowy Alibaba uczył swoją AI na skalę przemysłową, korzystając z API Anthropic-a i nie płacił tyle, ile zainwestował w swoją sztuczną inteligencję producent Claude AI. Nieźle co? Gdyby ktoś chciał się dowiedzieć więcej na temat „destylacji wiedzy” w AI, to zapraszam pod ten link (j.angielski). Jak do tego doszło?
Technika
Okazuje się, że Alibaba wykorzystał do tego około 25000 fałszywych kont, zwanych „hydra klastrami”. Rozprowadzały one żądania API poprzez sieć proxy. Cała akcja trwała 44 dni i zdążyła wygenerować 28,8 miliona interakcji.
Co ciekawe, żądania były strukturyzowane tak, aby naśladować normalny ruch użytkownika, jednocześnie cicho pobierając zebrane dane wyjściowe. Wśród nich znalazły się takie jak inżynieria oprogramowania, rozumowanie agentyczne, złożone planowanie oraz wykorzystanie narzędzi.
Jak na to wszystko wpadł Anthropic? Ano ponoć przypisał całej kampanii korelację IP, metadane żądań oraz odciski palców infrastruktury. Dzięki temu wyizolował potencjalny cel wycieku i zapisał dowody.
USA ogranicza AI
Patrząc na te dane, nie sposób dojść do wniosków zbieżnych z rządem Stanów Zjednoczonych. Nic dziwnego, że ograniczają one dostęp do najnowszych dużych modeli językowych (LLM) dla użytkowników spoza ich kraju.
Bo jak właściwie mają zareagować na to, że ktoś perfidnie okrada ich pracę i tworzy konkurencję za ich własne pieniądze? Czy będzie to początkiem prac nad właściwym prawem regulującym sztuczną inteligencję na świecie? Kto wie… Może.
Podsumowanie
Z prawdziwą niecierpliwością czekam na nowe wieści ze świata AI. Wiecie dla czego? Dlatego, że jest to jeszcze niezbadana do końca dziedzina wiedzy z repertuaru IT. Akcje jak ta, lub inne np. przełamywania zabezpieczeń dużych korporacji, zapewne nie będzie ostatnią.
Sztuczna inteligencja coraz bardziej odciska swój ślad w naszym codziennym życiu. Wpływa na nasz tok rozumowania, pracę, bezpieczeństwo oraz rozwój technologii. Czy tego chcemy, czy nie, będzie tego wkrótce znacznie więcej. Pytanie tylko brzmi: „Czy będzie lepiej, czy może gorzej?
