Open AI i raport 2025
Open AI i raport 2025, czyli o tym, jak się zmieniają możliwości w korzystaniu ze sztucznej inteligencji. Czy jesteśmy na to gotowi? Otóż na świecie pojawiło się coraz więcej włamań i kradzieży danych. Zgadnijcie z jakich państw? Ok, ok… Nie będę trzymał Was w niepewności. Oczywiście z Chin, Rosji i Korei Północnej (szarą eminencją, lekko w cieniu, jest tu Iran). Ale żeby nie być gołosłownym…
OpenAI
Przeczytałem właśnie raport (z czerwca tego roku) z OpenAI, dotyczący wsparcia rządu USA w zwalczaniu cyberprzestępczości. Niestety nie mam dla Was dobrych wieści. Wszystko to, co pisałem we wcześniejszych artykułach stało się prawdą. „Teoria martwego internetu” – jest, „Face Swap AI” – również jest. Może jednak wolicie „oszustwa finansowe z AI„? – tak, też są! Oczywiście nie mogło zabraknąć i „Deepfake„.
Na uwagę zasługują metody, jakimi posłużyli się cyberprzestępcy. Otóż na początku wykorzystali oni dane firmy (a właściwie jej pracowników). Włamywacze użyli ChatGPT jako narzędzia badawczego, które pomogło im w informowaniu o konfiguracjach pracy zdalnej.
Użyli modeli AI do generowania tekstu dotyczącego rekrutacji prawdziwych osób w USA,
które miałyby odebrać firmowe laptopy, ze zdalnym dostępem dla cyberprzestępców.
Oszuści używali przy tym takich narzędzi jak Tailscale, czyli peer-to-peer VPN oraz OBS Studio. Wstrzykiwali transmisję na żywo za pomocą vdo.ninja i tworzyli pętle przechwytywania HDMI jako część swoich operacji.
Narzędzia te były wykorzystywane do obejścia korporacyjnych środków bezpieczeństwa i umożliwiały utrzymanie stałej, niewykrytej obecności zdalnej. Pomogły również przy ominięciu niektórych procesów weryfikacji tożsamości, które polegają na spotkaniach wideo na żywo.
Chiny i social media
Jednym z głównych graczy są tu z pewnością Chiny i ich hakerzy. Operacja “Sneer Review” pokazała do czego są zdolni. Otóż wykorzystali one skradzione dane osobowe do uwiarygodniania np. swoich ambicji w zajęciu Tajwanu, promowania golizny czy też krypto waluty, poprzez automatyczne pisanie postów na platformach takich jak TikTok, X, Facebook, Reddit czy innych forach.
Stworzone przez AI awatary o realnych imionach i nazwiskach opowiadały i przekonywały w różnych językach do swoich treści. Wstępna weryfikacja pokazywała, że faktycznie istnieją i piszą z rejonów w których mieszkają (również w swoich językach). Co lepsze, zaraz pojawiały się odpowiedzi i polubienia tekstów. Oczywiście również napędzane przez AI („Teoria martwego Internetu”).
Do tego wszystkiego zdjęcia wygenerowane są na podstawie danych nielegalnie uzyskanych z kradzieży tożsamości.
Operacja “VAGue Focus”
Podczas tej operacji mała grupa hakerów próbowała publikować i rozprzestrzeniać nieautentyczne informacje na temat amerykańskich i europejskich polityków. Do tego działania miały być wykorzystane dane osobowe dziennikarzy oraz naukowców i ich wygenerowane przez AI podobizny oraz fałszywe informacyjne strony internetowe.
Ciekawostką są całe portale internetowe, które generują sztuczny przekaz pod konkretną tezę. W raporcie podano dwa z nich. “Focus Lens News” podawał się tam jako niezależny podmiot z siedzibą w Europie, specjalizujący się w analizie i raportowaniu. Badacze z Open AI twierdzą jednak, że ta marka faktycznie służyła jako przykrywka ułatwiająca gromadzenie, analizę i rozpowszechnianie informacji wywiadowczych.
Drugim graczem był “Visionary Advisory Group” (VAG Group), czyli firma z siedzibą w Turcji i specjalizująca się w świadczeniu profesjonalnych usług doradztwa geopolitycznego. Operatorzy kont ChatGPT użyli modeli do przetłumaczenia instrukcji z chińskiego na angielski, twierdząc, że VAG Group poszukiwało informacji o polityce gospodarczej i finansowej USA i było gotowe zapłacić 2000 USD za godzinę za wywiad.
Tłumaczyli również (przy pomocy ChatGTP) oferty zapłaty za tajne dokumenty. Nie ma jednak dowodów potwierdzających, czy te oferty zostały rozesłane oraz czy otrzymały jakiekolwiek odpowiedzi lub przyniosły rezultaty.
Niektóre konta w social mediach powoływały się dla uwiarygodnienia na materiały zawarte właśnie na tych stronach.
Operacja “ScopeCreep”
Operacja “ScopeCreep”, polegała na zbadaniu fenomenu, związanego z próbą stworzenia przez Rosjan zaawansowanego malware -u. ChatGPT miał w założeniu podać możliwości w dostarczeniu, wykonaniu, unikaniu i eksfiltracji przez złośliwe oprogramowanie.
Oszuści skupili się głównie na:
- Zawartość C2 (command-and-control) zaprojektowane tak, aby unikać wykryć opartych na sygnaturach;
- Skryte uruchamianie poprzez DLL (Dynamic Link Library);
- Ukrywanie poprzez niestandardowe pakowanie Themidą;
- Podnoszenie uprawnień i unikanie ich w miejscach niekorzystnych;
- Komunikacja HTTPS poza portem 80;
- Kradzież sesji, poświadczeń i ciasteczek zapisanych w przeglądarkach;
- Przesyłanie alertów do włamywaczy poprzez „Telegram”;
- Ukrywanie ruchu poprzez połączenia proxy.
Oczywiście połączenie hakera z ChatGTP nastąpiło z „lewego” adresu, dostarczonego tylko na czas uzyskania odpowiedzi.
STORM-2035
Tym razem to Iran postanowił pokazać się całemu światu, poprzez dostarczanie fałszywych informacji. Dotyczyły one polityki imigracyjnej USA, niepodległość Szkocji, zjednoczenie Irlandii i rozmów USA-Iran.
Całość ładnie przetłumaczona na język hiszpański i angielski oraz dostarczona na social media. Oczywiście wszystko opisane automatycznie poprzez fikcyjne awatary udające prawdziwe osoby. Całość odpowiednio polubiona i cytowana dalej.
Podsumowanie
Polecam szczerze cały raport Open AI (link na górze). Oczywiście jest tam dużo więcej akcji związanych z kradzieżą danych, przesyłaniem fałszywych informacji i operacji wywiadowczych. Jak widać pomysłowość cyberprzestępców nie ma granic. Przyznaję z przykrością, że zbyt często o tym piszę. Niemniej jednak staje się to faktem.
Dzisiejsze możliwości techniczne pozwalają przestępcom na dużo bardziej zaawansowane metody oszustwa. Całość jest tak spreparowana, by potencjalny czytelnik myślał, że jest to prawda. Nasze dane osobowe właśnie pokazały jak są ważne. Kradzież tożsamości, sztucznie generowana grafika i filmy, błyskawiczne tłumaczenie na wiele języków i pełna automatyka w dodawaniu kont i wpisów na różnych social mediach przekroczyła już poziom krytyczny.
Przestajemy powoli odróżniać fikcję od rzeczywistości. Owszem, jest wiele osób które zauważą próbę oszustwa. Jednak ilu z Nas, tak naprawdę, przeszuka Internet w celu potwierdzenia informacji? Zapewne tylko ułamek całego społeczeństwa. Zbyt szybki poziom życia, natłok informacji i przyzwyczajenia robią z Nas osoby mało odporne na indoktrynację. Dajemy się podejść. Stajemy się nie uważni. Co dalej? Ano…
Zobaczymy, a póki co…
Do następnego!
