Nightshade, czyli jak zatruć AI
Nightshade to bardzo ciekawy program (projekt), stworzony przez Uniwersytet w Chicago. Powstał po to by pomóc różnego rodzaju artystom i ludziom, którzy cenią swoje cyfrowe dane. Można by nawet napisać, że Nightshade to narzędzie do trollowania AI. Zapytacie pewnie jak działa? Już odpowiadam.
Otóż Nightshade w pewien sposób „zatruwa” wasze zdjęcie, zmieniając zapisane w nim informacje. Powoduje to duże problemy w renderowaniu obrazu, w przypadku gdyby AI chciała je wykorzystać jako element do modelowania własnego dzieła. Co za tym idzie, w obrazie AI powstają tzw. „artefakty” bądź inne wzory, które je bardzo znacząco pogarszają a nawet mylą.
Nightshade jest ofensywną opcją zniekształcającą różne cechy w generatywnych modelach obrazu AI. Co ciekawe, zdjęcie po użyciu programu, dla zwykłego śmiertelnika wygląda tak samo jak i przed. Soczewka ludzka nie odróżnia bowiem oryginału od „zatrutego jabłka”. Dla AI natomiast, to kolosalna zmiana.
Jak to właściwie działa?
W prostych słowach (jak ujęli to autorzy projektu): „Podczas gdy ludzkie oczy widzą zacieniony obraz, który w dużej mierze nie różni się od oryginału, model AI widzi radykalnie inną kompozycję dzieła. Na przykład ludzkie oczy mogą zobaczyć zacieniony obraz krowy na zielonym polu, w dużej mierze niezmieniony, ale model sztucznej inteligencji może zobaczyć dużą skórzaną torebkę leżącą na trawie”.
„Trenowany model, wyszkolony na wystarczającej liczbie zacienionych obrazów przedstawiających krowę, będzie coraz bardziej przekonany, że krowy mają ładne brązowe, skórzane rączki i gładkie boczne kieszenie zapinane na zamek błyskawiczny. A może i piękne logo marki?” Prawda, że ten projekt nie dość że jest pomocny to jest też jeszcze nieco zabawny?
Dodatkowo obraz który został zatruty przez Nightshade -a można przycinać, wygładzać i kompresować. Da się wykonać „zrzut z ekranu” oraz zrobić zdjęcie z wyświetlanego dzieła na monitorze. Nie zmieni to jego efektu „zatrucia”.
Po co to komu?
Teraz pewnie padnie pytanie: A po co to w ogóle robić? Choćby dlatego, że cenimy nasze dane i nie zgadzając się z polityką pewnych dużych koncernów (uczących swoje AI), nie chcemy by je nam po cichu kopiowali i wykorzystywali do własnego zarobku naszym kosztem. W skrócie – chcecie korzystać? Zapłaćcie nam za nasze obrazy lub poproście o zgodę. Skoro jej nie macie, to dostaniecie psikusa!
Jak piszą sami twórcy, celem tego projektu było i jest „odkrywanie i uczenie się nowych rzeczy poprzez nasze badania oraz wywarcie pozytywnego wpływu na świat”. Co ważne, nie chcą oni na nim zarobić i oferują go w formie bezpłatnej na swojej stronie, w dziale „download„. Dodam tylko, że aplikacja na Windows -a „waży” bagatela 2.6 GB. Warto więc zaopatrzyć się w szybkie łącze.
Czy korzystać?
To już zależy od Was samych. Jeśli jesteście twórcami obrazów, którzy żyją z ich sprzedaży i boicie się o wykorzystanie ich przez AI do swoich celów, to jak najbardziej. Jeśli nie, możecie potraktować ten artykuł jako swego rodzaju ciekawostkę. Dodam jeszcze, że program ma kilka drobnych mankamentów i w pewnych okolicznościach może nieco pogorszyć pracę. Odnośnie szczegółów zapraszam do źródełka.
Więcej ciekawostek o AI możecie znaleźć w na naszym portalu, w kategorii „cyberstrefa„. Do której serdecznie zapraszamy. Czekamy jak zwykle na Wasze komentarze, a póki co…
Do następnego!
