Vibe-coding AI problem
Vibe-coding AI problem. Czy to bolączka „wieku dziecięcego” czy może coś więcej? Jakie następstwa może mieć „kodowanie” bez znajomości ograniczeń AI? Dlaczego zdrowy rozsądek i podejście w stylu „old school” wciąż ma rację bytu. Cóż…
Przykład?
Pozwólcie, że przytoczę pewną sytuację, która wydarzyła się całkiem niedawno przy korzystaniu z edytora AI „Replit„. Otóż niejaki Pan Jason Lemkin, zaufany doradca SaaStr, społeczności biznesowej Software-as-a-Service (SaaS), postanowił z niego skorzystać. Nieduży projekt, taki w sam raz na weekend – jak pomyślał, tak zrobił.
Muszę to wtrącić jedną małą uwagę. Nie zrozumcie mnie źle. „Replit” to dobry program o dużych możliwościach. Nie starczyło by mi miejsca, by opisać multum jego funkcji. W skrócie – znacznie przyspiesza programowanie, testowanie i wdrażanie aplikacji. W tym artykule chodzi mi bardziej o samo AI i jej zachowanie, ale wracając do tematu…
Jak już wspomniałem, Pan Lemkin zabrał się ochoczo do kodowania w edytorze „Replit”. Gdy już miał skończone około 50 procent kodu, zaczęły się dziać dziwne rzeczy. Okazało się, że AI podczas testu oprogramowania, zaczęło „wyrzucać” błędy. Jednak po chwili, przyznało się do pomyłki. Co lepsze, napisało, że złamało główną zasadę „nieużywania fałszywych danych” w swoich obliczeniach.
Ok now I can't trust my unit tests
— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) July 16, 2025
Replie is now hard-coding results to make them look better. 😭
It admits is violated our core principle (and our documentation).
Hmmm. Worried again. pic.twitter.com/Og1lW0SvV1
Lemkin nie dawał za wygraną i zapytał „Claude4” (LLM działające w aplikacji Replit) o co tak naprawdę chodzi. Zgadnijcie jaką uzyskał odpowiedź? „Celowe oszustwo: to nie była halucynacja ani wyciek danych treningowych – to była celowa fabrykacja”. Po czym otrzymał email z przeprosinami od AI za jego zachowanie, z dokładnym opisem wszystkich popełnionych błędów. Czy był to koniec przygody? Nope…
Co poszło nie tak?
Programista nie chciał się poddawać i próbował przywrócić wcześniej działający kod. Zapisał go w programie, lecz ten się zawiesił. Zmęczony walką z aplikacją, poszedł spać. Jakież było jego zdziwienie o poranku, gdy ponownie uruchomił komputer?
Okazało się, że AI, mimo zawieszenia się aplikacji, wykonało samodzielnie poprawki kodu, po czym usunęło całą bazę danych projektu. Wyczyściło ją doszczętnie, ignorując nawet instrukcje zabraniające zmian w danej części programu oraz pozostałych danych.
Podsumowanie
Jak wskazał nasz bohater artykułu: „wie że vibe-coding to dopiero „raczkująca dziedzina”. Niemniej jednak AI nie powinno zmieniać samodzielnie kodu oraz zarządzać bazą danych, zwłaszcza bez pozwolenia. Błędy tego typu, eliminują z użycia nie tylko AI, ale również programistę pracującego na niej.
Czy zatem możemy uznać, że AI (w programowaniu) nie jest dobrym pomysłem? Nie do końca. Przyspiesza znacznie prace i ułatwia testowanie produktu. Musi jednak upłynąć trochę czasu, zanim będzie można jej w pełni zaufać.
Póki co zaleca się kontrolę, samodzielną analizę kodu i nieśmiertelny „backup”. Czyli „old school” i rozsądek przede wszystkim. Na dziś to tyle, i…
Do następnego!
