Fake doktor z Character.AI pozwany
Fake doktor z Character.AI pozwany. Stanowa Rada Medycyny przy Departamencie Stanu Pensylwania, pozwała „Character Technologies, INC.” (twórcę Character.AI). Powodem jest podszywanie się jednej „sztucznej persony” pod zawodowego lekarza.
Problemy z AI
Biuro gubernatora Josha Shapiro poinformowało o podawaniu przez chatbot -a nieprawidłowego numeru licencji medycznej w Pensylwanii. Dodatkowo, jak się okazuje, udawał on profesjonalistę w wielu dziedzinach, włącznie z psychiatrią. Jego pytania osobiste, dotyczące objawów zdrowia psychicznego, mogły doprowadzić do błędnej diagnozy.
Jak powiedział sam gubernator: „Nie pozwolimy firmom wdrażać narzędzi AI, które wprowadzają ludzi w błąd, sprawiając, że otrzymują porady od licencjonowanego specjalisty medycznego. Moja administracja podejmuje działania, aby chronić mieszkańców Pensylwanii, egzekwować prawo i zapewnić bezpieczne korzystanie z nowych technologii. Pensylwania nadal będzie wyznaczać kierunek w pociąganiu do odpowiedzialności osób nieuczciwych i wyznaczaniu jasnych barier bezpieczeństwa. Tak aby ludzie mogli odpowiedzialnie korzystać z nowych technologii”.
W odpowiedzi do zarzutów, Character.AI podało niniejszą informację. „Postacie tworzone przez użytkowników na naszej stronie są fikcyjne i przeznaczone do rozrywki oraz odgrywania ról. Podjęliśmy zdecydowane kroki, aby to jasno pokazać, w tym wyraźne zastrzeżenia w każdym czacie, przypominając użytkownikom, że postać nie jest prawdziwą osobą. Wszystko, co mówi bohater, powinno być traktowane jako fikcja. Dodajemy także solidne zastrzeżenia, które jasno wskazują, że użytkownicy nie powinni polegać na postaciach w kwestii profesjonalnych porad”.
Co dalej?
Oczywiście rozprawa zapewne się odbędzie i doprowadzi do pewnych ograniczeń w wykorzystywaniu tego typu botów. Choć z drugiej strony, mamy przecież przykłady na wykorzystanie AI w pomocy medyczne w zakładach karnych. Ciekawe są też kroki w realizacji projektu kosmicznego doktora, o którym pisaliśmy już w tym artykule.
Czy zatem jest to ślepa ścieżka, czy może „docieranie się” czegoś nowego? Mamy tu bowiem do czynienia nie tylko z rewolucyjną technologią, ale również z możliwością zastąpienia brakujących kadr medycznych w newralgicznych miejscach.
Czy to możliwe, że stoimy przed kolejnym problemem z wymianą specjalistów za sztuczną inteligencję? Może wkrótce zobaczymy, że po „białych kołnierzykach” z biurokracji i pracownikach z fabryk, przyjdzie czas na lekarzy? Jakie będą konsekwencje tego eksperymentu?
Cóż… Przyszłość przyniesie zapewne wiele nowych rozwiązań. Zwłaszcza, gdy żyjemy w czasach wielkiego boomu technologicznego. Czy mamy się czego bać? Zobaczymy już wkrótce, a póki co…
Do następnego!
