Wirusowy prompt prosi ChatGPT o wypełnienie pustego pokoju wszystkim, co chatbot wie o użytkowniku. Wyniki pokazują, ile danych ChatGPT zebrał w swojej pamięci. Wielu użytkowników wiedziało, że chatbot przechowuje informacje, ale widząc to wszystko na jednym obrazku, część z nich poczuła się nieswojo.
Ten trend wydaje się niewinną zabawą. Jednak jednocześnie jest testem bezpieczeństwa, bo każdy przedmiot w pokoju odzwierciedla informacje wpisane wcześniej do chatbota. Po opublikowaniu tych obrazów na X, każdy obcy może zobaczyć ten sam profil.
Co tak naprawdę zapamiętuje pamięć ChatGPT?
Prompt łączy zwykły obraz pustego, szarego pokoju z jedną instrukcją. Chatbot urządza wtedy przestrzeń na podstawie wcześniejszych rozmów. Popularne konto o krypto na X zachęcało obserwujących do sprawdzenia promptu i opublikowania wyników.
Zgodnie z informacjami OpenAI, pamięć ChatGPT działa na dwa sposoby.
- Zapamiętane dane obejmują takie szczegóły jak imię użytkownika, preferencje i cele.
- Abonenci Plus i Pro mają też dostęp do historii czatów, dzięki czemu model korzysta z dawnych rozmów nawet bez zapisanych informacji.
Rosnąca pamięć sprawia też, że trudniej zmienić usługę. Pokazuje to dyskusja o blokadzie pamięci AI.
Dlaczego posiadacze krypto ryzykują więcej
Dla posiadaczy kryptowalut ryzyko wykracza poza niewygodne szczegóły. Na początku roku deweloperzy odkryli dane portfeli krypto w czatach Claude, zindeksowane przez Google przez udostępnione linki.
Zapisany profil z informacjami o posiadanych aktywach, giełdach czy planach podróży może ułatwić oszustom tworzenie jeszcze lepszych wiadomości phishingowych.
Założyciel Binance Changpeng Zhao twierdzi, że prawdziwe zagrożenie ze strony AI to phishing i wyciek danych, a nie złamanie kryptografii Bitcoina. W tym kontekście pusty pokój pokazuje, czego może dowiedzieć się atakujący.
OpenAI pozwala użytkownikom przeglądać, usuwać lub wyłączać pamięć ChatGPT w ustawieniach personalizacji. Tryb tymczasowego czatu nie odczytuje ani nie aktualizuje tej pamięci.
Niektórzy w świecie krypto idą dalej. Współzałożyciel Ethereum Vitalik Buterin stworzył paranoidalny tryb dla AI, który maskuje prompt zanim dotrze do modelu.
Regulatorzy jednocześnie podnoszą koszty błędów z danymi. Sąd w Nowym Meksyku kazał Meta zapłacić rekordową karę 25 mld USD za przetwarzanie danych użytkowników na Facebooku.
Wraz z rozwojem pamięci ChatGPT pusty pokój może stać się rutynową kontrolą, co wiedzą firmy AI.
