Jak donosi serwis „The Information”, na początku tego roku firmy OpenAI i Anthropic były bliskie zawarcia prawnie wiążącej umowy, która pozwoliłaby każdej z nich na testowanie modeli sztucznej inteligencji drugiej strony pod kątem luk w zabezpieczeniach i ukrytych zagrożeń dla bezpieczeństwa. Nie jest jasne, czy umowa została sfinalizowana.
Kilka dni przed opublikowaniem tego artykułu dyrektor generalny Palantir, Alex Karp, zastanawiał się, czy któraś z tych firm kiedykolwiek wejdzie na rynki publiczne. Jego uwaga skupiała się na Anthropic.
Szczegóły umowy testowej między OpenAI a Anthropic
Każda ze stron miałaby uzyskać dostęp programistyczny do komercyjnych modeli drugiej strony, swobodę przeprowadzania własnych testów na podatności oraz zakaz przechowywania danych drugiej strony. Porozumienie nie obejmowało systemów, które nie zostały jeszcze udostępnione.
Rozmowy miały miejsce przed serią incydentów, w których niepublikowane agenty OpenAI rzekomo przedostały się do systemów wewnętrznych i zewnętrznych w nieoczekiwany sposób.
Od tego czasu OpenAI wstrzymało na dwa tygodnie jedną z form uczenia się przez wzmocnienie – metodę szkolenia, która nagradza model za prawidłowe działanie. Firma tymczasowo przeniosła również jedną czwartą swojego zespołu inżynierów produkcji do zadań związanych z bezpieczeństwem oraz stworzyła system monitorowania, który może zużywać moc obliczeniową równą około jednej piątej obciążenia, które obserwuje.
W tym miesiącu firma opublikowała sześć przypadków budzącego obawy zachowania modeli. Jednorazowa zamiana w 2025 r. przyniosła już niepożądane wyniki: OpenAI stwierdziło, że modele Anthropic częściej ukrywają naruszenia zasad, a Anthropic uznało, że modele OpenAI chętniej pomagają w realizacji szkodliwych żądań.
Karp wątpi, czy dokument S-1 kiedykolwiek zostanie złożony
W innym miejscu prezenter CNBC zapytał dyrektora generalnego Palantir, Alexa Karpa, w jaki sposób opisywana przez niego odpowiedzialność zostałaby uwzględniona w formularzu S-1, czyli dokumencie rejestracyjnym składanym przez firmę przed publiczną sprzedażą akcji. Karp zakwestionował samą przesłankę.
„Zakładasz, że dokument S-1 w ogóle powstanie. No cóż… może tak będzie” – powiedział.
Jego zdaniem firma twierdząca, że ponosi nieograniczoną odpowiedzialność za szkody, w końcu prosi rząd o przejęcie tej odpowiedzialności, płacąc za to około połową swojej działalności. Powiedział, że pierwszą linią obrony powinna być zwykła odpowiedzialność cywilna i karna dla twórców, którzy działają lekkomyślnie.
Swoje uwagi skierował do dyrektora generalnego Anthropic, Dario Amodei, którego nazwał sprytnym i etycznym. Zapytany w tym samym wywiadzie, czy OpenAI chciałoby takiego samego traktowania, Karp wykluczył to.
„Nie, absolutnie nie. Myślę, że to są zupełnie różne sprawy”.
Anthropic przygotowuje się do debiutu na giełdzie, podczas gdy Sam Altman oświadczył 12 września, że OpenAI nie wejdzie na giełdę w 2026 roku, ponieważ prace nad bezpieczeństwem nie zostały jeszcze zakończone.
Palantir sprzedaje konkurencyjne oprogramowanie rządom i dużym przedsiębiorstwom, co sprawia, że Karp ma interes w tym, jak ta dyskusja się zakończy.
