Co się wydarzyło
W zeszłym tygodniu OpenAI zwolniło trzech członków zespołu bezpieczeństwa – Jasmine Wang, Tomka Korbaka i Mikitę Balesnie – po tym, jak firma zarzuciła im nieuprawnione udostępnienie poufnych danych zewnętrznej organizacji zajmującej się bezpieczeństwem AI. Pracownicy opublikowali otwarty list, w którym zaprzeczają tym oskarżeniom i podkreślają, że ich działania były zgodne z obowiązującymi procedurami.
Dlaczego to ważne
Badacze podkreślają, że ich zwolnienie może wprowadzić strach i niejasność co do zasad współpracy z zewnętrznymi ekspertami, co jest kluczowe dla monitorowania i kontrolowania ryzyka związanego z zaawansowanymi modelami AI. OpenAI twierdzi, że doszło do naruszenia polityk, ale nie sprecyzowało, które konkretnie zostały złamane.
Co to oznacza dla użytkownika
W liście nie podano oficjalnych zaleceń dla pracowników ani partnerów OpenAI; organizacja nie wydała wytycznych, jak postępować w podobnych sytuacjach.
Co wiadomo, a czego jeszcze nie wiadomo
OpenAI potwierdziło jedynie, że zwolnienia były wynikiem „wzoru niewłaściwego postępowania” i naruszenia zasad dotyczących informacji badawczych. Firma nie ujawniła, które polityki zostały złamane, ani nie odpowiedziała na pytania o ochronę pracowników zgłaszających obawy bezpieczeństwa.
Kontekst
Zwolnienia nastąpiły w okresie, gdy OpenAI jest pod intensywną obserwacją po incydentach związanych z niekontrolowanymi agentami AI i wyciekami informacji o modelach. Badacze podkreślają, że ich praca wymagała intensywnej współpracy z zewnętrznymi podmiotami, co według nich było dotąd akceptowane w firmie.