Co się wydarzyło
Anthropic przeprowadziło serię testów modelu GLM-5.3, wykazując, że potrafi on samodzielnie tworzyć exploity end‑to‑end, w tym wykrywać nowe luki w silniku JavaScript przeglądarki Linux i łączyć je w działający atak. Testy obejmowały benchmarki ExploitBench i wewnętrzny test binarny oraz eksperymenty z udziałem ekspertów.
Dlaczego to ważne
Model jest dostępny do pobrania bez ograniczeń, co oznacza, że potencjalni atakujący mogą go używać bez filtrów bezpieczeństwa stosowanych w zamkniętych systemach. NIST potwierdził, że GLM-5.3 jest „najbardziej cyber‑zdolnym modelem otwartym” i że jego zabezpieczenia można łatwo obejść.
Co to oznacza dla użytkownika
Nie podano oficjalnych zaleceń, ale brak potwierdzonych ataków sugeruje, że użytkownicy powinni zachować ostrożność przy uruchamianiu modelu i monitorować ewentualne modyfikacje usuwające mechanizmy odrzucania.
Co wiadomo, a czego jeszcze nie wiadomo
Potwierdzono zdolność modelu do generowania exploitów w warunkach testowych, ale nie ma danych o rzeczywistych incydentach w środowiskach produkcyjnych. Nie wiadomo, jak szeroko model został już zmodyfikowany i rozpowszechniony.
Kontekst
Debata o otwartych modelach AI trwa od miesięcy; Anthropic podkreśla ryzyko, podczas gdy zwolennicy otwartości wskazują na korzyści dla badań i kosztów. GLM-5.3 jest najnowszym przykładem modelu, który łączy wysoką użyteczność z potencjalnym zagrożeniem.