Aikido udostępnia model bezpieczeństwa LLM Altar-1 z otwartymi wagami, oparty na GLM-5.3

Aikido wypuściło Altar-1, model językowy z otwartymi wagami przeznaczony do pracy on-premises i w środowiskach odizolowanych od sieci, takich jak triage podatności i przegląd kodu. Model jest skompresowaną pochodną modelu GLM-5.3 firmy Z.AI o 753 miliardach parametrów, a jego wagi zostały opublikowane na Hugging Face — jest jednak udostępniany na licencji GLM-5.3.

Jak zbudowano Altar-1

Aikido rozpoczęło od wersji GLM-5.3 skwantyzowanej do INT4 i zastosowało przycinanie ekspertów — usuwając 88 z 256 routowanych ekspertów na warstwę — przy użyciu metody REAP opracowanej przez Cerebras Research. Efektem jest model o rozmiarze 328 GB, w porównaniu z około 1,5 TB dla oryginału w pełnej precyzji, który według Aikido można serwować na czterech procesorach graficznych Nvidia H200 z vLLM. Na wewnętrznym teście porównawczym obejmującym 32 znane podatności w 30 repozytoriach Aikido podaje, że Altar-1 zidentyfikował 23 z nich co najmniej raz w trzech próbach, podczas gdy oryginał w pełnej precyzji — 25, co oznacza deklarowane zachowanie około 92% pokrycia detekcji większego modelu.

Do czego służy

Aikido pozycjonuje Altar-1 jako silnik stojący za swoim autonomicznym produktem do testów penetracyjnych, Aikido Machine, zaprojektowanym do działania w całości wewnątrz sieci klienta, w tym w środowiskach całkowicie odizolowanych. To ujęcie jest konkretne: jest to narzędzie do defensywnego triage'u i przeglądu kodu, a test porównawczy Aikido jest testem wewnętrznym.

Co kupujący powinni sprawdzić przed wdrożeniem

Dwie praktyczne kwestie dotyczą każdego MSP lub przedsiębiorstwa oceniającego tę klasę narzędzi. Po pierwsze, Altar-1 dziedziczy warunki licencji GLM-5.3, a nie MIT czy Apache. Po drugie, liczby dotyczące pokrycia pochodzą z własnego zestawu testowego Aikido; należy je traktować jako deklarację dostawcy do czasu weryfikacji przez stronę trzecią, tak jak należy czytać każdy test porównawczy pochodzący od samego twórcy modelu.

Dla zespołów rozważających samoobsługowe asystenty bezpieczeństwa Altar-1 jest konkretnym przykładem obecnego wzorca — przyciętych, skwantyzowanych wersji dużych modeli z otwartymi wagami przygotowanych do zadań defensywnych.

Źródła: Aikido — Introducing Altar-1, Hugging Face — AikidoSec/altar-1.