Spowolnienie frontier AI brzmi rozsądnie, dopóki ktoś nie musi wyznaczyć granicy

Nathan Lambert zgadza się z ideą spowolnienia najbardziej ryzykownego rozwoju AI, ale uważa jej obecną realizację za niemal niewykonalną. Pyta o mechanizm: kto zdefiniuje zakazane capabilities, których benchmarków nie wolno poprawiać i kto zasiądzie przy podejmowaniu decyzji.

Krytyka dotyczy brakującej miary, a nie samego celu

Lambert odniósł się do inicjatywy Pacing the Frontier. W lipcu 2026 roku poprosiła ona rząd USA o wsparcie międzynarodowych prac nad technicznymi i administracyjnymi narzędziami do celowego spowalniania zautomatyzowanych badań nad AI. Podczas weryfikacji strona inicjatywy podawała 1 386 sygnatariuszy z firm frontier AI.

Lambert pisze, że zasada jest słuszna, lecz wdrożenie rozpada się już przy definicji. Pyta, czy ktoś wybierze benchmarki, na których modele nie mogą się poprawiać, i kto podejmie taką decyzję. Dodaje, że badacze mogą przenieść wysiłek z bezpośredniego wzrostu capabilities na swarms i efektywność, tworząc inną klasę ryzyka.

Drugi zarzut dotyczy modeli już dostępnych. Zdaniem Lamberta duża część ryzyka wynika z rozpowszechniania istniejących możliwości. Dlatego większy nacisk kładzie na preparedness i presję, by laboratoria ostrożniej obchodziły się z obecnymi systemami.

Regulacja jednej krzywej przenosi pracę na inną

System frontier można ulepszać wieloma drogami. Większy training run jest widoczny, ale podobny efekt praktyczny dają lepszy post-training, dłuższa inference, większa liczba agentów, nowe tool use albo tańsze obliczenia. Reguła związana z jednym benchmarkiem lub progiem compute zachęca do optymalizacji wszystkiego dookoła.

Koordynacja nadal może działać, lecz powinna mierzyć zdolność do wyrządzenia konkretnej szkody i obejmować cały system, a nie tylko model na leaderboardzie. W cyberbezpieczeństwie znaczenie może mieć połączenie autonomii, dostępu do narzędzi i szybkości replikacji. Pojedynczy wynik testu może tego nie uchwycić.

Zarzut Lamberta również pozostawia lukę

Preparedness i ostrożniejsze laboratoria ograniczają skutki wdrożeń, ale nie usuwają presji konkurencyjnej opisanej przez inicjatywę. Jeśli każda firma korzysta na większym tempie, dobrowolna powściągliwość może zawieść właśnie wtedy, gdy staje się kosztowna. Wskazanie wad pacing nie tworzy jeszcze planu koordynacji.

Wpis na X jest opinią, a nie badaniem empirycznym. Nie dowodzi, że każda forma spowalniania zawiedzie, ani nie mierzy ryzyka wynikającego z efektywności i swarm research. Trafnie wskazuje jednak lukę w liście otwartym: apel prosi o narzędzia, ale nie wyznacza granicy ani instytucji zdolnej ją egzekwować.

Skuteczny mechanizm musi przetrwać zmianę metryki

Kolejnym krokiem nie powinno być zbieranie następnych podpisów. Inicjatywa potrzebuje procesu, który określi konkretne progi ryzyka, będzie je aktualizował i wykryje obchodzenie zasad przez efficiency, swarms lub diffusion. Musi też wskazać audytora danych laboratoriów i sposób rozstrzygania sporów między państwami.

Dobry mechanizm powinien przejść adversarial test: co zrobi firma, która chce dalej się ścigać, a jednocześnie formalnie spełnić reguły? Jeśli ograniczenie można ominąć przez zmianę nazwy capability lub benchmarku, tempo zostanie. Zmieni się wyłącznie słownik raportu.

Werdykt Lilith

Regulator może odgrodzić jeden benchmark, a badania ominą blokadę przez swarms, efficiency i diffusion. Prawdziwy hamulec musi pilnować całej trasy, a nie jednej tablicy przy zakręcie.