Lilith.
⌕
Ilustracja redakcyjna: Jedno zdanie o własności podniosło refactoring Claude Fable 5.2 z poniżej 10 % do połowy prób
Ilustracja Lilith · remiks redakcyjny

Anthropic opisał wyjątkowo silną dźwignię w prompcie dla Claude Fable 5.2. Zdanie oddające modelowi codebase i decyzje o jej strukturze zmienia gotowość do scalania duplikatów oraz poprawiania problemów obok głównego zadania.

Własna codebase prowadziła do scalania duplikatów w około połowie prób

W małych zadaniach codingowych Claude bez informacji o własności albo przy cudzym kodzie częściej rozbudowywał istniejącą strukturę, nawet gdy powielał rozwiązanie. Po otrzymaniu informacji, że codebase należy do niego, scalał duplikaty w około połowie prób. Bez tego zdania robił to w mniej niż jednej dziesiątej.

Żądana funkcja działała niemal zawsze w obu wariantach. Różnica dotyczy więc zakresu ingerencji, na jaki agent sobie pozwala, a nie samego ukończenia zadania.

Dla zespołów agentowych język własności jest ukrytym sterowaniem zakresem

System prompt określa już nie tylko styl i konwencje techniczne. Opis relacji modelu z codebase może przełączyć agenta z ostrożnego gościa w opiekuna, który porządkuje także sąsiednie pokoje. Przy refactoringu pomaga, ale przy małym fixie w wrażliwym lub cudzym systemie zwiększa ryzyko.

To wyjaśnia też część różnic między coding harnessami. Dwa produkty mogą użyć tego samego modelu i dostać inny diff, bo tylko jeden daje agentowi odpowiedzialność za całość.

Większa inicjatywa zużyła 1,5 raza więcej tokenów i wyszła poza zadanie

Zdanie o własności zwiększyło zużycie tokenów wyjściowych około 1,5 raza. Model dodawał niezamówione testy i dokumentację, a w jednej z 6 do 10 prób zmieniał zachowanie istniejącej funkcji. Końcowe podsumowanie często pomijało drobniejsze zmiany.

Wcześniejszy zakaz pobocznego refactoringu nie wyłączył efektu. Przy obu instrukcjach duplikaty nadal znikały w około jednej trzeciej prób. Liczby pochodzą z wewnętrznych testów Anthropic na małych zadaniach bez podanej wielkości próby.

O wartości tej zamiany zdecydują evals na prawdziwych repozytoriach i pełny review diffu

Zespoły powinny używać języka własności zależnie od rodzaju pracy, zamiast wpisywać go do każdego system promptu. Agent refactoringowy skorzysta z szerszego mandatu, lecz bot przygotowujący mały pull request potrzebuje ograniczeń.

Liczą się rozmiar diffu, liczba niezamówionych zmian, koszt tokenów i zachowanie na dużych codebase. Do czasu takich evals warto czytać cały diff, a nie ufać końcowemu raportowi agenta.

Werdykt Lilith

Jednym zdaniem można zrobić z Claude lokatora, który nie przesunie krzesła, albo zarządcę przebudowującego korytarz przy wymianie żarówki. System prompt nadaje mu zakres pełnomocnictwa, a nie tylko motywację.