Anthropic wprowadził nową funkcję, która umożliwia deweloperom wstrzykiwanie komunikatów systemowych w trakcie rozmowy z modelami Claude. Ta opcja jest już dostępna przez API Claude’a oraz na platformach Amazon Bedrock i Google Cloud, obejmując modele Claude, Claude i Claude.
Ta zmiana upraszcza kontrolowanie zachowania asystentów kodujących i długodziałających agentów AI, eliminując potrzebę przerywania cache’a promptów oraz przepisywania całej historii rozmowy.
- Komunikaty systemowe można teraz umieszczać w dowolnym momencie rozmowy, a nie tylko na jej początku.
- Późniejsze instrukcje mają pierwszeństwo przed wcześniejszymi, w tym nadpisują główne pole
system. - Cache promptów pozostaje nienaruszony, co pozwala na dynamiczne zmiany kontekstu bez utraty wydajności.
- Tymczasowe instrukcje na jedną turę są dostępne przez opcję
clear_at: "next_user_message". - Enterprise Admin API pojawia się w dokumentacji jako mechanizm do zarządzania użytkownikami, rolami i grupami, chociaż szczegóły wdrożenia są nadal niejasne.
Jak to działa technicznie
Mechanizm jest prosty. Deweloper dodaje do tablicy messages nowy wpis z "role": "system" w miejscu, gdzie nowa instrukcja staje się istotna. Nie ma potrzeby edytowania głównego pola system na początku żądania.
Przykład z dokumentacji wygląda następująco:
{
"role": "system",
"content": "W tej turze użyj narzędzia do przeszukiwania repozytorium, zanim zaproponujesz zmianę w kodzie."
}Istnieją jednak ograniczenia. Komunikat systemowy nie może być pierwszą wiadomością w konwersacji – musi pojawić się po turze użytkownika. Główne pole system jest przeznaczone do instrukcji obowiązujących od początku, podczas gdy komunikaty w trakcie rozmowy dotyczą tych, które nabierają znaczenia później.
Nowe instrukcje nie unieważniają zapisanego cache’a promptów, co jest korzystne dla agentów działających przez dłuższy czas. Mogą one zmieniać tryb pracy, na przykład z planowania na implementację, bez konieczności przeliczania całego prefiksu.
Tymczasowe instrukcje na jedną turę
Opcja clear_at wprowadza dodatkowe możliwości. Ustawienie clear_at: "next_user_message" sprawia, że instrukcja działa tylko w bieżącej turze, a po następnej wiadomości użytkownika przestaje być aktywna. Zostaje w historii rozmowy, ale nie zużywa tokenów wejściowych.
To przydatne w scenariuszach, takich jak tymczasowe przełączenie agenta kodującego w tryb przeglądu – „tylko recenzuj, nie modyfikuj plików” – lub wymuszenie odpowiedzi w formacie JSON na pojedyncze zapytanie, bez potrzeby edytowania głównych ustawień.
Co to oznacza dla zespołów DevOps i enterprise
Nowe komunikaty systemowe rozwiązują konkretny problem: jak zmieniać kontekst działania agenta bez utraty cache’a i produkowania długich, powtarzalnych promptów. Dla zespołów zarządzających złożonymi workflowami z wieloma narzędziami to oszczędność czasu i mniej kodu do zarządzania stanem.
Dokumentacja Anthropica wspomina o endpointach Enterprise Admin API do zarządzania użytkownikami, rolami i grupami. Materiały sugerują, że takie endpointy istnieją, ale wymagają klucza administratora i nie są jeszcze dostępne w oficjalnych SDK – tylko przez surowe żądania HTTP.
To rozróżnienie jest istotne. Komunikaty systemowe w trakcie rozmowy kontrolują zachowanie modelu w czasie rzeczywistym, natomiast Admin API, jeśli zostało szeroko udostępnione, kontroluje dostęp organizacyjny i uprawnienia. Te dwie warstwy razem tworzą dojrzałe wdrożenie AI w firmie.
Możliwość dynamicznego przełączania kontekstu agenta to krok, na który wielu deweloperów czekało. Działanie tej funkcji bez utraty cache’a czyni ją naprawdę użyteczną w praktyce.
Dodaj komentarz