Tag: Ollama

  • Cline SDK v0.0.62 naprawia trasowanie API Ollamy i ogranicza dane telemetryczne

    Cline SDK v0.0.62 naprawia trasowanie API Ollamy i ogranicza dane telemetryczne

    Najnowsza wersja Cline SDK v0.0.62 wprowadza dwie ważne poprawki: przywraca poprawne działanie ustawień okna kontekstowego i timeoutu dla natywnego API Ollamy oraz usuwa kontekst organizacyjny z metadanych narzędzi hub. To aktualizacja, która ma znaczenie dla deweloperów pracujących z lokalnymi modelami AI.

    Co się zmieniło

    • Trasowanie Ollamy – natywne żądania do Ollamy znów respektują skonfigurowane wartości context-window i timeout, które wcześniej były ignorowane.
    • Timeouty – poprawka jest istotna zwłaszcza przy dłuższym ładowaniu dużych modeli, zanim wygenerują pierwszy token.
    • Prywatność – z kontekstów narzędzi hub usunięto dane organizacyjne, co ogranicza ilość metadanych przypisanych do tych interakcji.
    • Zakres zmian – aktualizacja dotyczy natywnego providera Ollamy, nie endpointów kompatybilnych z OpenAI.
    • Docelowi użytkownicy – zmiany są szczególnie ważne przy projektach używających SDK do budowy agentów kodowania i lokalnych przepływów pracy.

    Dlaczego trasowanie API ma znaczenie

    Cline korzysta z dwóch ścieżek komunikacji z Ollamą – natywnego API oraz endpointów zgodnych z OpenAI. Każda z nich inaczej obsługuje konfigurację żądań. W wersji v0.0.62 poprawiono błąd, przez który natywna ścieżka przestała honorować ustawienia okna kontekstowego i timeoutu. W praktyce oznaczało to, że lokalne modele otrzymywały zbyt krótki kontekst lub zbyt restrykcyjne limity czasowe, niezależnie od konfiguracji.

    Okno kontekstowe w narzędziach AI do kodowania kontroluje, ile historii promptów, zawartości plików i wyników narzędzi może trafić do modelu. Ignorowanie tej wartości prowadziło do utraty istotnego kontekstu w dłuższych sesjach kodowania, co skutkowało niespójnymi odpowiedziami. Dokumentacja integracji Ollamy z Cline zaleca minimum 32K tokenów dla obciążeń programistycznych – bez poprawnego trasowania ta sugestia nie miała sensu.

    Timeouty również mają znaczenie. Duże modele lokalne potrzebują czasu na załadowanie do pamięci, szczególnie na sprzęcie z ograniczoną pamięcią GPU lub gdy obliczenia są realizowane na CPU. Wersja SDK v0.0.62 zwiększyła limit czasu oczekiwania na odpowiedź Ollamy z 30 sekund do pięciu minut, co potwierdza, że problem z cold-startem modeli lokalnych był rzeczywisty, a v0.0.62 to krok w kierunku jego rozwiązania.

    Telemetria: mniej znaczy lepiej

    Telemetria: mniej znaczy lepiej

    Drugą zmianą jest ograniczenie danych telemetrycznych. Z kontekstów narzędzi hub usunięto informacje organizacyjne, co oznacza, że operacje hub-tool nie otrzymują już metadanych na poziomie organizacji. To klasyczna minimalizacja danych – węższy zakres informacji przypisywany do aktywności narzędzi, bez wpływu na działanie Ollamy.

    Informacje o wydaniu nie precyzują, czy dane organizacyjne były logowane, transmitowane, czy tylko przechowywane wewnętrznie. Nie wiadomo też, ilu użytkowników zmiana dotknęła ani czy wcześniej zapisane dane zostały usunięte. Niemniej jednak kierunek jest jasny: Cline zmierza w stronę mniejszej ilości metadanych przy interakcjach narzędziowych.

    Dla kogo ta aktualizacja

    Dla kogo ta aktualizacja

    Cline SDK to programistyczne API agenta napisane w Node.js, a Ollama jest na liście wspieranych providerów. Wersja v0.0.62 dotyczy więc nie tylko użytkowników rozszerzenia IDE, ale także deweloperów osadzających runtime agenta Cline w swoich aplikacjach. Każdy projekt korzystający z Ollamy przez SDK powinien po aktualizacji zauważyć, że modele zachowują się zgodnie z zadaną konfiguracją.

    Co dalej

    Aktualizacja jest niewielka, ale usuwa błąd, który mógł poważnie zaburzać działanie lokalnych agentów AI. Dla zespołów pracujących z modelami lokalnymi – szczególnie na ograniczonym sprzęcie – przywrócenie kontroli nad timeoutem i oknem kontekstowym to poprawa stabilności. W połączeniu z późniejszymi zmianami, takimi jak pięciominutowe timeouty w v0.0.62, widać, że Cline systematycznie poprawia integrację z Ollamą.

    Źródła

  • Ollama 0.23 wspiera natywną integrację z Claude Desktop, oferując lokalną alternatywę dla API

    Ollama 0.23 wspiera natywną integrację z Claude Desktop, oferując lokalną alternatywę dla API

    Ollama, popularne narzędzie do uruchamiania modeli językowych lokalnie, w wersji 0.23 wprowadziło wsparcie dla trzeciego dostawcy wnioskowania w aplikacji Claude Desktop. Ta integracja umożliwia programistom zastąpienie chmurowego API Anthropic własnymi modelami AI, które działają całkowicie na lokalnym sprzęcie. To krok w kierunku prywatnej i niezależnej od opłat sztucznej inteligencji dla deweloperów.

    Kluczowe informacje o integracji

    • Bezpłatne lokalne działanie – dzięki integracji z Claude Desktop użytkownicy mogą korzystać z funkcji Claude Cowork i Claude Code bez żadnych kosztów API, uruchamiając wybrane modele bezpośrednio na swoim komputerze.
    • Pełna prywatność offline – całe przetwarzanie odbywa się lokalnie, co oznacza, że żaden kod ani wrażliwe dane nie opuszczają maszyny użytkownika, co jest istotne dla projektów o wysokich wymaganiach bezpieczeństwa.
    • Elastyczność modeli – programiści mogą teraz wykorzystywać szeroką gamę modeli open source dostępnych przez Ollama, w tym dedykowane do kodowania, takie jak qwen3-coder czy gpt-oss:20b.

    Jak działa integracja z trzecim dostawcą?

    Funkcja „third-party inference” w Claude Desktop to mechanizm, który pozwala na podpięcie zewnętrznego źródła modeli AI. Ollama 0.23 działa jako bramka, udostępniając lokalnie uruchomione modele poprzez protokół zgodny z API Anthropic.

    Konfiguracja jest stosunkowo prosta. Wymaga włączenia trybu deweloperskiego w ustawieniach Claude Desktop oraz wskazania lokalnie działającej instancji Ollama jako bramki dla wnioskowania. Po uruchomieniu komendy ollama launch claude-desktop, aplikacja może automatycznie wykrywać dostępne modele z chmury Ollama Cloud lub te pobrane lokalnie.

    Wsparcie obejmuje już takie funkcje jak współpraca z podagentami (subagents), którzy dziedziczą aktualnie używaną konfigurację modelu. Nie wszystkie funkcje są jednak na razie dostępne – brakuje na przykład integracji z wyszukiwaniem w sieci czy rozszerzeniami.

    Rekomendowane modele dla pracy z kodem

    Rekomendowane modele dla pracy z kodem

    Dla deweloperów chcących wykorzystać Claude Code z lokalnymi modelami, społeczność i dokumentacja wskazują kilka sprawdzonych opcji. Do pracy offline polecane są głównie gpt-oss:20b oraz qwen3-coder. Jeśli ktoś preferuje modele chmurowe, ale wciąż przez bramkę Ollama, ma do dyspozycji takie opcje jak kimi-k2.5:cloud, glm-5:cloud czy wydajny glm-4.7-flash.

    Wydanie Ollama 0.23 przyniosło nowe modele, które mogą wzbogacić ten ekosystem, w tym NVIDIA Nemotron 3 Omni oraz kompaktowy Poolside Laguna XS.2. Aktualizacja renderera dla modeli Gemma 4 poprawia ich zdolności do „myślenia” i korzystania z narzędzi, co jest istotne dla zaawansowanych zadań programistycznych.

    Znaczenie dla rozwoju oprogramowania

    Znaczenie dla rozwoju oprogramowania

    Ta integracja zmienia narzędzia dla deweloperów. Zamiast wybierać między wygodnym, ale płatnym i chmurowym Claude a w pełni lokalnymi, lecz często mniej zintegrowanymi narzędziami, programiści zyskują nową opcję. Możliwość korzystania z interfejsu i przepływu pracy Claude Desktop, ale z lokalnym działaniem dzięki Ollama, to atrakcyjna propozycja.

    Dla małych zespołów, startupów lub osób pracujących nad zamkniętymi, wrażliwymi projektami, eliminacja kosztów API i gwarancja prywatności to mocne argumenty. Konfiguracja, według dostępnych przewodników, zajmuje około 10 minut, co nie jest wysoką barierą wejścia.

    Podsumowanie

    Wprowadzenie oficjalnego wsparcia dla Claude Desktop w Ollama 0.23 to więcej niż zwykła aktualizacja. To dowód na to, że ekosystem lokalnego AI się rozwija, oferując coraz lepszą integrację z profesjonalnymi narzędziami. Dla społeczności open source i deweloperów ceniących niezależność jest to ważny krok w stronę praktycznej alternatywy dla zamkniętych, komercyjnych rozwiązań chmurowych.