Wybierz model stojący za Twoimi raportami ze skanów

Southcode Desk potrzebuje modelu. Czyta wyniki skanów i pisze dla Ciebie raporty, a Ty możesz połączyć dostawcę AI w chmurze, model działający lokalnie na Twoim komputerze albo model wbudowany. Każdy wybór decyduje, dokąd trafiają wyniki Twoich skanów.

Trzy sposoby podłączenia modelu

Dostawca AI w chmurze

Użyj standardowego endpointu API i własnego klucza do długich raportów i trudnego wnioskowania. Haczykiem jest prywatność. Tekst, który wysyła agent, w tym adresy i listy portów z Twoich skanów, trafia do tego dostawcy, więc wybierz takiego, którego warunki znasz i akceptujesz. Twój klucz zostaje na komputerze, a dostawca może pobierać opłaty osobno.

Model działający lokalnie

Wskaż endpoint na model na własnym komputerze. Pasuje do sieci prywatnych, bo prompty i wyniki skanów zostają na maszynie. Model lokalny może mieć mniejsze okno kontekstu albo odpowiadać wolniej na skromnym sprzęcie, więc sprawdź go przyciskiem Test. Czytaj diffy uważnie.

Model wbudowany

Model wbudowany jest w aplikacji, więc nie trzeba wybierać dostawcy. Nadaje się na pierwszą próbę z krótką listą adresów. Zadania niech będą krótkie. Sprawdź jego limity przyciskiem Test, a do większych porównań podłącz większy model, zachowując ten sam folder roboczy. Czaty, foldery robocze i klucze API zostają na komputerze, niezależnie od wybranego modelu.

Sprawdź połączenie przyciskiem Test

Przycisk Test sprawdza endpoint, zanim powierzysz mu prawdziwą pracę, i pokazuje czas odpowiedzi oraz okno kontekstu. Przeczytaj obie liczby. Długi plik skanu i Twój wzorzec muszą zmieścić się razem w tym oknie, więc jeśli jest ciasno, pytaj o jeden host naraz.

Dobierz model do zadania

Dopasuj rozmiar do zadania. Użyj większego modelu do długich porównań i dłuższych raportów, a mniejszego do drobnych zmian, takich jak poprawa jednego wiersza w expected-ports.csv. Narzędzie run_on_model wysyła jeden trudny krok do większego modelu, a reszta zostaje przy obecnym.

Jakość bywa różna. Zawsze czytaj diff, zanim go zatwierdzisz, i używaj Ask first za każdym razem, gdy liczy się skan albo zmiana pliku, bo błędne podsumowanie otwartego portu musisz wyłapać samodzielnie.