Podłącz model, który będzie edytował pliki serwera
VarintKeel potrzebuje modelu do planowania kroków. Użyj dostawcy AI w chmurze przez standardowy punkt końcowy API, modelu działającego na Twoim PC lub modelu wbudowanego, gotowego do użycia bez Twojego endpointu. Następnie naciśnij Test i zleż agentowi najpierw małe zadanie.
Trzy sposoby podłączenia modelu
Dostawca AI w chmurze
Dostawcę AI w chmurze łączysz przez standardowy punkt końcowy API, który wpisujesz raz w aplikacji. Nadaje się do trudnych zadań obejmujących wiele plików, np. porównania długiego logu z plikiem ustawień i drzewem folderów. Z modelem w chmurze Twoje polecenie i tekst plików odczytywanych przez agenta trafiają do tego dostawcy; z modelem lokalnym nic nie opuszcza Twojego komputera. Twoje klucze API pozostają na PC, a sekrety w wynikach narzędzi są maskowane przed wysłaniem do modelu. Dostawca może pobierać opłatę za API, więc przeczytaj jego regulamin.
Model na Twoim PC
Model działający na Twoim PC nadaje się osobom, które nie chcą, aby ścieżki, logi czy ustawienia opuszczały maszynę. Z modelem lokalnym nic nie opuszcza Twojego komputera, więc Twoje logi i ustawienia zostają w domu. Płacisz za to własnym sprzętem, a mały model lokalny może lepiej poradzić sobie z edycją jednego pola w enshrouded_server.json niż długim logiem z wieloma liniami. Najpierw wypróbuj małe zadanie, a potem zleć trudniejsze.
Model wbudowany
Model wbudowany jest gotowy do użycia bez Twojego endpointu, więc to najkrótsza droga od pobrania do pierwszego zadania. Otwórz aplikację, wybierz folder serwera i zapytaj o coś prostego, np. odczytanie enshrouded_server.json i wypisanie jego pól. Przeanalizuj zwróconą kartę. Później możesz dodać model w chmurze lub lokalny i zleć im to samo zadanie, co pokaże, który lepiej pasuje do Twoich plików.
Co mówi przycisk Test
Przycisk Test sprawdza wpisany punkt końcowy. Pokazuje czas odpowiedzi i okno kontekstowe modelu, czyli ile tekstu model może przyjąć w jednym żądaniu. Uruchom go po wklejeniu nowego endpointu i ponownie, gdy odpowiedzi wydają się wolne. Krótki czas odpowiedzi pomaga, gdy czat odczytuje wiele plików, a małe okno kontekstowe oznacza, że długi log należy czytać po częściach, np. za pomocą grep dla pierwszej linii błędu. Jeśli test się nie powiedzie, sprawdź adres endpointu i swój klucz.
Wybierz model do zadania
Użyj większego modelu, gdy zadanie obejmuje wiele plików, np. gdy log, plik ustawień i drzewo folderów muszą być odczytane razem przed zaproponowaniem poprawki. Mniejszy model wystarczy do zmiany jednego pola, np. slotCount, w enshrouded_server.json. Narzędzie run_on_model wysyła trudny krok do większego modelu, więc nie musisz zmieniać codziennego wyboru dla jednego trudnego zadania. Zacznij od małych rzeczy. Porównaj wyniki na tym samym zadaniu przed podjęciem decyzji.
Jakość różni się między modelami, więc diff to Twoja kontrola, a nie pewność modelu. Użyj Ask first, aby zatrzymać się przed jakąkolwiek akcją zmieniającą coś, przeczytaj proponowane linie i odrzuć to, czego nie rozumiesz. Plan only nadaje się do pierwszego spojrzenia na nieznany folder, ponieważ pisze plan i nic nie uruchamia. Przetestuj każdą zmianę, uruchamiając serwer.
