Підключіть модель, яка редагуватиме файли вашого сервера

VarintKeel потрібна модель для планування кроків. Використовуйте хмарного AI-постачальника через стандартний API endpoint, модель, що працює на вашому ПК, або вбудовану модель, готову до використання без вашого endpoint. Потім натисніть Test і спочатку дайте агенту невелике завдання.

Три способи підключення моделі

Хмарний AI-постачальник

Хмарний AI-постачальник доступний через стандартний API endpoint, який ви вводите один раз у додатку. Він підходить для складних завдань, що охоплюють кілька файлів, наприклад, порівняння довгого логу з файлом налаштувань та структурою папок. З хмарною моделлю ваш промпт і текст файлів, які читає агент, надходять до цього постачальника; з локальною моделлю ніщо не залишає ваш ПК. Ваші API-ключі залишаються на ПК, а секрети в результаті інструментів приховуються перед надходженням у модель. Постачальник може стягувати окрему плату за свій API, тому прочитайте його умови заздалегідь.

Модель на вашому ПК

Модель, що працює на вашому ПК, підходить тим, хто не хоче, щоб шляхи, логи чи налаштування залишали машину. З локальною моделлю ніщо не залишає ваш ПК, тому ваші логи та налаштування залишаються вдома. Ви платите за це власним залізом, і невелика локальна модель може краще впоратися з редагуванням одного поля в enshrouded_server.json, ніж довгий лог із багатьма рядками. Спочатку спробуйте невелике завдання, а потім дайте їй складніше.

Вбудована модель

Вбудована модель готова до використання без вашого endpoint, тому це найкоротший шлях від завантаження до першого завдання. Відкрийте додаток, оберіть папку вашого сервера і попросіть зробити щось невелике, наприклад, прочитати enshrouded_server.json і перелічити його поля. Перегляньте повернену картку. Пізніше ви можете додати хмарну або локальну модель і дати обом одне й те саме завдання, щоб побачити, яка з них краще підходить для ваших файлів.

Що показує кнопка Test

Кнопка Test перевіряє введений вами endpoint. Вона показує час відповіді та контекстне вікно моделі, тобто обсяг тексту, який модель може обробити за один запит. Запустіть його після вставлення нового endpoint і знову, коли відповіді здадуться повільними. Короткий час відповіді допомагає, коли чат читає багато файлів, а невелике контекстне вікно означає, що довгий лог слід читати частинами, наприклад, за допомогою grep для пошуку першого рядка помилки. Якщо тест не вдався, перевірте адресу endpoint та ваш ключ.

Оберіть модель для завдання

Використовуйте більшу модель, коли завдання охоплює кілька файлів, наприклад, коли лог, файл налаштувань та структуру папок потрібно прочитати разом перед пропозицією виправлення. Меншої моделі достатньо для зміни одного поля, наприклад slotCount, в enshrouded_server.json. Інструмент run_on_model надсилає складний крок до більшої моделі, тому вам не потрібно змінювати щоденний вибір для одного складного завдання. Починайте з малого. Порівняйте результати на одному й тому ж завданні перед тим, як прийняти рішення.

Якість варіюється між моделями, тому diff — це ваша перевірка, а не впевненість моделі. Використовуйте Ask first, щоб зупинитися перед будь-якою дією, яка щось змінює, прочитайте запропоновані рядки та відхиліть те, що ви не розумієте. Plan only підходить для першого ознайомлення з незнайомою папкою, оскільки він записує план і не виконує жодних дій. Перевіряйте кожну зміну, запустивши сервер.