Подключите модель, которая будет редактировать файлы сервера
VarintKeel нужна модель для планирования шагов. Используйте облачного ИИ-провайдера через стандартный API endpoint, модель на вашем ПК или встроенную модель, готовую к работе без вашего endpoint. Затем нажмите Тест и сначала дайте агенту небольшую задачу.
Три способа подключения модели
Облачный ИИ-провайдер
Облачный ИИ-провайдер доступен через стандартный API endpoint, который вы вводите один раз в приложении. Он подходит для сложных задач, охватывающих несколько файлов, например сравнения длинного лога с файлом настроек и структурой папок. С облачной моделью ваш запрос и текст файлов, которые читает агент, отправляются этому провайдеру; с локальной моделью ничего не покидает ваш ПК. Ваши API-ключи остаются на ПК, а секреты в выводе инструментов маскируются перед отправкой модели. Провайдер может взимать отдельную плату за API, поэтому сначала ознакомьтесь с его условиями.
Модель на вашем ПК
Модель, работающая на вашем ПК, подходит тем, кто не хочет, чтобы пути, логи или настройки покидали машину. С локальной моделью ничего не покидает ваш ПК, поэтому ваши логи и настройки остаются в безопасности. Вы платите за это своим железом, и небольшая локальная модель может лучше справиться с редактированием одного поля в enshrouded_server.json, чем длинный лог со множеством строк. Сначала попробуйте небольшую задачу, а затем дайте ей более сложную.
Встроенная модель
Встроенная модель готова к использованию без вашего собственного endpoint, поэтому это самый короткий путь от скачивания до выполнения первой задачи. Откройте приложение, выберите папку сервера и попросите сделать что-то простое, например прочитать enshrouded_server.json и вывести список его полей. Оцените полученную карточку. Позже вы можете добавить облачную или локальную модель и дать обе ту же задачу, чтобы понять, какая из них лучше подходит для ваших файлов.
Что показывает кнопка Тест
Кнопка Тест проверяет указанный вами endpoint. Она показывает время отклика и контекстное окно модели, то есть объем текста, который модель может принять за один запрос. Запустите его после вставки нового endpoint и снова, если ответы кажутся медленными. Короткое время отклика помогает, когда чат читает много файлов, а маленькое контекстное окно означает, что длинный лог следует читать частями, например с помощью grep для поиска первой строки ошибки. Если тест не прошел, проверьте адрес endpoint и ваш ключ.
Выберите модель для задачи
Используйте большую модель, когда задача охватывает несколько файлов, например когда нужно одновременно прочитать лог, файл настроек и структуру папок, прежде чем предложить исправление. Для изменения одного поля, такого как slotCount, в enshrouded_server.json достаточно меньшей модели. Инструмент run_on_model отправляет сложный шаг большой модели, поэтому вам не нужно менять повседневный выбор для одной сложной задачи. Начинайте с малого. Сравните результаты на одной и той же задаче, прежде чем принимать решение.
Качество варьируется между моделями, поэтому diff — это ваша проверка, а не уверенность модели. Используйте Ask first, чтобы приостановиться перед любым действием, которое что-то меняет, прочитайте предлагаемые строки и отклоните то, что вы не понимаете. Режим Plan only подходит для первого взгляда на незнакомую папку, так как он записывает план и ничего не запускает. Тестируйте каждое изменение, запустив сервер.
