Připojte model, který bude upravovat soubory vašeho serveru

VarintKeel potřebuje model k plánování kroků. Použijte cloudového AI poskytovatele přes standardní API endpoint, model běžící na vašem PC nebo vestavěný model, který je připraven k použití bez vlastního endpointu. Poté stiskněte Test a agentovi nejprve přiřaďte malý úkol.

Tři způsoby připojení modelu

Cloudový AI poskytovatel

K cloudovému AI poskytovateli se připojíte prostřednictvím standardního API endpointu, který zadáte jednou v aplikaci. Je vhodný pro náročné úlohy zahrnující více souborů, například porovnání dlouhého logu se souborem nastavení a stromem složek. U cloudového modelu se váš prompt a text souborů, které agent čte, odesílají k tomuto poskytovateli; u lokálního modelu nic neopouští váš PC. Vaše API klíče zůstávají na PC a tajemství ve výstupu nástroje jsou před odesláním do modelu maskována. Poskytovatel může za své API účtovat samostatně, takže si nejprve přečtěte jeho podmínky.

Model na vašem PC

Model běžící na vašem PC je vhodný pro lidi, kteří nechtějí, aby cesty k souborům, logy nebo nastavení opustily stroj. U lokálního modelu nic neopouští váš PC, takže vaše logy a nastavení zůstávají doma. Zaplatíte to vlastním hardwarem a malý lokální model může lépe zvládnout úpravu jednoho pole v enshrouded_server.json než dlouhý log s mnoha řádky. Nejprve vyzkoušejte malý úkol a poté mu přiřaďte náročnější.

Vestavěný model

Vestavěný model je připraven k použití bez vlastního endpointu, takže je to nejkratší cesta od stažení k prvnímu úkolu. Otevřete aplikaci, vyberte složku serveru a požádejte o něco malého, například o přečtení enshrouded_server.json a výpis jeho polí. Zkontrolujte vrácenou kartu. Později můžete přidat cloudový nebo lokální model a přiřadit oběma stejný úkol, což vám ukáže, který z nich lépe vyhovuje vašim souborům.

Co vám řekne tlačítko Test

Tlačítko Test zkontroluje zadaný endpoint. Zobrazuje dobu odezvy a kontextové okno modelu, což je množství textu, které model dokáže přijmout v jednom požadavku. Spusťte ho po vložení nového endpointu a znovu, pokud se odpovědi zdají pomalé. Krátká doba odezvy pomáhá, když chat čte mnoho souborů, a malé kontextové okno znamená, že dlouhý log by měl být čten po částech, například pomocí grep pro první chybový řádek. Pokud test selže, zkontrolujte adresu endpointu a svůj klíč.

Vyberte model pro úkol

Použijte větší model, když úkol zahrnuje více souborů, například když je třeba společně přečíst log, soubor nastavení a strom složek před návrhem opravy. Menší model stačí na změnu jednoho pole, jako je slotCount, v enshrouded_server.json. Nástroj run_on_model pošle náročný krok k většímu modelu, takže nemusíte měnit každodenní nastavení pro jeden obtížný úkol. Začněte malý. Před rozhodnutím porovnejte výsledky na stejném úkolu.

Kvalita se mezi modely liší, takže diff je vaší kontrolou, nikoliv sebevědomí modelu. Použijte Ask first k pozastavení před jakoukoli akcí, která něco změní, přečtěte navrhované řádky a zamítněte to, čemu nerozumíte. Plan only je vhodné pro první pohled na neznámou složku, protože napíše plán a nic nespustí. Každou změnu otestujte spuštěním serveru.