Verbind het model dat je serverbestanden bewerkt

VarintKeel heeft een model nodig om zijn stappen te plannen. Gebruik een cloud-AI-provider via een standaard API-eindpunt, een model op je pc, of het ingebouwde model, dat direct klaarstaat zonder eigen eindpunt. Druk daarna op Test en geef de agent eerst een kleine taak.

Drie manieren om een model te verbinden

Cloud-AI-provider

Een cloud-AI-provider bereik je via een standaard API-eindpunt dat je één keer in de app invoert. Dit is geschikt voor zware taken over meerdere bestanden, zoals het vergelijken van een lange log met het configuratiebestand en de mappenstructuur. Bij een cloudmodel gaan je prompt en de tekst die de agent leest naar die provider; bij een lokaal model blijft alles op je pc. Je API-sleutels blijven op de pc, en geheimen in uitvoer van tools worden verduisterd voordat ze het model bereiken. Een provider kan apart rekenen voor zijn API, dus lees eerst de voorwaarden.

Model op je pc

Een model dat op je pc draait is geschikt voor mensen die niet willen dat paden, logs of instellingen de machine verlaten. Bij een lokaal model verlaat er niets je pc, dus je logs en instellingen blijven lokaal. Dat betaal je met je eigen hardware, en een klein lokaal model kan een bewerking van één veld in enshrouded_server.json beter aan dan een lange log met veel regels. Probeer eerst een kleine taak, en geef daarna een moeilijkere taak.

Ingebouwd model

Het ingebouwde model is direct klaar voor gebruik zonder eigen eindpunt, dus het is de snelste weg van downloaden naar een eerste taak. Open de app, kies je servermap en vraag iets kleins, zoals het lezen van enshrouded_server.json en het opsommen van de velden. Bekijk de terugkomende kaart. Je kunt later een cloud- of lokaal model toevoegen en beide dezelfde taak geven, zodat je ziet welke het beste bij je bestanden past.

Wat de knop Test je vertelt

De knop Test controleert het invoerde eindpunt. Hij toont de responstijd en het contextvenster van het model, wat aangeeft hoeveel tekst het model in één verzoek kan verwerken. Voer dit uit na het plakken van een nieuw eindpunt en opnieuw wanneer antwoorden traag aanvoelen. Een korte responstijd helpt wanneer een chat veel bestanden leest, en een klein contextvenster betekent dat een lange log in delen gelezen moet worden, bijvoorbeeld met grep voor de eerste foutregel. Mislukt de test, controleer dan het eindpuntadres en je sleutel.

Kies een model voor de taak

Gebruik een groter model wanneer een taak zich over meerdere bestanden uitstrekt, bijvoorbeeld wanneer een log, het configuratiebestand en de mappenstructuur samen gelezen moeten worden voordat een fix wordt voorgesteld. Een kleiner model is voldoende voor het wijzigen van één veld, zoals slotCount, in enshrouded_server.json. Het hulpmiddel run_on_model stuurt een moeilijke stap naar een groter model, zodat je je dagelijkse keuze niet hoeft te wijzigen voor één moeilijke taak. Begin klein. Vergelijk de resultaten op dezelfde taak voordat je een beslissing neemt.

De kwaliteit verschilt tussen modellen, dus de diff is je controle, niet het zelfvertrouwen van het model. Gebruik Ask first om te pauzeren voordat een actie iets wijzigt, lees de voorgestelde regels en wijs af wat je niet begrijpt. Plan only is geschikt voor een eerste blik op een onbekende map, omdat het een plan schrijft en niets uitvoert. Test elke wijziging door de server te starten.