Fallbacks
Wat er gebeurt als een model tijdelijk niet beschikbaar is. Te vinden onder Organisatiebeheer → Fallbacks.
Wat een fallback is
Modellen zijn af en toe niet beschikbaar. Zonder fallback loopt een assistent die zo'n model gebruikt gewoon vast, en krijgt de gebruiker een foutmelding.
Een fallbackconfiguratie is een recept met een naam: lukt dit model niet, probeer dan dit model, en daarna dit. Assistenten en Toolbox-elementen kunnen er elk naar verwijzen.
Waar het wordt gebruikt
De fallback zelf kies je per assistent en per element, niet hier:
Bij een assistent, onder Geavanceerde instellingen: Niet falen als het primaire model niet beschikbaar is, en daarna Fallbackstrategie.
Bij een Toolbox-element dezelfde twee instellingen, onder de geavanceerde instellingen.
Alles wat op Globale standaard blijft staan, gebruikt de standaardconfiguratie van het platform.
Een configuratie lezen
Elke configuratie bestaat uit twee delen:
Exacte paren
Voor één specifiek model, de geordende lijst met modellen die in plaats daarvan worden geprobeerd.
Platformstandaarden
Voor elk model van een bepaalde aanbieder zonder exact paar, de geordende lijst die in plaats daarvan wordt geprobeerd.
Exacte paren gaan voor op platformstandaarden. Fallbacks worden op volgorde geprobeerd.
De configuratie default wordt door het platform beheerd en kun je niet bewerken. Dat is wat alles gebruikt tenzij anders is ingesteld.
Wanneer je om een eigen configuratie vraagt
Voor de meeste organisaties volstaat de standaard. Een eigen configuratie is het vragen waard wanneer:
Een assistent werk doet waarbij een ander model merkbaar slechtere resultaten geeft, en je liever hebt dat hij faalt dan dat hij een slecht antwoord geeft.
Je een specifieke, voorspelbare tweede keuze wilt voor een bedrijfskritische assistent.
Wat je tijdens een fallback kunt verwachten
Een fallbackmodel is een ander model. Antwoorden kunnen anders geformuleerd zijn, en het ondersteunt misschien niet alles wat het primaire model wel kon: een fallback zonder ondersteuning voor tools betekent dat tools zolang niet werken.
Fallbacks houden de dienst in de lucht. Ze garanderen geen identiek gedrag. Waar dat uitmaakt, is kwaliteitscontrole wat je vertelt dat er iets is veranderd.
Laatst bijgewerkt
Was dit nuttig?