Controlling model output

Onderwerp: Het beïnvloeden van AI-output (Claude)

**I. Methoden om de output te sturen** Er zijn twee technieken om de output van een AI-model sterk te beïnvloeden:

• Pre-filling assistant messages
• Stop sequences

**II. Pre-filling Assistant Messages (Vooraf invullen)**

• Doel: De AI dwingen om een specifieke richting of mening aan te nemen.
• Methode: Voeg een handmatig geschreven "Assistant Message" toe aan de lijst met berichten voordat het model antwoord genereert.
• Werking: Het model ziet dit als reeds geautoriseerde inhoud en gebruikt het als startpunt voor zijn eigen antwoord.
• Belangrijk: De ingevulde tekst is vaak onaf (bijv. "Coffee is better because... "). Het uiteindelijke antwoord moet de ingevulde tekst en de door de AI gegenereerde voortzetting samenvoegen.
• Effect: Sterk sturen van de AI naar een bepaald standpunt (bijv. pro-koffie of pro-thee).

**III. Stop Sequences (Stoppen Sequenties)**

• Doel: De AI dwingen om onmiddellijk te stoppen met het genereren van tekst zodra een bepaalde string wordt bereikt.
• Methode: Geef een lijst van stop sequences als een extra parameter aan de conversiefunctie.
• Werking: Zodra het model een van de opgegeven sequenties genereert, stopt de output onmiddellijk.
• Kenmerken:
• Stop sequences kunnen individuele tekens of volledige woorden/zinnen zijn.
• De stop sequence zelf wordt niet opgenomen in de uiteindelijke output.
• Toepassing: Truncatie (afknippen) van de respons op een specifiek punt.

Takeaways

• Er zijn twee hoofdmethoden om AI-output te sturen: Pre-filling Assistant Messages en Stop Sequences.
• Pre-filling dwingt de AI een specifieke richting of standpunt aan door een handmatig geschreven "Assistant Message" vooraf toe te voegen.
• De AI gebruikt de ingevulde tekst als geautoriseerd startpunt en combineert deze met zijn eigen gegenereerde voortzetting.
• Stop Sequences dwingen de AI om onmiddellijk te stoppen met het genereren van tekst zodra een opgegeven string wordt bereikt.
• Stop sequences kunnen individuele tekens of woorden zijn en worden niet opgenomen in de uiteindelijke output (truncatie).