Controlling model output

📝 Studieopmerkingen: Output Beïnvloeden (Claude)

Algemene Technieken

• Naast het aanpassen van de prompt, zijn er twee krachtige technieken om de output van AI te sturen:
• Pre-filling assistant messages
• Stop sequences

**1. Pre-filling Assistant Messages**

• Doel: De AI sterk sturen in een specifieke richting (bijv. een voorkeur voor thee of koffie).
• Methode: Voeg een vooraf geschreven 'Assistant message' toe aan de lijst met berichten voordat de uiteindelijke gebruikersvraag wordt gesteld.
• Mechanisme: Claude ziet deze ingevulde tekst als reeds geautoriseerde inhoud en gebruikt deze als startpunt voor de rest van de respons.
• Belangrijk: De ingevulde tekst is vaak geen volledige zin. Claude zal de respons voortzetten vanaf het einde van de ingevulde zin.

**2. Stop Sequences**

• Doel: De AI dwingen om onmiddellijk te stoppen met genereren zodra een specifieke string wordt geproduceerd.
• Methode: Geef een lijst van 'stop sequences' in de parameters van de chatfunctie.
• Mechanisme: Zodra de AI een van de opgegeven strings genereert, wordt de gehele respons direct afgebroken.
• Voorbeeld: Als de stop sequence "5" is, stopt de AI zodra het getal 5 wordt gegenereerd (en 5 zelf wordt niet opgenomen in de output).

Takeaways

• Naast prompt aanpassing zijn Pre-filling Assistant Messages en Stop Sequences krachtige technieken om AI-output te sturen.
• Pre-filling Assistant Messages dwingen de AI om een respons te starten vanaf een vooraf geschreven, geautoriseerde tekst.
• De AI zal de respons voortzetten vanaf het einde van de ingevulde tekst, zelfs als deze geen volledige zin is.
• Stop Sequences dwingen de AI om onmiddellijk te stoppen met genereren zodra een specifieke string wordt geproduceerd.