Citations

Studiennotizen: Zitierfunktionen in KI-Modellen

• Ziel der Zitierfunktion:
• Sicherstellung, dass die KI (z. B. Claude) ihre Antworten auf externen Quellen basiert.
• Vermeidung des Eindruckse, die KI würde aus reinem Gedächtnis antworten.
• Ermöglichung der Überprüfung der KI-Antwort durch den Nutzer anhand der Quelldokumentation.

• Aktivierung der Zitierfunktion:
• Die Funktion wird durch das Hinzufügen eines citations-Feldes (ein Dictionary mit enabled: true) zur Anfrage aktiviert.

• Zitieren aus PDF-Dokumenten:
• Ergebnis: Die Antwort enthält ein citation_page_location-Objekt.
• Inhalt des Objekts:
• cited_text: Der genaue Textabschnitt aus der Quelle, der die Aussage stützt.
• document_index / document_title: Identifikation der Quelle.
• start_page / end_page: Genaue Seitenzahl(en) innerhalb des Dokuments.
• Anwendungsfall: Ermöglicht die Erstellung von Benutzeroberflächen (UIs) mit Pop-ups, die den Nutzer direkt zur Quelle führen.

• Zitieren aus einfachem Text (Plain Text):
• Voraussetzung: Der Text muss manuell in die Anfrage kopiert werden (z. B. in eine Variable).
• Anpassung der Anfrage: Der type des Dokuments wird auf text und der media_type auf text/plain gesetzt.
• Ergebnis: Die Antwort enthält ein citation_char_location-Objekt.
• Funktion: Gibt die genaue Position innerhalb des großen Textblocks an, aus dem die KI zitiert hat.

• Fazit:
• Die Zitierfunktion ist ein wichtiges Werkzeug zur Transparenz und Verifizierbarkeit der KI-Antwort.
• Sie kann sowohl für PDF-Dokumente als auch für einfachen Text verwendet werden.
• Empfehlung: Immer nutzen, wenn die Quellenprüfung für die Nutzer kritisch ist.

Takeaways

• Die Zitierfunktion gewährleistet Transparenz und Verifizierbarkeit, indem KI-Antworten auf externe Quellen stützen.
• Die Funktion wird durch das Hinzufügen eines citations-Feldes zur Anfrage aktiviert.
• Bei PDF-Dokumenten liefert das citation_page_location-Objekt genaue Seitenzahlen und den zitierten Textabschnitt.
• Bei einfachem Text (type: text) gibt die Antwort die genaue Zeichenposition (citation_char_location) innerhalb des Textblocks an.