Allgemeine Informationen
| Information | |
|---|---|
| Informationen | |
| Betriebssystem | Alle |
| Service | KI |
| Interessant für | Gäste und Studierende |
| HilfeWiki des ZIM der Uni Paderborn | |
AI-Chat bietet die Möglichkeit, Nutzung von Künstlicher Intelligenz (KI) personalisierter zu gestalten, da die Oberfläche eine Vielzahl von Einstellungsmöglichkeiten bieten, um die Ausgabe und das Verhalten der KI zu steuern. Zu diesen Optionen gehören Systemprompts sowie technische Parameter wie Temperature, Top-P und Top-K, die maßgeblich die Art und Weise beeinflussen, wie KI-Modelle, insbesondere in der Verarbeitung natürlicher Sprache, Ergebnisse generieren und präsentieren.
Systemprompts[Bearbeiten | Quelltext bearbeiten]
Systemprompts sind vordefinierte Eingaben oder Konfigurationen, die den Kontext oder die Art der Interaktion mit dem KI-Modell bestimmen. Diese Prompts können verwendet werden, um den Ton, Stil oder die spezifischen Anforderungen einer Aufgabe zu spezifizieren. Zum Beispiel kann ein Systemprompt eine KI anweisen, formale oder informelle Sprache zu verwenden oder Informationen in einem präzisen, faktenorientierten Format bereitzustellen. Systemprompts sind interessant für die Anpassung des Verhaltens von KI-Modellen an die spezifischen Bedürfnisse und Erwartungen der Nutzer*innen.
Temperature[Bearbeiten | Quelltext bearbeiten]
Der Parameter Temperature ist eine steuerbare Einstellung, die die Kreativität und Vielfalt der KI-Antworten beeinflusst. Technisch bedeutet eine niedrige Temperature (nah an 0), dass das Modell konservativere und deterministischere Ausgaben liefert, da es die wahrscheinlichste Option auswählt. Eine höhere Temperature ermöglicht kreativere und variablere Antworten, da das Modell gleichmäßigere Wahrscheinlichkeiten für verschiedene Alternativen berücksichtigt. Eine angemessene Temperature-Einstellung ist spannend, um entweder präzise und zuverlässige oder innovative und diverse Antworten zu generieren.
Top-P (Nucleus Sampling)[Bearbeiten | Quelltext bearbeiten]
Top-P, auch bekannt als Nucleus Sampling, steuert die Ausgabe, indem es die Wahl der nächstwahrscheinlichen Token auf einen flexiblen Wahrscheinlichkeitsschwellenwert begrenzt. Anstatt immer die wahrscheinlichsten Token auszuwählen, berücksichtigt Top-P nur die geringste Menge von Token, deren kumulative Wahrscheinlichkeit einen bestimmten Wert (zwischen 0 und 1) überschreitet. Mit einem Top-P-Wert nahe 1 werden mehr Möglichkeiten in Betracht gezogen, was zu vielfältigeren Antworten führt. Ein niedrigerer Wert beschränkt die Auswahl auf weniger Optionen und erhöht die Kohärenz der Antwort.
Top-K[Bearbeiten | Quelltext bearbeiten]
Der Parameter Top-K begrenzt die Anzahl der Token, die bei der Generierung der nächsten Ausgabe berücksichtigt werden. Wenn K auf einen niedrigen Wert gesetzt wird, wählt die KI nur aus den K wahrscheinlichsten Token, was die Kohärenz und das Vorhersehbarkeit der Antworten erhöht. Ein höherer K-Wert kann die Variabilität der Antworten steigern, da mehr Token in Betracht gezogen werden. Top-K ist insbesondere nützlich, um die Kreativität der KI-Ausgaben zu kontrollieren, ohne zu viel Zufälligkeit einzuführen.
Einfluss auf die Ausgabe[Bearbeiten | Quelltext bearbeiten]
Die Kombination dieser Einstellungsmöglichkeiten ermöglicht eine feine Steuerung der KI-Ausgaben, die je nach Anwendung und gewünschter Interaktion variieren kann. Für Anwendungsfälle, die eine hohe Genauigkeit und Vorhersehbarkeit erfordern, ist es sinnvoll, eine niedrige Temperature mit restriktiven Top-P und Top-K Werten zu kombinieren. Für kreative und explorative Anwendungen hingegen können höhere Temperature-Werte mit erweiterten Top-P und Top-K Einstellungen genutzt werden.