Inferenz
Inferenz ist die Nutzung eines bereits trainierten KI-Modells, um aus einer Eingabe eine Vorhersage oder Antwort zu erzeugen. Bei einem Sprachmodell geschieht das etwa, wenn es auf einen Prompt antwortet.
Während des Trainings werden die Parameter eines Modells anhand von Daten verändert. Bei der Inferenz wird das vorhandene Modell für eine konkrete Anfrage verwendet. Die Eingabe, Einstellungen und verfügbare Werkzeuge können seine Ausgabe beeinflussen, ohne seine Modellgewichte zu ändern.
Wer KI-Experimente beschreibt, sollte daher zwischen einer geänderten Anfrage und einer Änderung des Modells unterscheiden. Ein A/B-Test mit verschiedenen Prompts prüft Antworten bei der Nutzung des Modells; er belegt für sich genommen keine Änderung am Training.
Praktische Bedeutung
Wer einen Prompt, Werkzeuge oder Ausgabeeinstellungen verändert, untersucht das Verhalten bei einer konkreten Anfrage. Daraus folgt noch nicht, dass das zugrunde liegende Modell umtrainiert wurde.
Gesellschaftliche Bedeutung
Die Unterscheidung hilft bei öffentlichen Aussagen über KI: Ein überraschendes Ergebnis eines einzelnen Tests sagt etwas über diesen Einsatz aus, aber nicht automatisch über dauerhaft veränderte Eigenschaften des Modells.
Ein einfaches Beispiel
Dasselbe bereits trainierte Sprachmodell bekommt eine Aufgabe mit zwei verschiedenen Formulierungen. Es erzeugt je eine Antwort. Beide Antworten sind Inferenz unter den jeweiligen Eingaben; die Modellgewichte werden dabei nicht neu trainiert.
Nicht verwechseln mit
Beim Training werden Modellparameter anhand von Daten angepasst. Inferenz nutzt das vorhandene Modell. Der Begriff wird auch in der Statistik verwendet; dort meint er Schlussfolgerungen aus Daten, nicht den laufenden Modellaufruf.
Verwandte Begriffe
Weiterlesen im Magazin
Quellen und weiterführende Links
Redaktionell verantwortlich: David Schmitt · KI-Unterstützung bei Recherche und Formulierung.
Veröffentlicht: · Aktualisiert: