Inference
Ein trainiertes Modell ausführen, um eine Ausgabe zu erzeugen. Inferenzkosten und -latenz, nicht das Training, dominieren die Ökonomie der meisten produktiven KI-Features.
Verwandte Begriffe
Large Language Model (LLM)
Retrieval-Augmented Generation (RAG)
Vector Database
Embedding
Fine-tuning
Prompt Engineering
Brauchen Sie das Team hinter dem Begriff?
Bedarf beschreiben →