Token
Die Texteinheit, die ein LLM verarbeitet, ungefähr ein Wortteil. Nutzung und Preis werden in Tokens gemessen, daher treiben Prompt- und Ausgabelänge direkt die Kosten.
Verwandte Begriffe
Large Language Model (LLM)
Retrieval-Augmented Generation (RAG)
Vector Database
Embedding
Fine-tuning
Prompt Engineering
Brauchen Sie das Team hinter dem Begriff?
Bedarf beschreiben →