The Statistics of Token Selection: Logits, Temperature, and Top-P Walkthrough
Machine Learning Mastery1015 字 (约 5 分钟)
85
文章介绍了大语言模型(LLM)中的token选择机制,包括logits、temperature和top-p的原理及其在输出生成中的作用。
入选理由:logits是模型输出的原始未归一化分数,通过softmax转换为概率分布。
精选文章#LLM#logits#temperature#top-p#token selection英文
