交叉墒函数的说明说logits是unnormalized，但是代码输入却输入了softmax？

Question

交叉墒函数的说明说logits是unnormalized，但是代码输入却输入了softmax？softmax不就是nomalized了吗？

Answer 1

Dream哥 2025-09-12 17:03:36

softmax函数就是对输入数据进行操作。大模型的输出logits是没有归一化的。