为什么你的 Loss 可以是负数？撕开现代深度学习的概率伪装

PyTorch 里真正执行「交叉熵」这个名字的，是 aten/src/ATen/native/LossNLL.cpp 的 nll_loss_out_frame。在 reduction=\’none\’ 的那条路径上，整个函数体压缩成一行：

// aten/src/ATen/native/LossNLL.cpp, nll_loss_out_frame
output_acc[i] = –input_acc[i][cur_target] * cur_weight;

一次索引，一次取负，整段计算到此为止。它只碰了一个分布，只读了这个分布上的一个位置。而通常的理解是另一