Nn Gg

两者的相同之处： nn.xxx 和 nn.functional.xxx 的实际功能是相同的，即 nn.conv2d 和 nn.functional.conv2d 都是进行卷积， nn.dropout 和 nn.functional.dropout 都是进行dropout，。。。. Tocrch.nn库 torch.nn是专门为神经网络设计的模块化接口 nn构建于autograd之上，可以用来定义和运行神经网络 nn.parameter nn.linear&nn.conv2d等等 nn.functional nn.module nn.sequential. Sep 23, 2025旋转位置编码（rotary position embedding，rope）是论文 roformer:

Enhanced transformer with rotray position embedding 提出的一种能够将相对位置信息依赖集成到 self.