PyTorch中，nn与nn.functional有什么区别?

1.参数管理

nn模块下的类实例在创建时会自动创建并管理参数，这些参数在训练过程中会自动被优化。而nn.functional模块下的函数通常不包含状态（比如可训练的参数），它们仅仅执行一些确定的数学操作。

2.调用方式不同

nn模块中的层在被创建后，可以像函数一样直接调用。例如，layer = nn.Linear(10, 20); output = layer(input)。而nn.functional中的函数则需要直接传入输入数据和权重等参数，例如output = nn.functional.linear(input, weight)。

3.自动求导机制

使用nn模块，PyTorch会自动处理梯度计算和反向传播。而使用nn.functional模块，用户需要手动处理这些过程。

4.使用场景不同

nn模块适合用于设计并实现含有可学习参数的复杂模型，例如卷积神经网络、循环神经网络等。而nn.functional更多地用于实现一些简单的、不含有可学习参数的操作，例如激活函数、池化等。

5.代码风格的差异

使用nn模块通常使得代码更具有对象化，更容易管理，而使用nn.functional则使得代码更具有函数式编程的风格，具有更大的灵活性。

延伸阅读

PyTorch中nn.Module的作用和使用

在PyTorch中，nn.Module是所有神经网络模块的基类，它为网络层的设计和参数的管理提供了方便。我们可以通过继承nn.Module来自定义自己的网络层或者完整的网络模型。

nn.Module提供了一些基础的功能，如参数管理、设备转移等。所有继承自nn.Module的类都应该在其构造函数中首先调用nn.Module的构造函数，即super().__init__()。

nn.Module中的一个重要功能是管理模型的参数。任何在nn.Module子类中定义为属性的nn.Parameter或者nn.Module，都会被自动添加到模型的参数列表中。这意味着，当我们使用优化器来优化模型的参数时，这些参数会被自动包含进去。

此外，nn.Module还提供了一些其他的功能，如将模型的所有参数和缓冲区移动到CPU或GPU、将模型的状态保存为字典、从字典中加载模型的状态等。这些功能大大简化了PyTorch模型的使用和管理。