评估、保存与复现

评估的三个细节

model.eval() # 1. 切模式 correct = total = 0 with torch.no_grad(): # 2. 不建图 for x, y in test_loader: x, y = x.to(device), y.to(device) pred = model(x).argmax(1) # 3. 取分数最大的那一类 correct += (pred == y).sum().item() total += y.size(0) acc = correct / total

细节

容易错的地方

model.eval()

忘了它,Dropout 仍在随机丢,结果每次不同

no_grad()

忘了它,显存持续上涨

.item()

忘了它,correct 变成张量,越加越慢

别忘了评估完切回训练模式

下一轮训练前要 model.train(),否则 Dropout 不会生效,训练会变差。

标准做法:训练循环开头 model.train(),评估代码开头 model.eval()。

保存模型的两种方式

评估做完了,模型只在内存里。关掉程序就没了,得存下来。

方式一:只存参数(推荐)

torch.save(model.state_dict(), "model.pt")
# 加载时必须先有同样的模型结构 model = nn.Sequential(...) # 和保存时完全一样 model.load_state_dict(torch.load("model.pt")) model.to(device) model.eval()

方式二:存整个模型

torch.save(model, "model_full.pt") model = torch.load("model_full.pt")

state_dict

整个模型

文件大小

小

大

依赖类定义

需要(要重建结构)

也需要(pickle 存了类路径)

安全

安全

反序列化可执行任意代码

推荐

✅

不建议

state_dict 到底存了什么

一个字典,键是参数名,值是张量:

{"net.1.weight": tensor(...), "net.1.bias": tensor(...), ...}

它不含网络结构信息。所以加载前要先写出同样的类, 参数名也得一样。

保存训练状态:断点续训

torch.save({ "epoch": epoch, "model": model.state_dict(), "optimizer": opt.state_dict(), "loss": loss.item(), }, "checkpoint.pt") # 恢复 ckpt = torch.load("checkpoint.pt") model.load_state_dict(ckpt["model"]) opt.load_state_dict(ckpt["optimizer"]) start_epoch = ckpt["epoch"] + 1

优化器也要存——Adam 的动量和梯度平方在里面,不存等于重新开始。

复现:结果每次一样

存完了模型,还有一个问题:同样的代码跑两次,结果不一样。

import torch, numpy as np, random def set_seed(seed=42): random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed_all(seed) set_seed(42)

但这样还不够,还有几个来源:

来源

处理

DataLoader 的 shuffle

generator=torch.Generator().manual_seed(42)

cuDNN 的算法选择

torch.backends.cudnn.deterministic = True

cuDNN 自动调优

torch.backends.cudnn.benchmark = False

多进程数据加载

worker_init_fn 里给每个 worker 设种子

loader = DataLoader( ds, batch_size=64, shuffle=True, generator=torch.Generator().manual_seed(42), )

确定性会变慢

deterministic=True 会禁掉 cuDNN 里那些快的但不确定的算法, 训练速度下降 10%~30%。

调试和写论文时开,正式训练可以关。

一个完整的可复现脚本骨架

把前面所有东西拼起来,就是可以长期用的脚本结构。

def set_seed(s=42): random.seed(s); np.random.seed(s) torch.manual_seed(s); torch.cuda.manual_seed_all(s) torch.backends.cudnn.deterministic = True torch.backends.cudnn.benchmark = False def main(): set_seed(42) device = "cuda" if torch.cuda.is_available() else "cpu" model = build_model().to(device) opt = torch.optim.AdamW(model.parameters(), lr=1e-3) loss_fn = nn.CrossEntropyLoss() best = 0.0 for epoch in range(EPOCHS): train_one_epoch(model, train_loader, loss_fn, opt, device) acc = evaluate(model, test_loader, device) print(f"epoch {epoch+1} acc {acc:.4f}") if acc > best: best = acc torch.save(model.state_dict(), "best.pt") if __name__ == "__main__": main()

为什么有 if __name__ == "__main__"

Windows 上 num_workers > 0 必须这样写,否则子进程会重复执行整个脚本。

Linux 上不写也能跑,但写了更规范,跨平台不会出问题。

保存什么、怎么命名

存东西也有讲究——只存一个 model.pt,过一周你就不记得它是什么配置了。

文件

内容

best.pt

验证集上最好的模型参数

last.pt

最后一轮的完整状态(含优化器),用于续训

history.json

每轮的损失和准确率

config.json

超参数

只存一个 model.pt 的话,过一周你就不记得它是什么学习率、训了几轮、用的什么数据。

下一章

到这里第一个网络跑通了。但 loss.backward() 一直是个黑箱。

下一章把它打开:反向传播到底在算什么。