习题
这一章的练习只有一个:把你在第 22 课写的单文件训练脚本, 按工程化的结构拆开。
起点:这份单文件
把下面存成 train_single.py,先确认它能跑通:
import torch, torch.nn as nn from torch.utils.data import DataLoader from torchvision import datasets, transforms device = "cuda" if torch.cuda.is_available() else "cpu" tf = transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)), ]) train_ds = datasets.MNIST("./data", train=True, download=True, transform=tf) test_ds = datasets.MNIST("./data", train=False, transform=tf) train_loader = DataLoader(train_ds, batch_size=64, shuffle=True) test_loader = DataLoader(test_ds, batch_size=256, shuffle=False) model = nn.Sequential( nn.Flatten(), nn.Linear(784, 256), nn.ReLU(), nn.Dropout(0.2), nn.Linear(256, 10), ).to(device) loss_fn = nn.CrossEntropyLoss() opt = torch.optim.AdamW(model.parameters(), lr=1e-3) for epoch in range(5): model.train() for x, y in train_loader: x, y = x.to(device), y.to(device) loss = loss_fn(model(x), y) opt.zero_grad(); loss.backward(); opt.step() model.eval() correct = total = 0 with torch.no_grad(): for x, y in test_loader: x, y = x.to(device), y.to(device) correct += (model(x).argmax(1) == y).sum().item() total += y.size(0) print(f"epoch {epoch+1} acc {correct/total:.4f}")任务:拆成七个文件
目标结构:
myproject/ ├── cfg/settings.py 配置类 ├── model/net.py MNISTNet + 注册表 ├── predata/data.py 建 dataset / dataloader ├── load/load_all.py LoadAll ├── train/trainer.py 训练循环 + TensorBoard ├── train.py 入口(不超过 10 行) └── save/ logs/ 产物要求
# | 要求 |
|---|---|
1 | 配置类里只有超参和路径,没有循环、没有 import 模型 |
2 | 模型通过 |
3 |
|
4 | 跑两次, |
5 |
|
6 | 中途 |
验证脚本
写完后跑这段,全部通过才算完成:
import subprocess, glob, os, shutil shutil.rmtree("save", ignore_errors=True) shutil.rmtree("logs", ignore_errors=True) subprocess.run(["python", "train.py", "--epochs", "1"], check=True) subprocess.run(["python", "train.py", "--epochs", "1"], check=True) saves = glob.glob("save/*.pth") logs = glob.glob("logs/tensorboard/*/") assert len(saves) == 2, f"应该有 2 个权重文件,实际 {len(saves)}" assert len(logs) == 2, f"应该有 2 个日志目录,实际 {len(logs)}" print("✓ 两次运行互不覆盖") ckpt = __import__("torch").load(saves[-1], map_location="cpu") for k in ("epoch", "model_state_dict", "optimizer_state_dict", "scheduler_state_dict", "best_acc"): assert k in ckpt, f"checkpoint 缺少 {k}" print("✓ checkpoint 五个字段齐全") import pathlib n = len(pathlib.Path("train.py").read_text(encoding="utf-8").split(chr(10))) assert n <= 12, f"train.py 有 {n} 行,超过 10 行" print("✓ 入口够短")第二部分:找 bug
拆完自己的代码,再来看一段别人写的——里面有四处工程问题。
下面这段是从某个项目里抄来的,至少有四处工程问题:
class setting: def __init__(self, params, path): self.work_path = path self.device = torch.device("cuda") # ① selefUse = True # ② if selefUse == False: self.lr = params['learning_rate'] else: self.load_path = '/home/z2105372313/project/pytorch/data.csv' # ③ self.lr = 0.0003 save_path = f"{self.work_path}/save" self.save_path = f"{save_path}/model.pth" # ④逐条指出问题、说明后果、给出改法。
第三部分:思考题
最后三题,考的是“什么时候不该这么做”。
1. 什么时候不该拆文件
举一个具体场景:什么情况下把所有代码放一个文件反而是对的?
2. 注册表还是 if 链
你有 3 个模型,以后大概不会再加。用注册表还是 if 链?说出判断依据。
3. last.pt 和 best.pt 都要吗
只存其中一个会有什么问题?分别在什么场景下会出问题?
参考答案要点
题 | 要点 |
|---|---|
拆文件 | 关键是 |
找 bug ① | 设备写死 |
找 bug ② |
|
找 bug ③ | 绝对路径写死,换机器就跑不了。改用 |
找 bug ④ | 固定文件名会覆盖上次的。改成带时间戳 |
思考 1 | 代码少于 100 行、只用一次、不会有人接手时,拆开纯属浪费 |
思考 2 | 3 个且不再增加 → if 链够用。注册表的价值在"数量会增长"时体现 |
思考 3 |
|
下一章
工程化讲完了。下一章回到原理:为什么处理图像不能再用全连接。