习题

这一章的练习只有一个:把你在第 22 课写的单文件训练脚本, 按工程化的结构拆开。

起点:这份单文件

把下面存成 train_single.py,先确认它能跑通:

import torch, torch.nn as nn from torch.utils.data import DataLoader from torchvision import datasets, transforms device = "cuda" if torch.cuda.is_available() else "cpu" tf = transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)), ]) train_ds = datasets.MNIST("./data", train=True, download=True, transform=tf) test_ds = datasets.MNIST("./data", train=False, transform=tf) train_loader = DataLoader(train_ds, batch_size=64, shuffle=True) test_loader = DataLoader(test_ds, batch_size=256, shuffle=False) model = nn.Sequential( nn.Flatten(), nn.Linear(784, 256), nn.ReLU(), nn.Dropout(0.2), nn.Linear(256, 10), ).to(device) loss_fn = nn.CrossEntropyLoss() opt = torch.optim.AdamW(model.parameters(), lr=1e-3) for epoch in range(5): model.train() for x, y in train_loader: x, y = x.to(device), y.to(device) loss = loss_fn(model(x), y) opt.zero_grad(); loss.backward(); opt.step() model.eval() correct = total = 0 with torch.no_grad(): for x, y in test_loader: x, y = x.to(device), y.to(device) correct += (model(x).argmax(1) == y).sum().item() total += y.size(0) print(f"epoch {epoch+1} acc {correct/total:.4f}")

任务:拆成七个文件

目标结构:

myproject/ ├── cfg/settings.py 配置类 ├── model/net.py MNISTNet + 注册表 ├── predata/data.py 建 dataset / dataloader ├── load/load_all.py LoadAll ├── train/trainer.py 训练循环 + TensorBoard ├── train.py 入口(不超过 10 行) └── save/ logs/ 产物

要求

#

要求

1

配置类里只有超参和路径,没有循环、没有 import 模型

2

模型通过 get_model("mnist_mlp") 取到,不直接 import 类

3

train.py 不超过 10 行

4

跑两次,save/ 下出现两个带时间戳的文件

5

logs/tensorboard/ 下出现两个时间戳目录

6

中途 Ctrl+C,再跑一次能接着训而不是从头

验证脚本

写完后跑这段,全部通过才算完成:

import subprocess, glob, os, shutil shutil.rmtree("save", ignore_errors=True) shutil.rmtree("logs", ignore_errors=True) subprocess.run(["python", "train.py", "--epochs", "1"], check=True) subprocess.run(["python", "train.py", "--epochs", "1"], check=True) saves = glob.glob("save/*.pth") logs = glob.glob("logs/tensorboard/*/") assert len(saves) == 2, f"应该有 2 个权重文件,实际 {len(saves)}" assert len(logs) == 2, f"应该有 2 个日志目录,实际 {len(logs)}" print("✓ 两次运行互不覆盖") ckpt = __import__("torch").load(saves[-1], map_location="cpu") for k in ("epoch", "model_state_dict", "optimizer_state_dict", "scheduler_state_dict", "best_acc"): assert k in ckpt, f"checkpoint 缺少 {k}" print("✓ checkpoint 五个字段齐全") import pathlib n = len(pathlib.Path("train.py").read_text(encoding="utf-8").split(chr(10))) assert n <= 12, f"train.py 有 {n} 行,超过 10 行" print("✓ 入口够短")

第二部分:找 bug

拆完自己的代码,再来看一段别人写的——里面有四处工程问题。

下面这段是从某个项目里抄来的,至少有四处工程问题:

class setting: def __init__(self, params, path): self.work_path = path self.device = torch.device("cuda") # ① selefUse = True # ② if selefUse == False: self.lr = params['learning_rate'] else: self.load_path = '/home/z2105372313/project/pytorch/data.csv' # ③ self.lr = 0.0003 save_path = f"{self.work_path}/save" self.save_path = f"{save_path}/model.pth" # ④

逐条指出问题、说明后果、给出改法。

第三部分:思考题

最后三题,考的是“什么时候不该这么做”。

1. 什么时候不该拆文件

举一个具体场景:什么情况下把所有代码放一个文件反而是对的?

2. 注册表还是 if 链

你有 3 个模型,以后大概不会再加。用注册表还是 if 链?说出判断依据。

3. last.pt 和 best.pt 都要吗

只存其中一个会有什么问题?分别在什么场景下会出问题?

参考答案要点

题

要点

拆文件

关键是 train.py 只剩 cfg = setting(); LoadAll(cfg).run()

找 bug ①

设备写死 "cuda",没显卡直接崩。应改成条件判断

找 bug ②

selefUse 拼错 + 是临时开关,导致 params 分支永远走不到

找 bug ③

绝对路径写死,换机器就跑不了。改用 Path(__file__).parent

找 bug ④

固定文件名会覆盖上次的。改成带时间戳

思考 1

代码少于 100 行、只用一次、不会有人接手时,拆开纯属浪费

思考 2

3 个且不再增加 → if 链够用。注册表的价值在"数量会增长"时体现

思考 3

last.pt 断了续训用,缺它就得从头; best.pt 推理用,缺它你会拿最后一轮(往往已经过拟合)去部署

下一章

工程化讲完了。下一章回到原理:为什么处理图像不能再用全连接。