配置:一个类装下所有超参
上一课分了目录。第一个要拆出来的是配置——因为它被其他所有部分引用。
超参散落各处会怎样
# train.py lr = 1e-3 batch_size = 128 # model.py hidden = 256 # data.py data_path = "./data/cmn.txt" seq_len = 50问题 | 具体发生什么 |
|---|---|
复现实验 | 要翻三个文件才能知道这次跑的什么 |
换数据集 | 改 |
对比两组参数 | 只能靠 git diff,或者手动记在纸上 |
保存实验记录 | 没有"这一次的配置"这个东西可以存下来 |
把所有超参收进一个类
问题看清了,解法很直接:开一个文件,专门装参数。
# cfg/build_cfg.py import time import torch class setting: def __init__(self, params=None, path="."): self.work_path = path # 设备:自动判断,不写死 "cuda" self.device = torch.device("cuda" if torch.cuda.is_available() else "cpu") # 所有超参集中在这里 self.load_path = "predata/translation/cmn.txt" self.batch_size = 128 self.num_workers = 4 self.epochs = 50 self.model_name = "seq2seq" self.lr = 3e-4 self.data_type = "Translation" self.val_rate = 0.2 self.num_ids = 7000 # 输出路径带时间戳:每次跑都是新文件,不会覆盖上次的 save_dir = f"{self.work_path}/save" self.save_path = f"{save_dir}/{self.model_name}_{time.strftime('%Y_%m_%d_%H_%M_%S')}.pth"用的时候:
from cfg.build_cfg import setting cfg = setting(path="/home/me/project") print(cfg.device, cfg.batch_size, cfg.save_path)三个设计点值得说
上面这段代码有三处不是随手写的,每一处都有原因。
1. 设备判断放在配置里
模型、数据、优化器都要知道设备。与其每处都写一遍 "cuda" if torch.cuda.is_available() else "cpu",不如在配置里算一次。
2. 输出路径带时间戳
save/seq2seq_2026_10_29_08_39_08.pth save/seq2seq_2026_10_29_08_45_11.pth save/seq2seq_2026_10_29_09_08_25.pth不覆盖。跑砸了的那次也留着——它是唯一的证据,能告诉你当时用的什么参数。
覆盖 = 失去对比
固定存成 model.pth 的话,第二次跑就把第一次覆盖了。
之后你想"上次那个 lr 是多少来着"——没了。
3. 配置对象可以整个存下来
import json # 跑完把配置存一份,和权重放一起 with open(cfg.save_path.replace(".pth", ".json"), "w") as f: json.dump({k: str(v) for k, v in vars(cfg).items()}, f, indent=2, ensure_ascii=False)过一个月回来看,seq2seq_2026_10_29_08_39_08.json 会告诉你那次的所有参数。
常见写法:命令行覆盖
写死在类里有个不方便:想试新参数还得编辑文件。加一层覆盖。
写死在类里,想改还得编辑文件。加一层命令行覆盖:
import argparse def parse_args(): p = argparse.ArgumentParser() p.add_argument("--lr", type=float, default=1e-3) p.add_argument("--batch-size", type=int, default=128) p.add_argument("--epochs", type=int, default=50) p.add_argument("--model", type=str, default="seq2seq") return p.parse_args() class setting: def __init__(self, args=None): args = args or parse_args() self.lr = args.lr self.batch_size = args.batch_size self.epochs = args.epochs self.model_name = args.modelpython train.py --lr 3e-4 --epochs 30 --model lstm默认值写在代码里,改动从命令行传——这样不用编辑文件就能试新参数。
一个真实的坑:临时开关
上面是理想写法。真实项目里常见的不是这样——下面这段是从实际代码里摘的。
下面这段是实际项目里的代码:
class setting: def __init__(self, params, path): ... selefUse = True # ← 变量名拼错了 if selefUse == False: self.params = params self.load_path = params['load_path'] self.batch_size = params['batchsize'] ... else: self.load_path = '/home/z2105372313/project/pytorch/predata/translation/cmn.txt' self.batch_size = 128 self.epochs = 50 ...这段能跑,但有四个问题:
# | 问题 | 后果 |
|---|---|---|
1 | 路径写死成绝对路径 | 换台机器就跑不了 |
2 |
| 永远走 else 分支,params 那一半代码是死的 |
3 | 拼接错误没人发现 |
|
4 | 两套逻辑并存 | 读代码的人不知道哪套在用 |
改法是把死代码删掉,路径改成相对或从命令行传:
class setting: def __init__(self, args=None): args = args or parse_args() # 路径从项目根算起,而不是写死 /home/xxx self.work_path = Path(__file__).resolve().parent.parent self.load_path = self.work_path / "predata/translation/cmn.txt" self.batch_size = args.batch_size self.epochs = args.epochs ...临时开关是技术债里最贵的一种
if DEBUG:、selefUse 这种"先这样,回头改"的开关, 通常会留到项目结束。
危害不在它本身,在于它让另一半代码永远不被执行—— 那部分代码会悄悄腐烂,没人知道它还能不能跑。
看到这种开关,要么立刻删掉一边,要么改成真正的命令行参数。
配置类该有什么
看完了正例和反例,最后划一下边界。
该有 | 不该有 |
|---|---|
超参(lr、batch、epochs) | 模型定义 |
路径(数据、权重、日志) | 训练逻辑 |
设备判断 | 数据加载代码 |
随机种子 | 任何 |
输出文件名(带时间戳) | import 具体模型类 |
一句话:配置类里不该有任何"做事"的代码。
下一课
配置有了。下一课解决另一个重复:想加一个新模型,要改几处代码?
答案应该是一处。