1. 这不是教科书里的CNN而是我在工业级图像分类项目里真正跑通的PyTorch实战路径“Convolutional Neural Networks in PyTorch: Image Classification”——这个标题看起来像教程目录里最普通的一节但如果你真把它当成“照着代码敲完就能跑通”的入门练习大概率会在第3个epoch就卡在验证集准确率不上升、第5次调试时发现数据加载器悄悄把RGB通道顺序搞反、第7天凌晨两点盯着loss曲线发呆为什么训练loss掉得飞快测试结果却连猫狗都分不准我带过12个CV方向的实习生80%的人第一次独立完成图像分类项目都栽在“以为懂了CNN结构其实没摸清PyTorch的数据流和梯度生命周期”这件事上。这不是理论缺陷是工程断层从论文里的卷积核公式到你本地GPU显存报错OOM中间隔着至少5个必须亲手踩过的坑。这篇内容不讲什么是卷积、不推导反向传播只讲我在电商商品图识别、医疗皮肤镜图像筛查、工业零件缺陷检测三个真实项目中反复验证过的PyTorch图像分类落地链路——从数据预处理的像素级校准到模型轻量化部署时TensorRT兼容性陷阱从DataLoader多进程引发的随机种子失效到混合精度训练中GradScaler的触发阈值设置。它适合两类人一类是刚学完《深度学习》前四章、想立刻用PyTorch跑通第一个可交付模型的工程师另一类是已经调过3个以上模型、但每次上线前都要花两天时间排查推理结果与训练不一致问题的算法同学。下面所有步骤、参数、报错日志都来自我2022–2024年在3家不同行业客户现场的实录。2. 整体设计逻辑为什么放弃“经典教学流程”选择这条更陡峭但更少返工的路径2.1 教学惯性带来的三大隐性成本我在第2个项目就付了学费几乎所有PyTorch入门教程都遵循同一套流程加载torchvision.datasets → 定义简单CNN → 用CrossEntropyLoss SGD训练 → 画acc/loss曲线收尾。这套流程在MNIST/CIFAR-10上完美无瑕但一旦切换到真实业务数据就会暴露三个被长期忽视的工程断层数据流断层教程默认使用transforms.ToTensor()将PIL图像转为[0,1]浮点张量但实际产线中相机采集的RAW图常含红外通道、工业镜头存在边缘暗角、医疗设备输出DICOM格式需窗宽窗位归一化。若不在Dataset.__getitem__里嵌入设备标定参数后续所有augmentation如RandomRotation都会在错误的像素分布上操作模型学到的是噪声伪影而非语义特征。内存生命周期断层教程中DataLoader(num_workers4)看似提升吞吐但在Windows系统或Docker容器中子进程会复制主进程的全部内存镜像。当你的数据集含10万张2048×1536高分辨率图时num_workers0反而导致显存占用翻倍——因为每个worker都缓存了未归一化的原始图像副本。我曾在一个光伏板缺陷检测项目中因未重载__getstate__方法导致4个worker各自加载完整数据集单卡V100直接OOM。评估可信度断层教程用model.eval()torch.no_grad()计算验证集acc但真实场景中你需要知道模型在“模糊样本”“低光照样本”“遮挡样本”上的鲁棒性。仅一个全局accuracy无法支撑上线决策。比如在药品包装识别项目中模型对“药盒正面图”准确率99.2%但对“斜45度角拍摄且反光”的样本准确率骤降至63.7%——这个信息不会出现在val_acc 0.92这行日志里。因此本项目的整体架构彻底绕开教学路径采用“生产就绪型”设计数据层强制解耦自定义BaseDataset抽象基类要求所有子类实现get_calibration_params()和get_augmentation_pipeline()两个接口确保设备差异、光照条件、标注质量等业务变量在数据加载阶段即被显式建模训练层引入梯度检查点Gradient Checkpointing针对ResNet50等大模型在forward中插入torch.utils.checkpoint.checkpoint以时间换空间使batch_size在A100上从16提升至64训练速度反增18%因GPU利用率从52%升至89%评估层构建分层指标体系除常规top-1/top-5 accuracy外强制输出混淆矩阵热力图、每类样本的预测置信度分布直方图、以及关键错误类型的可视化案例集如“将‘过期’标签误判为‘临期’”的10张典型图这些才是产品团队能看懂的交付物。提示不要在__init__中初始化transform pipeline。PyTorch的DataLoader在多进程模式下会序列化整个Dataset对象若transform含torch.nn.Module如RandomErasing会导致pickle失败。正确做法是在__getitem__中动态构建pipeline或使用纯函数式transform如F.rotate。2.2 模型选型不是“越大越好”而是匹配你的数据规模与推理约束很多人一上来就堆ResNet101或ViT-Base结果在只有2000张标注图的小样本场景中模型迅速过拟合验证loss震荡剧烈。我在医疗影像项目中做过一组对照实验同样用AdamW优化器、学习率1e-4、训练50 epoch不同骨干网络在皮肤癌分类7类每类平均320张图上的表现如下骨干网络训练集acc验证集acc参数量(M)单图推理耗时(ms)显存占用(GB)MobileNetV3-Small94.2%86.7%2.58.31.2ResNet1898.1%83.4%11.215.62.8EfficientNet-B097.5%85.2%5.312.12.1ViT-Tiny (16x16)99.3%79.8%5.728.43.6数据很清晰ResNet18在训练集上过拟合严重98.1% vs 验证集83.4%而MobileNetV3-Small虽参数量最小但验证集acc最高且方差最低5次随机种子实验标准差仅±0.3%。原因在于其SE注意力模块能自适应增强微小病灶区域的特征响应而ViT的全局注意力在小样本下易捕获噪声patch关联。因此本项目默认采用MobileNetV3-Small 自适应分类头方案但提供可插拔的骨干网络替换接口。关键改造点有三处输入分辨率动态适配不硬编码224x224而是根据数据集统计的图像短边中位数自动缩放。例如工业零件图多为1920×1080直接resize到224会丢失细节我们改用ShortestSize(320)CenterCrop(320)保留更多纹理信息分类头注入领域先验在nn.Linear前插入一层nn.BatchNorm1d并启用track_running_statsTrue。这能稳定小批量训练时的batch norm统计量尤其在类别不均衡如缺陷样本仅占5%时避免BN层被多数类主导输出层强制温度缩放Temperature Scaling添加可学习的温度参数T使logits经softmax(logits/T)输出。T在训练后期冻结为1.2实测使ECEExpected Calibration Error从0.082降至0.031让模型对自己的不确定度判断更可信。注意ViT类模型在小数据集上需谨慎。其位置编码positional embedding在finetune时若未对齐原始预训练分辨率如ViT-Base原为224×224会导致attention map错位。我们曾用ViT-B/16在384×384图像上训练因未插值pos_embed模型将螺丝钉的螺纹误判为“划痕”。3. 核心细节解析从数据加载到模型保存每个环节的魔鬼都在参数里3.1 数据预处理为什么ToTensor()之后必须接Normalize()且均值标准差不能抄网上这是新手最容易忽略的致命细节。transforms.ToTensor()仅做两件事将PIL图像H×W×Cuint8[0,255]转为tensorC×H×Wfloat32[0.0,1.0]交换通道顺序HWC→CHW。但它完全不处理像素分布的偏移。真实世界图像的RGB通道均值远非[0.5,0.5,0.5]——手机拍摄的室内图偏黄R均值0.62G 0.58B 0.49工业相机采集的金属表面图则因白平衡校准不足B通道普遍偏低。若直接使用ImageNet的mean[0.485,0.456,0.406], std[0.229,0.224,0.225]相当于强行把你的数据“拉伸”到ImageNet分布上模型学到的其实是归一化失真。我在一个汽车零部件OCR项目中因沿用ImageNet参数导致字符边缘锐度下降CRNN识别准确率比预期低12.3%。正确做法是为你的数据集单独计算均值和标准差。代码如下注意必须在ToTensor()之后计算否则uint8精度损失会导致std≈0# 计算数据集统计量仅需运行一次 def calculate_dataset_stats(dataset, batch_size64): loader DataLoader(dataset, batch_sizebatch_size, shuffleFalse, num_workers4) mean torch.zeros(3) std torch.zeros(3) total_samples 0 for data, _ in tqdm(loader): # data shape: [B, C, H, W], range [0.0, 1.0] batch_samples data.size(0) data data.view(batch_samples, data.size(1), -1) mean data.mean(2).sum(0) std data.std(2).sum(0) total_samples batch_samples mean / total_samples std / total_samples return mean.tolist(), std.tolist() # 示例输出某工业缺陷数据集 # mean [0.324, 0.351, 0.378] # std [0.189, 0.192, 0.201]然后在transform中使用train_transform transforms.Compose([ transforms.Resize((320, 320)), transforms.RandomHorizontalFlip(p0.5), transforms.ColorJitter(brightness0.2, contrast0.2, saturation0.2, hue0.1), transforms.ToTensor(), transforms.Normalize(mean[0.324, 0.351, 0.378], std[0.189, 0.192, 0.201]) # 关键 ])实操心得计算std时data.std(2)是对每个通道的像素值求标准差维度2是H×W展平后的像素维度不是对batch维度求。若误用data.std(0)会得到3个接近0的值因为batch内图像亮度差异远小于单图内像素差异。3.2 DataLoader的隐藏陷阱num_workers、pin_memory、persistent_workers如何协同生效DataLoader的性能调优是PyTorch图像分类中最易被低估的环节。很多教程只说“设num_workers4更快”却不解释为何在某些配置下设为0反而更快。关键在于理解其底层机制num_workers启动多少个子进程加载数据。每个worker会完整复制主进程的内存空间包括已加载的模型、optimizer等。若主进程已占8GB显存num_workers4意味着额外消耗32GB内存worker间不共享模型参数pin_memory将tensor锁页pinned memory使GPU能通过DMA直接访问避免CPU→GPU拷贝时的内存拷贝开销。但仅当batch为tensor且devicecuda时生效persistent_workersPyTorch 1.7新增参数。若为Trueworker进程在epoch结束后不销毁而是复用。这能避免反复fork进程的开销但要求num_workers0且worker_init_fn中不依赖epoch编号。我们在A100服务器上实测了不同组合的吞吐量单位images/secnum_workerspin_memorypersistent_workers吞吐量备注0False-182CPU单线程无进程开销4FalseFalse215worker频繁创建销毁CPU占用峰值92%4TrueFalse298DMA加速生效但worker仍销毁4TrueTrue347worker复用CPU占用稳定在65%8TrueTrue331CPU成为瓶颈吞吐反降结论num_workers4, pin_memoryTrue, persistent_workersTrue是通用最优解。但需配合worker_init_fn规避随机种子问题def worker_init_fn(worker_id): # 确保每个worker有独立随机种子避免数据增强重复 np.random.seed(torch.initial_seed() % 2**32 worker_id) random.seed(torch.initial_seed() % 2**32 worker_id) train_loader DataLoader( datasettrain_dataset, batch_size64, shuffleTrue, num_workers4, pin_memoryTrue, persistent_workersTrue, worker_init_fnworker_init_fn # 关键否则所有worker用同一随机种子 )警告若未设置worker_init_fnRandomHorizontalFlip等操作在所有worker中产生完全相同的随机序列导致一个batch内出现大量重复增强样本模型有效训练样本量锐减。3.3 损失函数与优化器为什么CrossEntropyLoss要配LabelSmoothingAdamW比SGD更稳nn.CrossEntropyLoss()在PyTorch中实际是LogSoftmax NLLLoss的组合它假设标签是one-hot硬分配。但真实标注存在噪声标注员可能将“疑似划痕”标为“划痕”或将“反光干扰”误标为“凹坑”。硬标签会让模型过度自信泛化能力下降。LabelSmoothing通过将真实类概率从1.0衰减为1.0 - smoothing其他类均分smoothing迫使模型学习更鲁棒的特征。我们在电子元器件缺陷检测中对比了smoothing0.0无平滑与smoothing0.1的效果Epochsmoothing0.0 val_accsmoothing0.1 val_acc验证集ECE1082.4%83.1%0.0922085.7%86.9%0.0713086.2%87.8%0.043可见平滑不仅提升准确率更显著改善校准度。推荐值小数据集用0.1大数据集10万图用0.05。优化器方面AdamW权重衰减分离版Adam已成为CV任务事实标准。它将L2正则项从loss中剥离直接作用于权重更新避免Adam中weight decay与学习率耦合的问题。关键参数设置lr1e-3对MobileNetV3等轻量模型足够ResNet50等可降至5e-4betas(0.9, 0.999)保持默认无需调整weight_decay1e-4对CNN骨干网络效果最佳过高1e-3会抑制特征提取能力amsgradFalse实测开启后收敛更慢且无明显收益。optimizer torch.optim.AdamW( model.parameters(), lr1e-3, betas(0.9, 0.999), weight_decay1e-4 ) scheduler torch.optim.lr_scheduler.OneCycleLR( optimizer, max_lr1e-3, epochs50, steps_per_epochlen(train_loader), pct_start0.1, # 前10% epoch快速升温 anneal_strategycos )OneCycleLR比StepLR或ReduceLROnPlateau更高效它在前期用高学习率快速穿越损失平面平坦区后期用低学习率精细调整50 epoch即可达到StepLR 100 epoch的效果。4. 实操过程从零开始搭建可复现、可交付的图像分类Pipeline4.1 项目结构设计为什么坚持src/目录隔离且config.py必须用OmegaConf一个可维护的PyTorch项目绝不能是train.pymodel.pyutils.py的扁平结构。我在接手3个历史项目时最头疼的是修改学习率要同时改5个文件里的lr1e-3。因此本项目采用严格分层结构project_root/ ├── config/ # 所有超参集中管理 │ ├── base.yaml # 全局默认配置数据路径、设备等 │ ├── model/ # 模型相关配置 │ │ └── mobilenetv3.yaml │ ├── train/ # 训练策略 │ │ └── adamw_50ep.yaml │ └── data/ # 数据集特异性配置 │ └── pcb_defect.yaml ├── src/ # 核心代码与config解耦 │ ├── data/ # Dataset, DataLoader, transforms │ │ ├── __init__.py │ │ ├── base_dataset.py # 强制实现calibration/aug接口 │ │ └── pcb_dataset.py # 具体实现 │ ├── models/ # 模型定义 │ │ ├── __init__.py │ │ ├── backbone/ # 骨干网络可插拔 │ │ │ ├── __init__.py │ │ │ └── mobilenetv3.py │ │ └── head/ # 分类头含温度缩放 │ │ └── adaptive_head.py │ ├── trainer/ # 训练循环核心 │ │ ├── __init__.py │ │ └── base_trainer.py # 支持梯度检查点、混合精度 │ └── utils/ # 工具函数日志、指标、可视化 │ └── metrics.py # 分层评估指标 ├── notebooks/ # 探索性分析非生产代码 ├── logs/ # 训练日志按日期自动创建 ├── weights/ # 模型权重按实验名组织 └── train.py # 入口脚本仅10行train.py极简from src.trainer.base_trainer import BaseTrainer from src.utils.config import load_config if __name__ __main__: cfg load_config(config/train/adamw_50ep.yaml, config/data/pcb_defect.yaml) trainer BaseTrainer(cfg) trainer.train()load_config使用OmegaConfHydra生态支持配置继承与覆写# config/base.yaml defaults: - model: mobilenetv3 - train: adamw_50ep - data: pcb_defect device: cuda:0 seed: 42 output_dir: ./weights/${now:%Y%m%d_%H%M%S}_${data.name}这样只需修改train.py中一行load_config即可切换任意配置组合无需动代码。更重要的是output_dir自动包含时间戳和数据集名确保每次实验可追溯。实操心得OmegaConf的${now}插值在多机训练时可能冲突时钟不同步。生产环境应改用uuid.uuid4().hex[:8]生成唯一ID并记录到config.yaml中。4.2 模型定义MobileNetV3-Small的PyTorch原生实现与关键修改PyTorch官方torchvision.models.mobilenet_v3_small是可用的但为深入理解我们手写核心模块。重点改造三处HSwish激活函数原版nn.Hardswish在低比特量化时有精度损失我们改用nn.SiLUSwish的近似其导数更平滑梯度流动更稳定SE模块通道压缩比官方设为4我们在小数据集上改为8使注意力更聚焦于关键特征通道最后的分类头移除官方nn.Sequential中的nn.Dropout(0.2)因其在小样本下加剧过拟合改用nn.BatchNorm1dnn.Linear并注入温度参数class AdaptiveClassifierHead(nn.Module): def __init__(self, in_features, num_classes, temperature1.0): super().__init__() self.bn nn.BatchNorm1d(in_features, track_running_statsTrue) self.fc nn.Linear(in_features, num_classes) self.temperature nn.Parameter(torch.tensor(float(temperature))) def forward(self, x): x self.bn(x) logits self.fc(x) return logits / self.temperature # 温度缩放完整模型组装class MobileNetV3Small(nn.Module): def __init__(self, num_classes10, temperature1.2): super().__init__() # 使用torchvision预训练权重初始化 backbone torchvision.models.mobilenet_v3_small(pretrainedTrue) # 替换最后的分类头 self.features backbone.features self.pool nn.AdaptiveAvgPool2d(1) self.classifier AdaptiveClassifierHead( backbone.classifier[3].in_features, num_classes, temperature ) def forward(self, x): x self.features(x) x self.pool(x).flatten(1) return self.classifier(x)注意backbone.classifier[3].in_features是倒数第二层即nn.Linear(1024, 1000)的输入维度必须动态获取不能硬编码1024。不同版本torchvision可能不同。4.3 训练循环如何安全地集成混合精度AMP与梯度检查点torch.cuda.amp是提升训练速度的关键但直接套用autocastGradScaler易出错。常见陷阱autocast作用域内不能有.item()或.cpu()操作会触发类型转换异常GradScaler.scale(loss).backward()后scaler.step(optimizer)可能跳过更新若梯度溢出此时scaler.update()必须调用否则后续step会失败。我们的BaseTrainer.train_step()实现def train_step(self, batch): images, targets batch images images.to(self.device) targets targets.to(self.device) self.optimizer.zero_grad() with torch.cuda.amp.autocast(): outputs self.model(images) loss self.criterion(outputs, targets) # AMP安全的backward self.scaler.scale(loss).backward() # 梯度裁剪防止AMP下梯度爆炸 self.scaler.unscale_(self.optimizer) torch.nn.utils.clip_grad_norm_(self.model.parameters(), max_norm1.0) self.scaler.step(self.optimizer) self.scaler.update() # 必须调用 self.scheduler.step() return loss.item()梯度检查点Gradient Checkpointing用于节省显存。在MobileNetV3Small.forward()中def forward(self, x): # 将features分为4个stage对中间stage启用checkpoint x self.features[0](x) # initial conv x self.features[1:4](x) # stage1 x checkpoint(self.features[4:7], x) # stage2, 内存省40% x checkpoint(self.features[7:13], x) # stage3, 内存省55% x self.features[13:](x) # stage4 pool x self.pool(x).flatten(1) return self.classifier(x)实测在A100上batch_size从32提升至64训练速度提升18%因GPU计算单元利用率从52%升至89%。4.4 模型保存与加载为什么必须保存scaler和scheduler状态很多教程只保存model.state_dict()和optimizer.state_dict()导致恢复训练时loss突变。GradScaler和OneCycleLR都有内部状态scaler需保存scale和growth_tracker否则恢复后可能立即触发下溢scheduler需保存last_epoch和_step_count否则学习率重置为初始值。完整保存逻辑def save_checkpoint(self, epoch, is_bestFalse): state { epoch: epoch, model_state_dict: self.model.state_dict(), optimizer_state_dict: self.optimizer.state_dict(), scheduler_state_dict: self.scheduler.state_dict(), scaler_state_dict: self.scaler.state_dict(), # 关键 best_val_acc: self.best_val_acc, cfg: self.cfg # 保存配置确保可复现 } path f{self.cfg.output_dir}/checkpoint_{epoch:03d}.pth torch.save(state, path) if is_best: shutil.copy(path, f{self.cfg.output_dir}/best.pth)加载时checkpoint torch.load(best.pth, map_locationself.device) self.model.load_state_dict(checkpoint[model_state_dict]) self.optimizer.load_state_dict(checkpoint[optimizer_state_dict]) self.scheduler.load_state_dict(checkpoint[scheduler_state_dict]) self.scaler.load_state_dict(checkpoint[scaler_state_dict]) # 关键提示cfg保存为OmegaConf.to_yaml()字符串而非dict确保类型信息不丢失如ListConfig、DictConfig。5. 常见问题与排查技巧实录那些文档里不会写的血泪教训5.1 “验证集准确率停滞不前”——90%的情况源于数据泄露而非模型能力这是最常被误判的问题。现象训练loss持续下降验证loss在某个值附近震荡验证acc不上升。多数人会调小学习率、加dropout、换模型但往往治标不治本。真实原因TOP3训练/验证集划分未按样本ID去重同一产品在不同角度拍摄的多张图被随机split到train/val中。模型在训练集见过“螺丝A的正面图”在验证集看到“螺丝A的侧面图”靠记忆而非泛化就得分。解决方案按product_id分组确保同一ID的所有图像全在train或全在val数据增强污染验证集transforms.RandomRotation等操作被错误地应用到验证集transform中。验证集必须用CenterCropResize禁用任何随机变换标签映射不一致训练时class_to_idx{defect_a:0, defect_b:1}验证时因字典顺序不同变为{defect_b:0, defect_a:1}。解决方案始终用sorted(os.listdir(data_dir))生成class list确保顺序确定。排查命令Linux/macOS# 检查train/val目录下是否有相同文件名同一图像被误分 comm -12 (ls train/ | sort) (ls val/ | sort) # 检查标签文件是否一致 diff (ls train/ | cut -d_ -f1 | sort -u) (ls val/ | cut -d_ -f1 | sort -u)5.2 “CUDA out of memory”——不是显存不够而是内存碎片化当报错显示CUDA out of memory. Tried to allocate 2.00 GiB (GPU 0; 40.00 GiB total capacity)而nvidia-smi显示显存仅用25GB说明是内存碎片化GPU显存被大量小块tensor占据无法拼出连续2GB空间。根治方案在DataLoader中启用prefetch_factor2PyTorch 1.7让worker预取下一个batch减少主进程等待在训练循环中每10个step手动清空CUDA缓存仅调试用if step % 10 0: torch.cuda.empty_cache() # 强制释放未被引用的tensor最根本避免在训练循环中创建新tensor。例如不要在for batch in loader:内写loss_list.append(loss.item())改用torch.tensor([loss.item()])再cat或直接用Python list内存开销小。5.3 “推理结果与训练不一致”——model.eval()只是开始还有3个隐藏开关现象训练时验证acc 87.3%但用torch.jit.trace导出模型后同一张图推理结果完全不同。缺失的3个关键设置torch.backends.cudnn.benchmark False启用benchmark会为每个输入尺寸缓存最优卷积算法但导出模型后输入尺寸固定此缓存失效导致算法选择不同torch.backends.cudnn.deterministic True禁用cudnn的非确定性算法如winograd卷积确保相同输入必得相同输出model中所有Dropout和BatchNorm必须处于eval模式model.eval()只递归调用self.trainingFalse但若自定义模块未重写forward中的if self.training:分支仍会执行训练逻辑。安全推理封装def safe_inference(model, image_tensor, device): model.eval() torch.backends.cudnn.benchmark False torch.backends.cudnn.deterministic True with torch.no_grad(): image_tensor image_tensor.unsqueeze(0).to(device) # add batch dim output model(image_tensor) probs torch.softmax(output / model.classifier.temperature, dim1) return probs.cpu().numpy()[0] # 使用 probs safe_inference(trained_model, test_image, cuda:0)5.4 “训练loss为nan”——99%源于LogSoftmax的数值不稳定CrossEntropyLoss内部的LogSoftmax在logits极大时如100会返回inf导致nan。常见诱因学习率过大lr1e-2在ResNet50上极易触发BatchNorm统计量异常当batch_size1时BN的running_var可能为0导致后续层输入爆炸数据预处理错误Normalize时std设为0如计算错误导致某通道像素值除0。快速定位法在train_step中插入检查def train_step(self, batch): # ... 前置代码 ... with torch.cuda.amp.autocast(): outputs self.model(images) loss self.criterion(outputs, targets) # 插入nan检查 if torch.isnan(loss): print(fNaN loss at epoch {self.epoch}, batch {self.step}) print(foutputs max: {outputs.max().item()}, min: {outputs.min().item()}) print(ftargets: {targets}) raise ValueError(NaN loss detected!) # ... 后续代码 ...修复方案在AdaptiveClassifierHead中加入logits裁剪def forward(self, x): x self.bn(x) logits self.fc(x) # 数值稳定裁剪 logits torch.clamp(logits, min-100, max100) return logits / self.temperature实操心得clamp范围设为±100是经验值。LogSoftmax(x)在x10时饱和x100时exp(x)必溢出故上限100安全下限-100确保exp(-100)不为0避免log(0)。6.