自定义日志¶
MMAction2 在运行过程中会产生大量的日志，如损失、迭代时间、学习率等。在这一部分，我们将向你介绍如何输出自定义日志。有关日志系统的更多详细信息，请参考 MMEngine 教程。
灵活的日志系统¶
默认情况下，MMAction2 的日志系统由 default_runtime 中的 LogProcessor 配置：
log_processor = dict(type='LogProcessor', window_size=20, by_epoch=True)
默认情况下，LogProcessor 捕获 model.forward 返回的所有以 loss 开头的字段。例如，在以下模型中，loss1 和 loss2 将在没有任何额外配置的情况下自动记录到日志。
from mmengine.model import BaseModel
class ToyModel(BaseModel):
def __init__(self) -> None:
super().__init__()
self.linear = nn.Linear(1, 1)
def forward(self, img, label, mode):
feat = self.linear(img)
loss1 = (feat - label).pow(2)
loss2 = (feat - label).abs()
return dict(loss1=loss1, loss2=loss2)
输出日志遵循以下格式：
08/21 02:58:41 - mmengine - INFO - Epoch(train) [1][10/25] lr: 1.0000e-02 eta: 0:00:00 time: 0.0019 data_time: 0.0004 loss1: 0.8381 loss2: 0.9007 loss: 1.7388
08/21 02:58:41 - mmengine - INFO - Epoch(train) [1][20/25] lr: 1.0000e-02 eta: 0:00:00 time: 0.0029 data_time: 0.0010 loss1: 0.1978 loss2: 0.4312 loss: 0.6290
LogProcessor 将按以下格式输出日志：
日志的前缀：
epoch 模式(
by_epoch=True)：Epoch(train) [{current_epoch}/{current_iteration}]/{dataloader_length}iteration 模式(
by_epoch=False)：Iter(train) [{current_iteration}/{max_iteration}]
学习率 (
lr)：最后一次迭代的学习率。时间：
time：过去window_size次迭代的推理平均时间。data_time：过去window_size次迭代的数据加载平均时间。eta：完成训练的预计到达时间。
损失：过去
window_size次迭代中模型输出的平均损失。
Warning
默认情况下，log_processor 输出基于 epoch 的日志(by_epoch=True)。要得到与 train_cfg 匹配的预期日志，我们应在 train_cfg 和 log_processor 中设置相同的 by_epoch 值。
根据以上规则，代码片段将每20次迭代计算 loss1 和 loss2 的平均值。更多类型的统计方法，请参考 mmengine.runner.LogProcessor。
定制日志¶
日志系统不仅可以记录 loss，lr 等，还可以收集和输出自定义日志。例如，如果我们想要统计中间损失：
ToyModel 在 forward 中计算 loss_tmp，但不将其保存到返回字典中。
from mmengine.logging import MessageHub
class ToyModel(BaseModel):
def __init__(self) -> None:
super().__init__()
self.linear = nn.Linear(1, 1)
def forward(self, img, label, mode):
feat = self.linear(img)
loss_tmp = (feat - label).abs()
loss = loss_tmp.pow(2)
message_hub = MessageHub.get_current_instance()
# 在消息中心更新中间的 `loss_tmp`
message_hub.update_scalar('train/loss_tmp', loss_tmp.sum())
return dict(loss=loss)
将 loss_tmp 添加到配置中：
log_processor = dict(
type='LogProcessor',
window_size=20,
by_epoch=True,
custom_cfg=[
# 使用平均值统计 loss_tmp
dict(
data_src='loss_tmp',
window_size=20,
method_name='mean')
])
loss_tmp 将被添加到输出日志中：
08/21 03:40:31 - mmengine - INFO - Epoch(train) [1][10/25] lr: 1.0000e-02 eta: 0:00:00 time: 0.0026 data_time: 0.0008 loss_tmp: 0.0097 loss: 0.0000
08/21 03:40:31 - mmengine - INFO - Epoch(train) [1][20/25] lr: 1.0000e-02 eta: 0:00:00 time: 0.0028 data_time: 0.0013 loss_tmp: 0.0065 loss: 0.0000
导出调试日志¶
要将调试日志导出到 work_dir，你可以在配置文件中设置日志级别如下：
log_level='DEBUG'
08/21 18:16:22 - mmengine - DEBUG - Get class `LocalVisBackend` from "vis_backend" registry in "mmengine"
08/21 18:16:22 - mmengine - DEBUG - An `LocalVisBackend` instance is built from registry, its implementation can be found in mmengine.visualization.vis_backend
08/21 18:16:22 - mmengine - DEBUG - Get class `RuntimeInfoHook` from "hook" registry in "mmengine"
08/21 18:16:22 - mmengine - DEBUG - An `RuntimeInfoHook` instance is built from registry, its implementation can be found in mmengine.hooks.runtime_info_hook
08/21 18:16:22 - mmengine - DEBUG - Get class `IterTimerHook` from "hook" registry in "mmengine"
...
此外，如果你正在使用共享存储训练你的模型，那么在 debug 模式下，不同排名的日志将被保存。日志的层级结构如下：
./tmp
├── tmp.log
├── tmp_rank1.log
├── tmp_rank2.log
├── tmp_rank3.log
├── tmp_rank4.log
├── tmp_rank5.log
├── tmp_rank6.log
└── tmp_rank7.log
...
└── tmp_rank63.log
在具有独立存储的多台机器上的日志：
# 设备：0：
work_dir/
└── exp_name_logs
├── exp_name.log
├── exp_name_rank1.log
├── exp_name_rank2.log
├── exp_name_rank3.log
...
└── exp_name_rank7.log
# 设备：7：
work_dir/
└── exp_name_logs
├── exp_name_rank56.log
├── exp_name_rank57.log
├── exp_name_rank58.log
...
└── exp_name_rank63.log