Load models saved with `nn.DataParallel` wrapper on a system with no GPU

1

Hi community,

I ended us saving my models with nn.DataParallel() using

torch.save(model.state_dict(), PATH)

I now understand I should have saved it using this instead

torch.save(model.module.state_dict(), PATH)

I want to use this model for inference on a CPU-only system now, which contains no GPUs. At this point, what are my options? I tried to following and my errors are given below.

device = torch.device('cpu')
model.load_state_dict(torch.load(PATH, map_location=device))


File /anaconda/envs/dlml/lib/python3.8/site-packages/torch/nn/modules/module.py:1497, in Module.load_state_dict(self, state_dict, strict)
   1492         error_msgs.insert(
   1493             0, 'Missing key(s) in state_dict: {}. '.format(
   1494                 ', '.join('"{}"'.format(k) for k in missing_keys)))
   1496 if len(error_msgs) > 0:
-> 1497     raise RuntimeError('Error(s) in loading state_dict for {}:\n\t{}'.format(
   1498                        self.__class__.__name__, "\n\t".join(error_msgs)))
   1499 return _IncompatibleKeys(missing_keys, unexpected_keys)

RuntimeError: Error(s) in loading state_dict for UNet:
	Missing key(s) in state_dict: "model.0.conv.unit0.conv.weight", "model.0.conv.unit0.conv.bias", "model.0.conv.unit0.adn.N.weight", "model.0.conv.unit0.adn.N.bias", "model.0.conv.unit0.adn.N.running_mean", "model.0.conv.unit0.adn.N.running_var", "model.0.conv.unit0.adn.A.weight", "model.0.conv.unit1.conv.weight", "model.0.conv.unit1.conv.bias", "model.0.conv.unit1.adn.N.weight", "model.0.conv.unit1.adn.N.bias", "model.0.conv.unit1.adn.N.running_mean", "model.0.conv.unit1.adn.N.running_var", "model.0.conv.unit1.adn.A.weight", "model.0.residual.weight", "model.0.residual.bias", "model.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.0.residual.weight", "model.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.2.0.conv.weight", "model.1.submodule.2.0.conv.bias", "model.1.submodule.2.0.adn.N.weight", "model.1.submodule.2.0.adn.N.bias", "model.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.2.0.adn.N.running_var", "model.1.submodule.2.0.adn.A.weight", "model.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.2.1.conv.unit0.adn.A.weight", "model.2.0.conv.weight", "model.2.0.conv.bias", "model.2.0.adn.N.weight", "model.2.0.adn.N.bias", "model.2.0.adn.N.running_mean", "model.2.0.adn.N.running_var", "model.2.0.adn.A.weight", "model.2.1.conv.unit0.conv.weight", "model.2.1.conv.unit0.conv.bias". 
	Unexpected key(s) in state_dict: "module.model.0.conv.unit0.conv.weight", "module.model.0.conv.unit0.conv.bias", "module.model.0.conv.unit0.adn.N.weight", "module.model.0.conv.unit0.adn.N.bias", "module.model.0.conv.unit0.adn.N.running_mean", "module.model.0.conv.unit0.adn.N.running_var", "module.model.0.conv.unit0.adn.N.num_batches_tracked", "module.model.0.conv.unit0.adn.A.weight", "module.model.0.conv.unit1.conv.weight", "module.model.0.conv.unit1.conv.bias", "module.model.0.conv.unit1.adn.N.weight", "module.model.0.conv.unit1.adn.N.bias", "module.model.0.conv.unit1.adn.N.running_mean", "module.model.0.conv.unit1.adn.N.running_var", "module.model.0.conv.unit1.adn.N.num_batches_tracked", "module.model.0.conv.unit1.adn.A.weight", "module.model.0.residual.weight", "module.model.0.residual.bias", "module.model.1.submodule.0.conv.unit0.conv.weight", "module.model.1.submodule.0.conv.unit0.conv.bias", "module.model.1.submodule.0.conv.unit0.adn.N.weight", "module.model.1.submodule.0.conv.unit0.adn.N.bias", "module.model.1.submodule.0.conv.unit0.adn.N.running_mean", "module.model.1.submodule.0.conv.unit0.adn.N.running_var", "module.model.1.submodule.0.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.0.conv.unit0.adn.A.weight", "module.model.1.submodule.0.conv.unit1.conv.weight", "module.model.1.submodule.0.conv.unit1.conv.bias", "module.model.1.submodule.0.conv.unit1.adn.N.weight", "module.model.1.submodule.0.conv.unit1.adn.N.bias", "module.model.1.submodule.0.conv.unit1.adn.N.running_mean", "module.model.1.submodule.0.conv.unit1.adn.N.running_var", "module.model.1.submodule.0.conv.unit1.adn.N.num_batches_tracked", "module.model.1.submodule.0.conv.unit1.adn.A.weight", "module.model.1.submodule.0.residual.weight", "module.model.1.submodule.0.residual.bias", "module.model.1.submodule.1.submodule.0.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.0.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.0.conv.unit1.conv.weight", "module.model.1.submodule.1.submodule.0.conv.unit1.conv.bias", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "module.model.1.submodule.1.submodule.0.residual.weight", "module.model.1.submodule.1.submodule.0.residual.bias", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.0.residual.weight", "module.model.1.submodule.1.submodule.1.submodule.0.residual.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "module.model.1.submodule.1.submodule.2.0.conv.weight", "module.model.1.submodule.1.submodule.2.0.conv.bias", "module.model.1.submodule.1.submodule.2.0.adn.N.weight", "module.model.1.submodule.1.submodule.2.0.adn.N.bias", "module.model.1.submodule.1.submodule.2.0.adn.N.running_mean", "module.model.1.submodule.1.submodule.2.0.adn.N.running_var", "module.model.1.submodule.1.submodule.2.0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.2.0.adn.A.weight", "module.model.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "module.model.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "module.model.1.submodule.2.0.conv.weight", "module.model.1.submodule.2.0.conv.bias", "module.model.1.submodule.2.0.adn.N.weight", "module.model.1.submodule.2.0.adn.N.bias", "module.model.1.submodule.2.0.adn.N.running_mean", "module.model.1.submodule.2.0.adn.N.running_var", "module.model.1.submodule.2.0.adn.N.num_batches_tracked", "module.model.1.submodule.2.0.adn.A.weight", "module.model.1.submodule.2.1.conv.unit0.conv.weight", "module.model.1.submodule.2.1.conv.unit0.conv.bias", "module.model.1.submodule.2.1.conv.unit0.adn.N.weight", "module.model.1.submodule.2.1.conv.unit0.adn.N.bias", "module.model.1.submodule.2.1.conv.unit0.adn.N.running_mean", "module.model.1.submodule.2.1.conv.unit0.adn.N.running_var", "module.model.1.submodule.2.1.conv.unit0.adn.N.num_batches_tracked", "module.model.1.submodule.2.1.conv.unit0.adn.A.weight", "module.model.2.0.conv.weight", "module.model.2.0.conv.bias", "module.model.2.0.adn.N.weight", "module.model.2.0.adn.N.bias", "module.model.2.0.adn.N.running_mean", "module.model.2.0.adn.N.running_var", "module.model.2.0.adn.N.num_batches_tracked", "module.model.2.0.adn.A.weight", "module.model.2.1.conv.unit0.conv.weight", "module.model.2.1.conv.unit0.conv.bias".

Please let me know. Thanks!

2

You could load the state_dict to the CPU and remove the module. tags manually.
Afterwards you should be able to load it back to the model via model.load_state_dict(fixed_state_dict) again.

3

Hi @ptrblck,

Thanks for your reply. I tried this but got this error:

def get_base_model(device):    
    model = UNet(
        spatial_dims=3,
        in_channels=2,
        out_channels=2,
        channels=(16, 32, 64, 128, 256, 512),
        strides=(2, 2, 2, 2, 2),
        num_res_units=2,
        norm=Norm.BATCH,
    ).to(device)
    return model

device = torch.device('cpu')
model = get_base_model(device)

state_dict = torch.load(PATH, map_location=device)

fixed_state_dict = {}
for key, value in state_dict.items():
    fixed_state_dict[key.replace('module.', '')] = value.cpu()

model.load_state_dict(fixed_state_dict)

----> 98 model.load_state_dict(fixed_state_dict)

File /anaconda/envs/dlml/lib/python3.8/site-packages/torch/nn/modules/module.py:1497, in Module.load_state_dict(self, state_dict, strict)
   1492         error_msgs.insert(
   1493             0, 'Missing key(s) in state_dict: {}. '.format(
   1494                 ', '.join('"{}"'.format(k) for k in missing_keys)))
   1496 if len(error_msgs) > 0:
-> 1497     raise RuntimeError('Error(s) in loading state_dict for {}:\n\t{}'.format(
   1498                        self.__class__.__name__, "\n\t".join(error_msgs)))
   1499 return _IncompatibleKeys(missing_keys, unexpected_keys)

RuntimeError: Error(s) in loading state_dict for UNet:
	Missing key(s) in state_dict: "model.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.0.residual.weight", "model.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.0.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.conv.unit1.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.1.submodule.residual.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.1.submodule.2.0.conv.weight", "model.1.submodule.1.submodule.2.0.conv.bias", "model.1.submodule.1.submodule.2.0.adn.N.weight", "model.1.submodule.1.submodule.2.0.adn.N.bias", "model.1.submodule.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.1.submodule.2.0.adn.N.running_var", "model.1.submodule.1.submodule.2.0.adn.A.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.1.submodule.2.1.conv.unit0.adn.A.weight", "model.1.submodule.2.0.conv.weight", "model.1.submodule.2.0.conv.bias", "model.1.submodule.2.0.adn.N.weight", "model.1.submodule.2.0.adn.N.bias", "model.1.submodule.2.0.adn.N.running_mean", "model.1.submodule.2.0.adn.N.running_var", "model.1.submodule.2.0.adn.A.weight", "model.1.submodule.2.1.conv.unit0.conv.weight", "model.1.submodule.2.1.conv.unit0.conv.bias", "model.1.submodule.2.1.conv.unit0.adn.N.weight", "model.1.submodule.2.1.conv.unit0.adn.N.bias", "model.1.submodule.2.1.conv.unit0.adn.N.running_mean", "model.1.submodule.2.1.conv.unit0.adn.N.running_var", "model.1.submodule.2.1.conv.unit0.adn.A.weight".
    Unexpected key(s) in state_dict: "model.1.sub0.conv.unit0.conv.weight", "model.1.sub0.conv.unit0.conv.bias", "model.1.sub0.conv.unit0.adn.N.weight", "model.1.sub0.conv.unit0.adn.N.bias", "model.1.sub0.conv.unit0.adn.N.running_mean", "model.1.sub0.conv.unit0.adn.N.running_var", "model.1.sub0.conv.unit0.adn.N.num_batches_tracked", "model.1.sub0.conv.unit0.adn.A.weight", "model.1.sub0.conv.unit1.conv.weight", "model.1.sub0.conv.unit1.conv.bias", "model.1.sub0.conv.unit1.adn.N.weight", "model.1.sub0.conv.unit1.adn.N.bias", "model.1.sub0.conv.unit1.adn.N.running_mean", "model.1.sub0.conv.unit1.adn.N.running_var", "model.1.sub0.conv.unit1.adn.N.num_batches_tracked", "model.1.sub0.conv.unit1.adn.A.weight", "model.1.sub0.residual.weight", "model.1.sub0.residual.bias", "model.1.sub1.sub0.conv.unit0.conv.weight", "model.1.sub1.sub0.conv.unit0.conv.bias", "model.1.sub1.sub0.conv.unit0.adn.N.weight", "model.1.sub1.sub0.conv.unit0.adn.N.bias", "model.1.sub1.sub0.conv.unit0.adn.N.running_mean", "model.1.sub1.sub0.conv.unit0.adn.N.running_var", "model.1.sub1.sub0.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub0.conv.unit0.adn.A.weight", "model.1.sub1.sub0.conv.unit1.conv.weight", "model.1.sub1.sub0.conv.unit1.conv.bias", "model.1.sub1.sub0.conv.unit1.adn.N.weight", "model.1.sub1.sub0.conv.unit1.adn.N.bias", "model.1.sub1.sub0.conv.unit1.adn.N.running_mean", "model.1.sub1.sub0.conv.unit1.adn.N.running_var", "model.1.sub1.sub0.conv.unit1.adn.N.num_batches_tracked", "model.1.sub1.sub0.conv.unit1.adn.A.weight", "model.1.sub1.sub0.residual.weight", "model.1.sub1.sub0.residual.bias", "model.1.sub1.sub1.sub0.conv.unit0.conv.weight", "model.1.sub1.sub1.sub0.conv.unit0.conv.bias", "model.1.sub1.sub1.sub0.conv.unit0.adn.N.weight", "model.1.sub1.sub1.sub0.conv.unit0.adn.N.bias", "model.1.sub1.sub1.sub0.conv.unit0.adn.N.running_mean", "model.1.sub1.sub1.sub0.conv.unit0.adn.N.running_var", "model.1.sub1.sub1.sub0.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub0.conv.unit0.adn.A.weight", "model.1.sub1.sub1.sub0.conv.unit1.conv.weight", "model.1.sub1.sub1.sub0.conv.unit1.conv.bias", "model.1.sub1.sub1.sub0.conv.unit1.adn.N.weight", "model.1.sub1.sub1.sub0.conv.unit1.adn.N.bias", "model.1.sub1.sub1.sub0.conv.unit1.adn.N.running_mean", "model.1.sub1.sub1.sub0.conv.unit1.adn.N.running_var", "model.1.sub1.sub1.sub0.conv.unit1.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub0.conv.unit1.adn.A.weight", "model.1.sub1.sub1.sub0.residual.weight", "model.1.sub1.sub1.sub0.residual.bias", "model.1.sub1.sub1.sub1.sub0.conv.unit0.conv.weight", "model.1.sub1.sub1.sub1.sub0.conv.unit0.conv.bias", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.N.weight", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.N.bias", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.N.running_var", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub0.conv.unit0.adn.A.weight", "model.1.sub1.sub1.sub1.sub0.conv.unit1.conv.weight", "model.1.sub1.sub1.sub1.sub0.conv.unit1.conv.bias", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.N.weight", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.N.bias", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.N.running_var", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub0.conv.unit1.adn.A.weight", "model.1.sub1.sub1.sub1.sub0.residual.weight", "model.1.sub1.sub1.sub1.sub0.residual.bias", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.conv.weight", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.conv.bias", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.N.weight", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.N.bias", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.N.running_var", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub1.subconv.unit0.adn.A.weight", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.conv.weight", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.conv.bias", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.N.weight", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.N.bias", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.N.running_var", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub1.subconv.unit1.adn.A.weight", "model.1.sub1.sub1.sub1.sub1.subresidual.weight", "model.1.sub1.sub1.sub1.sub1.subresidual.bias", "model.1.sub1.sub1.sub1.sub2.0.conv.weight", "model.1.sub1.sub1.sub1.sub2.0.conv.bias", "model.1.sub1.sub1.sub1.sub2.0.adn.N.weight", "model.1.sub1.sub1.sub1.sub2.0.adn.N.bias", "model.1.sub1.sub1.sub1.sub2.0.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub2.0.adn.N.running_var", "model.1.sub1.sub1.sub1.sub2.0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub2.0.adn.A.weight", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.conv.weight", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.conv.bias", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.N.weight", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.N.bias", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.N.running_mean", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.N.running_var", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub1.sub2.1.conv.unit0.adn.A.weight", "model.1.sub1.sub1.sub2.0.conv.weight", "model.1.sub1.sub1.sub2.0.conv.bias", "model.1.sub1.sub1.sub2.0.adn.N.weight", "model.1.sub1.sub1.sub2.0.adn.N.bias", "model.1.sub1.sub1.sub2.0.adn.N.running_mean", "model.1.sub1.sub1.sub2.0.adn.N.running_var", "model.1.sub1.sub1.sub2.0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub2.0.adn.A.weight", "model.1.sub1.sub1.sub2.1.conv.unit0.conv.weight", "model.1.sub1.sub1.sub2.1.conv.unit0.conv.bias", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.N.weight", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.N.bias", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.N.running_mean", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.N.running_var", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub1.sub2.1.conv.unit0.adn.A.weight", "model.1.sub1.sub2.0.conv.weight", "model.1.sub1.sub2.0.conv.bias", "model.1.sub1.sub2.0.adn.N.weight", "model.1.sub1.sub2.0.adn.N.bias", "model.1.sub1.sub2.0.adn.N.running_mean", "model.1.sub1.sub2.0.adn.N.running_var", "model.1.sub1.sub2.0.adn.N.num_batches_tracked", "model.1.sub1.sub2.0.adn.A.weight", "model.1.sub1.sub2.1.conv.unit0.conv.weight", "model.1.sub1.sub2.1.conv.unit0.conv.bias", "model.1.sub1.sub2.1.conv.unit0.adn.N.weight", "model.1.sub1.sub2.1.conv.unit0.adn.N.bias", "model.1.sub1.sub2.1.conv.unit0.adn.N.running_mean", "model.1.sub1.sub2.1.conv.unit0.adn.N.running_var", "model.1.sub1.sub2.1.conv.unit0.adn.N.num_batches_tracked", "model.1.sub1.sub2.1.conv.unit0.adn.A.weight", "model.1.sub2.0.conv.weight", "model.1.sub2.0.conv.bias", "model.1.sub2.0.adn.N.weight", "model.1.sub2.0.adn.N.bias", "model.1.sub2.0.adn.N.running_mean", "model.1.sub2.0.adn.N.running_var", "model.1.sub2.0.adn.N.num_batches_tracked", "model.1.sub2.0.adn.A.weight", "model.1.sub2.1.conv.unit0.conv.weight", "model.1.sub2.1.conv.unit0.conv.bias", "model.1.sub2.1.conv.unit0.adn.N.weight", "model.1.sub2.1.conv.unit0.adn.N.bias", "model.1.sub2.1.conv.unit0.adn.N.running_mean", "model.1.sub2.1.conv.unit0.adn.N.running_var", "model.1.sub2.1.conv.unit0.adn.N.num_batches_tracked", "model.1.sub2.1.conv.unit0.adn.A.weight".
4

Based on the error message it seems as if you’ve changed the model architecture and were using submodule layers before (I guess these were nn.Sequential containers) while you are now using subX modules.
Could you check how subX are defined and do you remember where submodule came from?