Faster RCNN pytroch训练问题：Warning: NaN or Inf found in input tensor.

problem

1. 在自己的数据（voc格式）上训练Faster RCNN（https://github.com/jwyang/faster-rcnn.pytorch）就出现了loss=nan的问题。
2. 在Pascal voc和coco上训练Faster RCNN都正常。

reason

1. 可能是learning rate太大，调小learning rate。最有效的方法是learning rate设为0，看看是不是还有nan的问题。
2. 大概率是自己的数据有问题（我的数据是voc格式），voc获取左边后是要减1的，如果你的数据的坐标框本身就是从0开始的，那减1就会导致超出图像边界。

solution

1. 设置lr=0，如果不在出现loss=nan的问题，说明是learning rate太大，导致了梯度爆炸或梯度消失。可调整learning rate和weight decay。
2. 如果lr=0后，依然存在loss=nan的问题，就修改pascal_voc.py中获取坐标框的代码：

原代码
x1 = float(bbox.find('xmin').text) - 1
y1 = float(bbox.find('ymin').text) - 1
x2 = float(bbox.find('xmax').text) - 1
y2 = float(bbox.find('ymax').text) - 1
修改后
x1 = float(bbox.find('xmin').text) 
y1 = float(bbox.find('ymin').text) 
x2 = float(bbox.find('xmax').text) 
y2 = float(bbox.find('ymax').text) 

若设置了翻转（cfg.TRAIN.USE_FLIPPED = True），则需要在imdb.py中的def append_flipped_images(self)方法：

源代码
boxes[:, 0] = widths[i] - oldx2 - 1
boxes[:, 2] = widths[i] - oldx1 - 1
修改后
boxes[:, 0] = widths[i] - oldx2
boxes[:, 2] = widths[i] - oldx1

总结（可能导致loss=nan的情况）[2]

1. Coordinates out of the image resolution------------> NaN Loss
2. xmin=xmax-----------> Results in NaN Loss
3. ymin==ymax-----------> Results in Nan Loss
4. The size of bounding box was very small-----------> Results in NaN Loss

For the 4th case, we put a condition that the difference of |xmax -xmin| >= 20 and similarly |ymax- ymin| >=20

[1]https://github.com/VisionLearningGroup/DA_Detection/issues/11
[2]https://github.com/jwyang/faster-rcnn.pytorch/issues/136

版权声明：本文为CSDN博主「orzchenyuming」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/qq_29936933/article/details/111378275