DeepLab V2安装配置

2016年Semantic Segmentation方向比较出色的一篇文章，DeepLab: Semantic Image Segmentation with Deep Convolutional Nets, Atrous Convolution, and Fully Connected CRFs https://arxiv.org/abs/1606.00915

作者提供了开源的代码，shell版本：https://bitbucket.org/aquariusjay/deeplab-public-ver2 和python版本：https://github.com/TheLegendAli/DeepLab-Context2 以及相关Model下载： http://liangchiehchen.com/projects/DeepLab_Models.html

作者所使用的Caffe版本比较陈旧，导致会出现很多和最新环境不兼容的情况。我使用的环境是Ubuntu 16.04, CUDA 8.0, cuDNN 5.1, Python 2.7.12，以下就以这个配置写个简单流程说明。

1.安装

1.1 安装Matio

下载matio(https://sourceforge.net/projects/matio/files/matio/1.5.2/)

$ tar zxf matio-1.5.2.tar.gz $ cd matio-1.5.2 $ ./configure $ make $ make check $ make install $ sudo ldconfig

1.2 安装wget

执行脚本时如果提示 ImportError: No module named wget，说明还需要安装wget

sudo pip install wget

2.编译

和BVLC版本一样，对DeepLab版本的caffe进行编译

make -j8 make test -j8 make pycaffe make pytest

2.1 CUDA8.0环境下atomicAdd错误

编译时会出现如下错误提示：

./include/caffe/common.cuh(9): error: function "atomicAdd(double *, double)" has already been defined

原因是CUDA 8.0 提供了对atomicAdd函数的定义，但atomicAdd在之前的CUDA toolkit中并未出现，因此一些程序自定义了atomicAdd函数。

解决方法：打开./include/caffe/common.cuh文件，在atomicAdd前添加宏判断即可。

如下：

#if !defined(__CUDA_ARCH__) || __CUDA_ARCH__ >= 600 #else static __inline__ __device__ double atomicAdd(double* address, double val) { ... } #endif

再次编译程序即可。

2.2 cuDNN v5环境会出现类似下面的接口错误

./include/caffe/util/cudnn.hpp: In function ‘void caffe::cudnn::createPoolingDesc(cudnnPoolingStruct**, caffe::PoolingParameter_PoolMethod, cudnnPoolingMode_t*, int, int, int, int, int, int)’: ./include/caffe/util/cudnn.hpp:127:41: error: too few arguments to function ‘cudnnStatus_t cudnnSetPooling2dDescriptor(cudnnPoolingDescriptor_t, cudnnPoolingMode_t, cudnnNanPropagation_t, int, int, int, int, int, int)’ pad_h, pad_w, stride_h, stride_w));

这是由于所使用的cuDNN版本不一致的导致的，作者配置环境是cuDNN 4.0，但是5.0版本后的cuDNN接口有所变化。

解决方法 ：将以下几个文件用最新BVLC版本的caffe对应文件替换并重新编译

./include/caffe/util/cudnn.hpp ./include/caffe/layers/cudnn_conv_layer.hpp ./include/caffe/layers/cudnn_relu_layer.hpp ./include/caffe/layers/cudnn_sigmoid_layer.hpp ./include/caffe/layers/cudnn_tanh_layer.hpp ./src/caffe/layers/cudnn_conv_layer.cpp ./src/caffe/layers/cudnn_conv_layer.cu ./src/caffe/layers/cudnn_relu_layer.cpp ./src/caffe/layers/cudnn_relu_layer.cu ./src/caffe/layers/cudnn_sigmoid_layer.cpp ./src/caffe/layers/cudnn_sigmoid_layer.cu ./src/caffe/layers/cudnn_tanh_layer.cpp ./src/caffe/layers/cudnn_tanh_layer.cu

2.3 如果使用cmake编译时可能会遇到以下错误

../lib/libcaffe.so.1.0.0-rc3: undefined reference to `Mat_VarFree' ../lib/libcaffe.so.1.0.0-rc3: undefined reference to `Mat_VarReadDataLinear' ../lib/libcaffe.so.1.0.0-rc3: undefined reference to `Mat_Open' ../lib/libcaffe.so.1.0.0-rc3: undefined reference to `Mat_VarCreate' ../lib/libcaffe.so.1.0.0-rc3: undefined reference to `Mat_CreateVer' ../lib/libcaffe.so.1.0.0-rc3: undefined reference to `Mat_VarWrite' ../lib/libcaffe.so.1.0.0-rc3: undefined reference to `Mat_VarReadInfo' ../lib/libcaffe.so.1.0.0-rc3: undefined reference to `Mat_Close'

解决方法： 下载FindMATIO.cmake.zip文件，解压缩后拷贝到./cmake/Modules目录中。 文件下载路径：https://github.com/TheLegendAli/DeepLab-Context/files/453735/FindMATIO.cmake.zip 并添加以下代码至./cmake/Dependencies.cmake文件中

find_package(MATIO REQUIRED) include_directories(${MATIO_INCLUDE_DIR}) list(APPEND Caffe_LINKER_LIBS ${MATIO_LIBRARIES})

3.运行脚本

python run.py

3.1 v1和v2版本兼容性问题

Error parsing text-format caffe.NetParameter: 316:9: Message type "caffe.ConvolutionParameter" has no field named "hole".

v1版本中将Atrous Convolution的参数称为”hole”，而v2为了和BVLC版本一致而改称为”dilation”。因此将train.prototxt中的hole全部替换为dilation即可。

3.2 继续改错

为了增加对v1版本prototxt的兼容性，还需要对源代码进行多项改动，需要增加对ImageSegDataLayer, InterpLayer, SegAccuracyLayer, MatWriteLayer这几层对prototxt文件信息的支持。首先在./src/caffe/proto/caffe.proto文件中添加唯一ID

message V1LayerParameter { enum LayerType { IMAGE_SEG_DATA = 40; INTERP = 41; SEG_ACCURACY = 42; MAT_READ = 44; MAT_WRITE = 43; } optional InterpParameter interp_param = 43; optional SegAccuracyParameter seg_accuracy_param = 44; optional MatReadParameter mat_read_param = 51; optional MatWriteParameter mat_write_param = 45; }

./src/caffe/util/upgrade_proto.cpp文件的UpgradeV1LayerType(const V1LayerParameter_LayerType type)函数中添加

const char* UpgradeV1LayerType(const V1LayerParameter_LayerType type) { switch (type) { case V1LayerParameter_LayerType_IMAGE_SEG_DATA: return "ImageSegData"; case V1LayerParameter_LayerType_INTERP: return "Interp"; case V1LayerParameter_LayerType_SEG_ACCURACY: return "SegAccuracy"; case V1LayerParameter_LayerType_MAT_WRITE: return "MatWrite"; }

还需要补充对InterpLayer参数interp_param的支持，

bool UpgradeV1LayerParameter(const V1LayerParameter& v1_layer_param, LayerParameter* layer_param) { if (v1_layer_param.has_interp_param()) { layer_param->mutable_interp_param()->CopyFrom( v1_layer_param.interp_param()); } }