Comenzando con el café

Instalación y configuración

ubuntu

A continuación, encontrará instrucciones detalladas para instalar Caffe, pycaffe y sus dependencias, en Ubuntu 14.04 x64 o 14.10 x64.

Ejecute el siguiente script, p. “bash compile_caffe_ubuntu_14.sh” (~30 a 60 minutos en un Ubuntu nuevo).

# This script installs Caffe and pycaffe. 
# CPU only, multi-threaded Caffe.

# Usage: 
# 0. Set up here how many cores you want to use during the installation:
# By default Caffe will use all these cores.
NUMBER_OF_CORES=4

sudo apt-get install -y libprotobuf-dev libleveldb-dev libsnappy-dev 
sudo apt-get install -y libopencv-dev libhdf5-serial-dev
sudo apt-get install -y --no-install-recommends libboost-all-dev
sudo apt-get install -y libatlas-base-dev 
sudo apt-get install -y python-dev 
sudo apt-get install -y python-pip git

# For Ubuntu 14.04
sudo apt-get install -y libgflags-dev libgoogle-glog-dev liblmdb-dev protobuf-compiler 

# Install LMDB
git clone https://github.com/LMDB/lmdb.git 
cd lmdb/libraries/liblmdb
sudo make 
sudo make install

# More pre-requisites 
sudo apt-get install -y cmake unzip doxygen
sudo apt-get install -y protobuf-compiler
sudo apt-get install -y libffi-dev python-pip python-dev build-essential
sudo pip install lmdb
sudo pip install numpy
sudo apt-get install -y python-numpy
sudo apt-get install -y gfortran # required by scipy
sudo pip install scipy # required by scikit-image
sudo apt-get install -y python-scipy # in case pip failed
sudo apt-get install -y python-nose
sudo pip install scikit-image # to fix https://github.com/BVLC/caffe/issues/50


# Get caffe (http://caffe.berkeleyvision.org/installation.html#compilation)
cd
mkdir caffe
cd caffe
wget https://github.com/BVLC/caffe/archive/master.zip
unzip -o master.zip
cd caffe-master

# Prepare Python binding (pycaffe)
cd python
for req in $(cat requirements.txt); do sudo pip install $req; done

# to be able to call "import caffe" from Python after reboot:
echo "export PYTHONPATH=$(pwd):$PYTHONPATH " >> ~/.bash_profile 
source ~/.bash_profile # Update shell 
cd ..

# Compile caffe and pycaffe
cp Makefile.config.example Makefile.config
sed -i '8s/.*/CPU_ONLY := 1/' Makefile.config # Line 8: CPU only
sudo apt-get install -y libopenblas-dev
sed -i '33s/.*/BLAS := open/' Makefile.config # Line 33: to use OpenBLAS
# Note that if one day the Makefile.config changes and these line numbers may change
echo "export OPENBLAS_NUM_THREADS=($NUMBER_OF_CORES)" >> ~/.bash_profile 
mkdir build
cd build
cmake ..
cd ..
make all -j$NUMBER_OF_CORES # 4 is the number of parallel threads for compilation: typically equal to number of physical cores
make pycaffe -j$NUMBER_OF_CORES
make test
make runtest
#make matcaffe
make distribute

# Afew few more dependencies for pycaffe
sudo pip install pydot
sudo apt-get install -y graphviz
sudo pip install scikit-learn

Al final, debe ejecutar “source ~/.bash_profile” manualmente o iniciar un nuevo shell para poder hacer ‘python import caffe’.

Habilitar subprocesos múltiples con Caffe

Caffe puede ejecutarse en múltiples núcleos. Una forma es habilitar subprocesos múltiples con Caffe para usar OpenBLAS en lugar del ATLAS predeterminado. Para hacerlo, puedes seguir estos tres pasos:

  1. sudo apt-get install -y libopenblas-dev
  2. Antes de compilar Caffe, edite Makefile.config, reemplace BLAS := atlas por BLAS := abierto
  3. Después de compilar Caffe, ejecutar export OPENBLAS_NUM_THREADS=4 hará que Caffe use 4 núcleos.

Pérdida de regularización (descenso de peso) en Caffe

En el archivo solver, podemos establecer una pérdida de regularización global usando las opciones weight_decay y regularization_type.

En muchos casos, queremos diferentes tasas de caída de peso para diferentes capas. Esto se puede hacer configurando la opción decay_mult para cada capa en el archivo de definición de red, donde decay_mult es el multiplicador de la tasa de disminución de peso global, por lo que la tasa de disminución de peso real aplicada para una capa es decay_mult*weight_decay .

Por ejemplo, lo siguiente define una capa convolucional SIN decaimiento de peso, independientemente de las opciones en el archivo de resolución.

layer {
  name: "Convolution1"
  type: "Convolution"
  bottom: "data"
  top: "Convolution1"
  param {
    decay_mult: 0
  }
  convolution_param {
    num_output: 32
    pad: 0
    kernel_size: 3
    stride: 1
    weight_filler {
      type: "xavier"
    }
  }
}

Consulte este hilo para obtener más información.