pb文件中保存了网络的拓扑结构和参数。为了得到pb文件需要先基于TensorFlow Python API 构建并训练网络。
网络的输入节点和输出节点在使用tf.placeholder定义的时候必须要通过name形参指定名称,便于在将模型移植到Android后可以通过名称来获取指定节点的值,或者给指定节点赋值。
x = tf.placeholder(tf.float32, [None, height, width], name='input') #输入节点的名字这里取名为'input' sofmax_out = tf.nn.softmax(logits,name="out_softmax") #输出节点 # keep_prob_placeholder这个节点也命名了,便于后期用于区分训练和测试。 keep_prob_placeholder = tf.placeholder(tf.float32, name='keep_prob_placeholder')这是通过convert_variables_to_constants(sess, input_graph_def, output_node_names,variable_names_whitelist=None)函数实现的,该函数的定义见这。 convert_variables_to_constants完成如下两件事情:(@mirosval的回答)
convert_variables_to_constants() does two things: It freezes the weights by replacing variables with constants It removes nodes which are not related to feedforward prediction
from tensorflow.python.framework import graph_util constant_graph = graph_util.convert_variables_to_constants(sess, sess.graph_def, ["out_softmax"]) with tf.gfile.FastGFile(pb_file_path,mode='wb') as f: f.write(constant_graph.SerializeToString())详细的构建过程可以参考官网:https://github.com/tensorflow/tensorflow/tree/r1.0/tensorflow/contrib/android
这里简要地总结一下主要步骤。
本文下载的是TensorFlow 1.0.1。
修改WORKSPACE文件中的Android SDK和Android NDK的配置信息,其中的路径等信息根据之前的安装情况进行修改。 本文将WORKSPACE文件的配置修改如下:
# Uncomment and update the paths in these entries to build the Android demo. android_sdk_repository( name = "androidsdk", api_level = 25, build_tools_version = "25.0.2", # Replace with path to Android SDK on your system path = "/home/tsiangleo/android_dev/tool/android-sdk-linux", ) android_ndk_repository( name="androidndk", path="/home/tsiangleo/android_dev/tool/android-ndk-r13b", api_level=21)在TensorFlow源码的根目录下执行如下命令,构建so库。
bazel build -c opt //tensorflow/contrib/android:libtensorflow_inference.so \ --crosstool_top=//external:android/crosstool \ --host_crosstool_top=@bazel_tools//tools/cpp:toolchain \ --cpu=armeabi-v7a构建成功后,可在如下目录找到so库。
bazel-bin/tensorflow/contrib/android/libtensorflow_inference.so在TensorFlow源码的根目录下执行如下命令,构建jar包。
bazel build //tensorflow/contrib/android:android_tensorflow_inference_java构建成功后,可在如下目录找到jar包。
bazel-bin/tensorflow/contrib/android/libandroid_tensorflow_inference_java.jar以下操作针对Android Studio。
打开 Project view ,app/src/main/assets。 若不存在assets目录,右键main->new->Directory,输入assets。
打开Project view,将jar包拷贝到app->libs下 选中jar文件,右键 add as library
打开 Project view,将libtensorflow_inference.so文件拷贝到 app/src/main/jniLibs/armeabi-v7a下(若jniLibs/armeabi-v7a目录不存在,则先创建,方法同1。)。
在TensorFlow1.0中,TensorFlowInferenceInterface类的定义为: https://github.com/tensorflow/tensorflow/blob/r1.0/tensorflow/contrib/android/java/org/tensorflow/contrib/android/TensorFlowInferenceInterface.java 该类的用法可参官网的TensorFlowImageClassifier示例。
下面以识别MNIST手写数字为例来介绍,具体代码见github。
