Tensorflow2 模型优化环境快速搭建

一. 环境安装

1. 安装Anaconda并创建虚拟环境

wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2020.07-Linux-x86_64.sh --no-check-certificate
bash Anaconda3-2020.07-Linux-x86_64.sh
source ~/.bashrc
# 检查是否安装成功, 需要看配置有没有写到环境变量里
conda -V

# “tf2”是你建立的conda虚拟环境的名字
conda create --name tf2 python=3.7 
# 进入名为“tf2”的conda虚拟环境
conda activate tf2 

复制

2. 安装tf2.5(GPU版本包含了CPU)

pip install tensorflow-gpu==2.5.0 -i https://pypi.douban.com/simple

复制

验证下是否安装正常, 命令行输入: python3, 然后粘贴以下内容, 看结果是否能正常输出

import tensorflow as tf
A = tf.constant([[1, 2], [3, 4]])
B = tf.constant([[5, 6], [7, 8]])
C = tf.matmul(A, B)
print(C)

复制

Output:

tf.Tensor(
[[19 22]
[43 50]], shape=(2, 2), dtype=int32)

复制

3. 安装Dokcer和 Nvidia-Docker

yum install  tlinux-release-docker-ce docker-ce
# 下载nvidia-docker的repo文件
curl -s -L https://nvidia.github.io/nvidia-docker/centos7/nvidia-docker.repo | tee /etc/yum.repos.d/nvidia-docker.repo
# 安装
yum install  nvidia-container-runtime
# 安装完成后需要启动一下docker
service docker start

复制

4. Docker安装TFServing (GPU版本包含了CPU)

docker pull tensorflow/serving:2.5.3-gpu

复制

5. Tensorboard安装

conda activate tf2
pip3 install tensorboard==2.5.0
pip3 install tensorboard-data-server==0.6.1
pip3 install tensorboard-plugin-profile==2.5.0
pip3 install tensorflow-model-optimization==0.7.0

复制

6. Tensorboard Profiler抓包

nohup tensorboard --logdir=/tmp/tensorboard --host=127.0.0.1 --port=6006 &

复制

进入 http://localhost:6006/ 开始进行抓包,  抓包前需要选择PROFILE选项, 然后填写对应配置(注意这里tensorboard和tfserving必须是在同一台机器启动), 抓取期间使用TF-preftest工具进行请求.

image.png

7. 使用Netron可视化模型h5文件

首先下载并安装 https://netron.app/, 然后打开模型里面的h5文件就行了

image.png