笔记：

https://blog.csdn.net/guojiahuiEmily/article/details/113859105

部署：

centos安装python2.7：

https://www.cnblogs.com/harrymore/p/9024287.html

这里得变：
./configure --enable-optimizations --enable-shared --enable-unicode=ucs4
make && make altinstall

如果报错找不到so文件，执行

/sbin/ldconfig

还不行的话：

3. 使用命令whereis libpython2.7.so.1.0得到如下结果就说明

libpython2.7.so.1: /usr/local/lib/libpython2.7.so.1.0

4. 如果whereis没有结果，或者还有import错误，可以尝试如下操作：

在/etc/ld.so.conf中加入新行/usr/local/lib

/sbin/ldconfig

安装AI服务：

https://github.com/PaddlePaddle/Serving/blob/v0.4.0/README_CN.md

pip install paddle-serving-server==0.4.0 -i https://pypi.tuna.tsinghua.edu.cn/simple

pip install paddle-serving-app==0.2.0 -i https://pypi.tuna.tsinghua.edu.cn/simple

pip install paddle-serving-client==0.4.0 -i https://pypi.tuna.tsinghua.edu.cn/simple

wget --no-check-certificate https://paddle-serving.bj.bcebos.com/uci_housing.tar.gz
tar -xzf uci_housing.tar.gz

测试1：
python -m paddle_serving_server.serve --model uci_housing_model --thread 10 --port 9292

from paddle_serving_client import Client
import numpy as np

client = Client()
client.load_client_config("uci_housing_client/serving_client_conf.prototxt")
client.connect(["127.0.0.1:9292"])
data = [0.0337, -0.1136, 0.2553, -0.0692, 0.0582, -0.0727,
        -0.1583, -0.0584, 0.6283, 0.4919, 0.1856, 0.0795, -0.0332]
fetch_map = client.predict(feed={"x": np.array(data).reshape(1,13,1)}, fetch=["price"])
print(fetch_map)

测试2：

python2.7 -m paddle_serving_server.serve --model uci_housing_model --thread 10 --port 9292 --name uci

这么调用不行：

curl -H "Content-Type:application/json" -X POST -d '[0.0137, -0.1136, 0.2553, -0.0692, 0.0582, -0.0727, -0.1583, -0.0584, 0.6283, 0.4919, 0.1856, 0.0795, -0.0332]' http://127.0.0.1:9292/uci/prediction

安装python3.6(失败，也可不用):

https://www.cnblogs.com/zimo-jing/p/11873413.html

这里得变：
./configure --enable-optimizations --enable-shared --prefix=/usr/local/python36

vi ~/.bash_profile

PATH=$PATH:$HOME/bin:/usr/local/python36/bin

ln -s  /usr/bin/python3  /usr/bin/python36

如果报错找不到so文件，执行

/sbin/ldconfig

还不行的话：

3. 使用命令whereis libpython2.7.so.1.0得到如下结果就说明

libpython2.7.so.1: /usr/local/lib/libpython2.7.so.1.0

4. 如果whereis没有结果，或者还有import错误，可以尝试如下操作：

在/etc/ld.so.conf中加入新行/usr/local/lib

/sbin/ldconfig

glibc-2.18.tar.gz
mkdir build && cd build

../configure --prefix=/usr --disable-profile --enable-add-ons --with-headers=/usr/include --with-binutils=/usr/bin


pip install paddlehub --upgrade -i https://mirror.baidu.com/pypi/simple 
hub run ernie_gen_couplet --input_text '风吹云乱天垂泪' --use_gpu False --beam_width 1

运行启动命令

```
$ hub serving start -m ernie_gen_couplet -p 8866
```
这样就完成了一个服务化API的部署，默认端口号为8866。

*NOTE: 如使用GPU预测，则需要在启动服务之前，请设置CUDAVISIBLEDEVICES环境变量，否则不用设置。*

### 4-2：发送预测请求

配置好服务端，以下数行代码即可实现发送预测请求，获取预测结果

```
import requests
import json

# 发送HTTP请求

data = {'texts':["人增福寿年增岁"],
'use_gpu':False, 'beam_width':1}
headers = {"Content-type": "application/json"}
url = "http://127.0.0.1:8866/predict/ernie_gen_couplet"
r = requests.post(url=url, headers=headers, data=json.dumps(data))

# 保存结果
results = r.json()["results"]
for result in results:
print(result)
```

py代码直接推理：

https://paddleinference.paddlepaddle.org.cn/quick_start/python_demo.html