目錄

• PMML簡(jiǎn)介
• PMML標(biāo)準(zhǔn)介紹
• PMML優(yōu)點(diǎn)
• PMML開源類庫(kù)
• PMML演示
• PMML缺點(diǎn)
• 總結(jié)
• 參考

PMML簡(jiǎn)介

預(yù)測(cè)模型標(biāo)記語(yǔ)言PMML（Predictive Model Markup Language）是一套與平臺(tái)和環(huán)境無(wú)關(guān)的模型表示語(yǔ)言娃肿，是目前表示機(jī)器學(xué)習(xí)模型的實(shí)際標(biāo)準(zhǔn)火架。從2001年發(fā)布的PMML1.1强戴，到2019年最新4.4歉摧，PMML標(biāo)準(zhǔn)已經(jīng)由最初的6個(gè)模型擴(kuò)展到了17個(gè)模型燃异，并且提供了挖掘模型（Mining Model）來(lái)組合多模型礼饱。

作為一個(gè)開放的成熟標(biāo)準(zhǔn)李滴，PMML由數(shù)據(jù)挖掘組織DMG（Data Mining Group）開發(fā)和維護(hù)突硝，經(jīng)過十幾年的發(fā)展测摔，得到了廣泛的應(yīng)用，有超過30家廠商和開源項(xiàng)目（包括SAS解恰，IBM SPSS锋八，KNIME，RapidMiner等主流廠商）在它們的數(shù)據(jù)挖掘分析產(chǎn)品中支持并應(yīng)用PMML护盈，這些廠商應(yīng)用詳情見下表：PMML Powered

PMML標(biāo)準(zhǔn)介紹

PMML是一套基于XML的標(biāo)準(zhǔn)挟纱，通過 XML Schema 定義了使用的元素和屬性，主要由以下核心部分組成：

• 數(shù)據(jù)字典（Data Dictionary）腐宋，描述輸入數(shù)據(jù)紊服。
• 數(shù)據(jù)轉(zhuǎn)換（Transformation Dictionary和Local Transformations），應(yīng)用在輸入數(shù)據(jù)字段上生成新的派生字段胸竞。
• 模型定義 （Model）欺嗤，每種模型類型有自己的定義。
• 輸出（Output）卫枝，指定模型輸出結(jié)果煎饼。

PMML預(yù)測(cè)過程符合數(shù)據(jù)挖掘分析流程：

pmml-flow.png

PMML優(yōu)點(diǎn)

• 平臺(tái)無(wú)關(guān)性。PMML可以讓模型部署環(huán)境脫離開發(fā)環(huán)境校赤，實(shí)現(xiàn)跨平臺(tái)部署吆玖，是PMML區(qū)別于其他模型部署方法最大的優(yōu)點(diǎn)。比如使用Python建立的模型马篮，導(dǎo)出PMML后可以部署在Java生產(chǎn)環(huán)境中沾乘。
• 互操作性。這就是標(biāo)準(zhǔn)協(xié)議的最大優(yōu)勢(shì)浑测，實(shí)現(xiàn)了兼容PMML的預(yù)測(cè)程序可以讀取其他應(yīng)用導(dǎo)出的標(biāo)準(zhǔn)PMML模型翅阵。
• 廣泛支持性。已取得30余家廠商和開源項(xiàng)目的支持迁央，通過已有的多個(gè)開源庫(kù)怎顾，很多重量級(jí)流行的開源數(shù)據(jù)挖掘模型都可以轉(zhuǎn)換成PMML。
• 可讀性漱贱。PMML模型是一個(gè)基于XML的文本文件槐雾，使用任意的文本編輯器就可以打開并查看文件內(nèi)容，比二進(jìn)制序列化文件更安全可靠幅狮。

PMML開源類庫(kù)

模型轉(zhuǎn)換庫(kù)募强，生成PMML:

• Python模型：
  • Nyoka株灸，支持Scikit-Learn，LightGBM擎值，XGBoost慌烧，Statsmodels和Keras。https://github.com/nyoka-pmml/nyoka
  • JPMML系列鸠儿，比如JPMML-SkLearn屹蚊、JPMML-XGBoost、JPMML-LightGBM等进每，提供命令行程序?qū)С瞿Ｐ偷絇MML汹粤。https://github.com/jpmml
• R模型：
  • R pmml包：https://cran.r-project.org/web/packages/pmml/index.html
  • r2pmml：https://github.com/jpmml/r2pmml
  • JPMML-R：提供命令行程序?qū)С鯮模型到PMML，https://github.com/jpmml/jpmml-r
• Spark：
  • Spark mllib田晚，但是只是模型本身嘱兼，不支持Pipelines，不推薦使用贤徒。
  • JPMML-SparkML芹壕，支持Spark ML pipleines。https://github.com/jpmml/jpmml-sparkml

模型評(píng)估庫(kù)接奈，讀取PMML：

• Java：
  • JPMML-Evaluator踢涌，純Java的PMML預(yù)測(cè)庫(kù)，開源協(xié)議是AGPL V3序宦。https://github.com/jpmml/jpmml-evaluator
  • PMML4S睁壁，使用Scala開發(fā)，同時(shí)提供Scala和Java API挨厚，接口簡(jiǎn)單好用，開源協(xié)議是常用的寬松協(xié)議Apache 2糠惫。https://github.com/autodeployai/pmml4s
• Python:
  • PyPMML疫剃，PMML的Python預(yù)測(cè)庫(kù)，PyPMML是PMML4S包裝的Python接口硼讽。https://github.com/autodeployai/pypmml
• Spark：
  • JPMML-Evaluator-Spark巢价，https://github.com/jpmml/jpmml-evaluator-spark
  • PMML4S-Spark，https://github.com/autodeployai/pmml4s-spark
• PySpark:
  • PyPMML-Spark固阁，PySpark中預(yù)測(cè)PMML模型壤躲。https://github.com/autodeployai/pypmml-spark
• REST API:
  • AI-Serving，同時(shí)為PMML模型提供REST和gRPC API备燃，開源協(xié)議Apache 2碉克。https://github.com/autodeployai/ai-serving
  • Openscoring，提供REST API并齐，開源協(xié)議AGPL V3漏麦。https://github.com/openscoring/openscoring

PMML演示

構(gòu)建模型客税，完整Jupyter Notebook，請(qǐng)參考：xgb-iris-pmml.ipynb

1. 使用Iris數(shù)據(jù)構(gòu)建一個(gè)XGBoost模型撕贞，在建模之前對(duì)浮點(diǎn)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化更耻，利用Scikit-learn中的Pipeline：

from sklearn import datasets
from sklearn.model_selection import train_test_split
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
import pandas as pd
from xgboost import XGBClassifier

seed = 123456

iris = datasets.load_iris()
target = 'Species'
features = iris.feature_names
iris_df = pd.DataFrame(iris.data, columns=features)
iris_df[target] = iris.target

X, y = iris_df[features], iris_df[target]
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.33, random_state=seed)

pipeline = Pipeline([
    ('scaling', StandardScaler()), 
    ('xgb', XGBClassifier(n_estimators=5, seed=seed))
])

pipeline.fit(X_train, y_train)
y_pred = pipeline.predict(X_test)
y_pred_proba = pipeline.predict_proba(X_test)

2. 使用Nyoka，把Pipeline導(dǎo)出PMML：

from nyoka import xgboost_to_pmml
xgboost_to_pmml(pipeline, features, target, "xgb-iris.pmml")

3. 使用PyPMML來(lái)驗(yàn)證PMML預(yù)測(cè)值是否和原生Python模型一致:

from pypmml import Model
model = Model.load("xgb-iris.pmml")
model.predict(X_test)

讀取PMML捏膨，進(jìn)行預(yù)測(cè)秧均。以下使用PMML4S的Scala接口，您也可以使用它的Java接口号涯，使用非常簡(jiǎn)單目胡。完整程序，在以下Zeppelin Notebook中：https://github.com/aipredict/ai-deployment/blob/master/deploy-ml-using-pmml/pmml4s-demo.json

因?yàn)镚ithub不支持瀏覽Zeppelin Notebook诚隙，可以訪問以下地址瀏覽：https://www.zepl.com/viewer/github/aipredict/ai-deployment/master/deploy-ml-using-pmml/pmml4s-demo.json

import org.pmml4s.model.Model
val model = Model.fromFile("xgb-iris.pmml")
val result = model.predict(Map("sepal length (cm)" -> 5.7, "sepal width (cm)" -> 4.4, "petal length (cm)" -> 1.5, "petal width (cm)" -> 0.4))

PMML缺點(diǎn)

PMML雖然有很多優(yōu)點(diǎn)讶隐，但也并非毫無(wú)缺點(diǎn)，比如：

• 支持不了所有的數(shù)據(jù)預(yù)處理和后處理操作久又。雖然PMML已經(jīng)支持了幾乎所有的標(biāo)準(zhǔn)數(shù)據(jù)處理方式巫延，但是對(duì)用戶一些自定義操作，還缺乏有效的支持地消，很難放到PMML中炉峰。
• 模型類型支持有限。特別是缺乏對(duì)深度學(xué)習(xí)模型的支持脉执，PMML下一版5.0會(huì)添加對(duì)深度模型的支持疼阔，目前Nyoka可以支持Keras等深度模型，但生成的是擴(kuò)展的PMML模型半夷。
• PMML是一個(gè)松散的規(guī)范標(biāo)準(zhǔn)婆廊，有的廠商生成的PMML有可能不太符合標(biāo)準(zhǔn)定義的Schema，并且PMML規(guī)范允許廠商添加自己的擴(kuò)展巫橄，這些都對(duì)使用這些模型造成了一定障礙淘邻。

總結(jié)

本文中我們介紹了PMML這種跨平臺(tái)機(jī)器學(xué)習(xí)模型表示標(biāo)準(zhǔn)，PMML的優(yōu)缺點(diǎn)湘换，常用的PMML開源類庫(kù)宾舅，以及演示了如何生成和使用PMML。

雖然PMML有一些缺點(diǎn)和不足彩倚，但瑕不掩瑜筹我，PMML的優(yōu)點(diǎn)是要遠(yuǎn)遠(yuǎn)超過存在的缺點(diǎn)。如果您訓(xùn)練的模型可以導(dǎo)出PMML帆离，建議使用PMML來(lái)部署蔬蕊，如果導(dǎo)出的PMML不能包含整個(gè)Pipelines，可以參考文章《自動(dòng)部署PMML模型生成REST API》中介紹的部署自定義實(shí)時(shí)預(yù)測(cè)Web服務(wù)哥谷。

參考

• DMG官網(wǎng)：http://dmg.org/
• PMML4S袁串，PyPMML和AI-Serving：https://github.com/autodeployai
• JPMML：https://github.com/jpmml
• Nyoka：https://github.com/nyoka-pmml/nyoka