桌面版介紹
白澤桌面版集成了白澤所有組件,安裝后可完成各類數(shù)據(jù)需求屎勘。Linux MacOS 版提供完整功能施籍;Windows 版不建議使用,因 Windows 對(duì) HDFS API 支持不完善概漱。請(qǐng)從官網(wǎng)下載 白澤桌面版2.2.1 Linux 版 和 MacOS 版 法梯, 并根據(jù) 官方文檔 安裝。
這篇文章介紹桌面版構(gòu)建過(guò)程犀概。
桌面版組成
這里 VS Code Plugin 以 TypeScript 開(kāi)發(fā)立哑,是桌面版的前端部分 ;Language Server 橋接前端和白澤引擎姻灶;Spark 是白澤桌面版的底層計(jì)算引擎铛绰。
構(gòu)建流程
理解桌面版組成后,就容易理解以下步驟产喉。下面詳細(xì)介紹各個(gè)步驟捂掰。
構(gòu)建 Byzer-lang
這一部分敢会,參考 官方文檔 適配 Spark 3.1.1 。
git clone https://github.com/byzer-org/byzer-lang#building-a-distribution
export MLSQL_SPARK_VERSION=3.0
./dev/make-distribution.sh
完成后这嚣,得到 mlsql-engine_3.0-<version>.tar.gz
解壓得到 mlsql-engine_3.0-<version>.jar
這是 Byzer-lang
的 jar 鸥昏。
構(gòu)建 Language Server
Language Server 是 Byzer-lang 的一個(gè)插件。這一步姐帚,我們也構(gòu)建 3 個(gè)實(shí)用插件
- mlsql-excel 讀寫(xiě) Excel 文件
- mlsql-shell 執(zhí)行 Shell 腳本
- mlsql-mllib 常用機(jī)器學(xué)習(xí)庫(kù)
git clone https://github.com/byzer-org/byzer-extension
pip install mlsql_plugin_tool
mlsql_plugin_tool build --module_name mlsql-language-server --spark spark311
mlsql_plugin_tool build --module_name mlsql-mllib --spark spark311
mlsql_plugin_tool build --module_name mlsql-excel --spark spark311
mlsql_plugin_tool build --module_name mlsql-shell --spark spark311
上述命令在 mlsql-language-server mlsql-mllib mlsql-excel mlsql-shell 子目錄的 target 子目錄生成 jar 包吏垮。
例如, 對(duì)于 mlsql-language-server
total 4.2M
-rw-rw-r-- 1 hadoop hadoop 1 Feb 26 14:54 classes.timestamp
drwxrwxr-x 3 hadoop hadoop 4.0K Feb 26 14:54 classes
drwxrwxr-x 3 hadoop hadoop 4.0K Feb 26 14:54 generated-sources
-rw-rw-r-- 1 hadoop hadoop 11K Feb 26 14:54 mlsql-language-server-3.0_2.12-0.1.0-SNAPSHOT-sources.jar
drwxrwxr-x 2 hadoop hadoop 4.0K Feb 26 14:54 test-classes
drwxrwxr-x 2 hadoop hadoop 4.0K Feb 26 14:54 maven-archiver
-rw-rw-r-- 1 hadoop hadoop 25K Feb 26 14:54 original-mlsql-language-server-3.0_2.12-0.1.0-SNAPSHOT.jar
drwxrwxr-x 2 hadoop hadoop 4.0K Feb 26 14:54 javadoc-bundle-options
-rw-rw-r-- 1 hadoop hadoop 62K Feb 26 14:54 maven-javadoc-plugin-stale-data.txt
drwxrwxr-x 3 hadoop hadoop 4.0K Feb 26 14:54 apidocs
-rw-rw-r-- 1 hadoop hadoop 72K Feb 26 14:54 mlsql-language-server-3.0_2.12-0.1.0-SNAPSHOT-javadoc.jar
-rw-rw-r-- 1 hadoop hadoop 4.0M Feb 26 14:54 mlsql-language-server-3.0_2.12-0.1.0-SNAPSHOT.jar
下載 JDK Spark
下載 Spark 3.1.1 ,請(qǐng)勿選擇其他版本罐旗。Spark 3.1.1 通過(guò)了白澤團(tuán)隊(duì)兼容性測(cè)試膳汪。
wget --no-check-certificate --no-verbose \
https://archive.apache.org/dist/spark/spark-3.1.1/spark-3.1.1-bin-hadoop3.2.tgz
國(guó)內(nèi)從華為云下載 Linux jdk8u151,速度飛快九秀。
wget --no-check-certificate --no-verbose "https://repo.huaweicloud.com/java/jdk/8u151-b12/jdk-8u151-linux-x64.tar.gz"
從白澤官網(wǎng)下載 Mac JDK8
wget --no-check-certificate --no-verbose https://download.byzer.org/byzer/misc/jdk8_mac.zip
生成 VS Code Plugin
一個(gè) VS Code Plugin 即 vsix 文件遗嗽,也是 zip 壓縮包,它由 vsce 工具生成鼓蜒。vsce 安裝參考 vsce 痹换。下面開(kāi)始:
首先,我們看下壓縮包結(jié)構(gòu):
└── extension.vsixmanifest
└── '[Content_Types].xml'
└── extension
├── dist
│ └── mlsql-lang // byzer-lang
│ ├── bin
│ ├── jdk8 // JDK
│ ├── libs
│ ├── main // streamingpro-mlsql-spark jar
│ ├── plugin // excel shell mllib language-server jar
│ └── spark
├── docs
├── node_modules
├── out
└── syntaxes
└── language-configuration.json
└── LICENSE.txt
└── package.json
└── README.md
CHANGELOG.md
所以都弹,按圖索驥構(gòu)造目錄結(jié)構(gòu)娇豫。
git clone https://github.com/byzer-org/byzer-desktop.git
cd byzer-desktop
# 創(chuàng)建子目錄
mkdir -p dist/mlsql-lang/bin
mkdir -p dist/mlsql-lang/libs
mkdir -p dist/mlsql-lang/main
mkdir -p dist/mlsql-lang/plugin
# 拷貝 Byzer-lang
cp <byzer-lang-main-jar> dist/mlsql-lang/main/
# 拷貝language-server 及其他
cp <language-server-plugin> dist/mlsql-lang/plugin/
cp <shell-plugin> dist/mlsql-lang/plugin/
cp <excel-plugin> dist/mlsql-lang/plugin/
cp <mllib-plugin> dist/mlsql-lang/plugin/
# 拷貝 Spark
tar -xf <spark_download_path>/spark-3.1.1-bin-hadoop3.2.tgz -C dist/mlsql-lang/
mv dist/mlsql-lang/spark-3.1.1-bin-hadoop3.2 dist/mlsql-lang/spark
# 拷貝 JDK8
tar -xf <jdk8_path>/jdk-8u151-linux-x64.tar.gz -C dist/mlsql-lang/
mv dist/mlsql-lang/jdk1.8.0_151 dist/mlsql-lang/jdk8
# 構(gòu)建 VS Code Plugin 前端代碼
npm install
再調(diào)用 vsce 命令生成 VS Code Plugin 文件,例如 mlsql-0.0.6.vsix
cd byzer-desktop
vsce package
安裝后就可以愉快玩耍了缔杉。