寫在前面 SSE是LLM進(jìn)行流式通信常用的技術(shù)方案, 下圖是 kimi 的示例 SSE 簡介 Server-Sent Events（SSE）是一種允許服務(wù)器向客戶端實(shí)時推送數(shù)...
發(fā)簡信
IP屬地：上海
-
LLM 流式通信之 SSE -
工作用Go: 異步任務(wù)怎么寫
在響應(yīng)應(yīng)用請求的過程中, 有時候會遇到比較耗時的任務(wù), 比如給用戶發(fā)送郵件, 耗時任務(wù)時間不可能控, 很可能超過 1s, 為了給用戶比較好的體驗(yàn), 一般會控制請求響應(yīng)時間(R...
-
DSA.dataStructure.algorithm 數(shù)據(jù)結(jié)構(gòu)與算法
思路: 枚舉/暴力(規(guī)范/協(xié)議)->子問題/狀態(tài)壓縮/剪枝->最優(yōu)解多畫圖 方法dimension.維度 scope.范圍 classify.分類 field.domain....
-
python| python中日期時間處理隨著得物越做越大越做越強(qiáng), 國際化的腳步也越來越快. 國際化給程序帶來2大類需要處理的問題: 語言 和 日期時間. 這篇主要聊 日期時間處理. 詞匯 abbr 很多問題往往只...
-
即時編譯(Just-in-time compilation)
HiPE(High Performance Erlang)"erlang的hipe相當(dāng)于jit辅愿，根據(jù)語言評測有hipe支持在純erlang的運(yùn)算上會快2-3倍，這個性能的提升...
-
Aerospike基本概念
一、什么是Aerospike（AS） Aerospike是一個分布式患膛，高可用的 K-V類型的Nosql數(shù)據(jù)庫。提供類似傳統(tǒng)數(shù)據(jù)庫的ACID操作。 二、為什么要用AS ...
-
通過Nginx實(shí)現(xiàn)gRPC服務(wù)的負(fù)載均衡 | gRPC雙向數(shù)據(jù)流的交互控制系列（3）前情提要 本系列的第一篇文章 通過一個例子介紹了go語言實(shí)現(xiàn)gRPC雙向數(shù)據(jù)流的交互控制嚣鄙，第二篇文章介紹了如何通過Websocket與gRPC交互。通過這兩篇文章串结，我們可以一...
