利用PowerQuery控制數(shù)據(jù)行數(shù)

PowerBI報表在開發(fā)的過程中荸哟,經(jīng)常會遇到數(shù)據(jù)量非常龐大的情況牍陌,在這種情況下,本機連接數(shù)據(jù)源如果不進行特殊處理的話伦吠,那么刷新數(shù)據(jù)的時候可能會發(fā)生數(shù)據(jù)刷新時間過長、數(shù)據(jù)加載內(nèi)存錯誤魂拦、開發(fā)過程中構建DAX卡頓等情況毛仪。

那么在實際開發(fā)中,我們應該如何處理呢晨另?其實潭千,在PowerQuery頁面谱姓,我們可以對查詢進行過濾處理的借尿。

在PowerQuery中進行過濾處理,我們需要區(qū)分兩種情況屉来,一種是可以在連接數(shù)據(jù)源時構建SQL語句的路翻,一種是不可以的,感興趣的小伙伴可以翻閱官方文檔關于查詢折疊[1]的相關內(nèi)容茄靠,這里就不贅述了茂契。

案例:可構建SQL語句

白茶在本機搭建了一個臨時的SQL Server數(shù)據(jù)庫,我們來連接該數(shù)據(jù)庫中的某張表慨绳。

結果如下:

在管理參數(shù)的面板下掉冶,我們需要創(chuàng)建如下參數(shù):

接下來真竖,我們來構建一個空查詢

將如下PQ代碼,通過高級編輯器厌小,復制進去:

let Sources = if LimitValidity then " TOP " & "(" & Limit & ")" else "" in Sources

結果如下:

現(xiàn)在恢共,我們可以對之前的連接到的表進行過濾處理了,進入到高級編輯器璧亚,修改其PQ代碼:

let
    源 = Sql.Database(".", "CaseData", [Query="SELECT" & UseingFilter & " * FROM Fact_Sales "])
in
    源

結果如下:

案例:不可構建SQL語句

因為環(huán)境的關系讨韭,白茶本地沒有相對應的數(shù)據(jù)庫,還是用SQL Server來給大家舉例癣蟋。

繼續(xù)連接到剛才的表:

我們重新創(chuàng)建一個空查詢透硝,將如下代碼粘貼進去:

(x) => let Sources = if LimitValidity then Table.FirstN(x, Number.From(Limit)) else x in Sources

修改FactSales的PQ代碼:

let
    源 = Sql.Databases("."),
    CaseData = 源{[Name="CaseData"]}[Data],
    dbo_Fact_Sales = CaseData{[Schema="dbo",Item="Fact_Sales"]}[Data],
    UseingTop = UseingTop(dbo_Fact_Sales)
in
    UseingTop

結果如下:

云端設置

當我們完成本地開發(fā)工作,將報表發(fā)布到云端后疯搅,還需要調(diào)整參數(shù)濒生,才能保證后續(xù)數(shù)據(jù)正常刷新。

在云端數(shù)據(jù)集設置中幔欧,找到參數(shù)設置甜攀,將LimitValidity參數(shù)修改為False即可。

注意事項

  • 在連接數(shù)據(jù)庫的時候琐馆,切忌SELECT * 這種操作规阀,因為會查詢到一些無用列;

  • 表查詢調(diào)整后瘦麸,會出現(xiàn)運行此本機數(shù)據(jù)庫查詢需要權限 這個提示谁撼,點擊編輯權限后,點擊運行即可滋饲;

  • 本地在刷新數(shù)據(jù)時厉碟,受限于本機電腦的配置以及登錄賬號,量級較大的數(shù)據(jù)在本地無法刷新屠缭;

  • 云端根據(jù)高級容量的不同配置箍鼓,可以滿足不同場景下的大規(guī)模數(shù)據(jù)刷新;

  • 針對不同的數(shù)據(jù)庫呵曹,查詢用語也是不同的款咖,例如:SQL Server支持TOP函數(shù),而MySql則支持Limit函數(shù)奄喂,白茶這里僅是提供一種思路給到大家铐殃。

引用鏈接

[1] 查詢折疊: https://learn.microsoft.com/zh-cn/power-query/query-folding-basics

最后編輯于
?著作權歸作者所有,轉載或內(nèi)容合作請聯(lián)系作者
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市跨新,隨后出現(xiàn)的幾起案子富腊,更是在濱河造成了極大的恐慌,老刑警劉巖域帐,帶你破解...
    沈念sama閱讀 219,270評論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件赘被,死亡現(xiàn)場離奇詭異是整,居然都是意外死亡,警方通過查閱死者的電腦和手機民假,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,489評論 3 395
  • 文/潘曉璐 我一進店門贰盗,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人阳欲,你說我怎么就攤上這事舵盈。” “怎么了球化?”我有些...
    開封第一講書人閱讀 165,630評論 0 356
  • 文/不壞的土叔 我叫張陵秽晚,是天一觀的道長。 經(jīng)常有香客問我筒愚,道長赴蝇,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,906評論 1 295
  • 正文 為了忘掉前任巢掺,我火速辦了婚禮句伶,結果婚禮上,老公的妹妹穿的比我還像新娘陆淀。我一直安慰自己考余,他們只是感情好,可當我...
    茶點故事閱讀 67,928評論 6 392
  • 文/花漫 我一把揭開白布轧苫。 她就那樣靜靜地躺著楚堤,像睡著了一般。 火紅的嫁衣襯著肌膚如雪含懊。 梳的紋絲不亂的頭發(fā)上身冬,一...
    開封第一講書人閱讀 51,718評論 1 305
  • 那天,我揣著相機與錄音岔乔,去河邊找鬼酥筝。 笑死,一個胖子當著我的面吹牛雏门,可吹牛的內(nèi)容都是我干的嘿歌。 我是一名探鬼主播,決...
    沈念sama閱讀 40,442評論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼剿配,長吁一口氣:“原來是場噩夢啊……” “哼搅幅!你這毒婦竟也來了?” 一聲冷哼從身側響起呼胚,我...
    開封第一講書人閱讀 39,345評論 0 276
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎息裸,沒想到半個月后蝇更,有當?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體沪编,經(jīng)...
    沈念sama閱讀 45,802評論 1 317
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 37,984評論 3 337
  • 正文 我和宋清朗相戀三年年扩,在試婚紗的時候發(fā)現(xiàn)自己被綠了蚁廓。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 40,117評論 1 351
  • 序言:一個原本活蹦亂跳的男人離奇死亡厨幻,死狀恐怖相嵌,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情况脆,我是刑警寧澤饭宾,帶...
    沈念sama閱讀 35,810評論 5 346
  • 正文 年R本政府宣布,位于F島的核電站格了,受9級特大地震影響看铆,放射性物質發(fā)生泄漏。R本人自食惡果不足惜盛末,卻給世界環(huán)境...
    茶點故事閱讀 41,462評論 3 331
  • 文/蒙蒙 一弹惦、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧悄但,春花似錦棠隐、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,011評論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至净嘀,卻和暖如春报咳,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背挖藏。 一陣腳步聲響...
    開封第一講書人閱讀 33,139評論 1 272
  • 我被黑心中介騙來泰國打工暑刃, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人膜眠。 一個月前我還...
    沈念sama閱讀 48,377評論 3 373
  • 正文 我出身青樓岩臣,卻偏偏與公主長得像,于是被迫代替她去往敵國和親宵膨。 傳聞我的和親對象是個殘疾皇子架谎,可洞房花燭夜當晚...
    茶點故事閱讀 45,060評論 2 355

推薦閱讀更多精彩內(nèi)容