業(yè)務(wù)數(shù)據(jù)指紋(MD5)的使用和存儲(chǔ)注意

md5

開始

有時(shí)由于存儲(chǔ)優(yōu)化或?qū)崿F(xiàn)業(yè)務(wù)要求拗慨,或數(shù)據(jù)引用、去重要求。需要對(duì)業(yè)務(wù)數(shù)據(jù)計(jì)算和存儲(chǔ)指紋信息赵抢。

以下分析幾方面。
1.指紋算法選擇
2.指紋輸入的數(shù)據(jù)選擇
3.指紋儲(chǔ)存方法

指紋算法選擇

理論hash沖突的可能性:
md5 > sha1 > shaXX

這里沒什么心得烦却。不過md5已經(jīng)有彩虹表之類的沖突列表了宠叼。無意的沖突很難其爵,但如果是有意的沖突和搞事,MD5就比較不安全摩渺。

業(yè)務(wù)數(shù)據(jù)指紋的指紋輸入選擇

選擇MD5的輸入公式简烤,建議使用可以直接在sql中計(jì)算的公式,方便后臺(tái)維護(hù)時(shí)在線查對(duì)和做數(shù)乐埠。可以考慮:

注意多字段合并計(jì)算md5時(shí)囚企,需要加入分隔符(想想不加為什么不可以?)龙宏,和考慮是否需要對(duì)分隔符沖突作轉(zhuǎn)義(escape)處理棵逊。
使用時(shí),需要注意DB和表的charset

select
  concat_ws('~',
    replace(field1,'~','~~'),
    replace(field2,'~','~~')
  );

Mysql中用好Binary類型做性能優(yōu)化:

需要在mysql表中保存MD5值辆影。考慮三個(gè)方案:
varchar(32)
char(32)
binary(16)

由于MD5值黍特,實(shí)際為128-bit(16 byte)二進(jìn)數(shù)據(jù)蛙讥,字符只是一個(gè)方便人看的表達(dá)灭衷,所以應(yīng)該用msql的binary(16)來保存最為節(jié)省空間(與varchar和CHAR相比)次慢。sha1/shaX 等HASH算法也同理。減少IO和內(nèi)存的操作翔曲,所以理論上同時(shí)可以提高性能迫像。這在多表關(guān)聯(lián)、排序時(shí)差別更大瞳遍。

因?yàn)槿绻鹶archar(32)闻妓。在utf8 環(huán)境 下最少要32*3+長(zhǎng)度記數(shù)個(gè)字節(jié)。長(zhǎng)度比binary16長(zhǎng)幾倍掠械。而且由缆,作為索引或比較時(shí)注祖,varchar的忽略大小寫的比較比直接的binary比較更加慢。所以理論來說犁功,更應(yīng)該考慮binary(16)氓轰。

人工select時(shí),可以使用HEX/UNHEX方法把binary數(shù)據(jù)變?yōu)榭勺x(http://dev.mysql.com/doc/refman/5.7/en/string-functions.html#function_hex)浸卦。
如有需要,對(duì)于mysql 5.7+ 也可以用virtual列等方法去虛擬一個(gè)文本列案糙。

附錄:參考資料

hen generating our hash, we'll put an unlikely separator between each column during concatenation so that we won't have "1" and "23" getting confused with "12" and "3" as in this example:
mysql> select concat(1,23), md5(concat(1,23));+--------------+----------------------------------+| concat(1,23) | md5(concat(1,23)) |+--------------+----------------------------------+| 123 | 202cb962ac59075b964b07152d234b70 |+--------------+----------------------------------+1 row in set (0.00 sec)mysql> select concat(12,3), md5(concat(12,3));+--------------+----------------------------------+| concat(12,3) | md5(concat(12,3)) |+--------------+----------------------------------+| 123 | 202cb962ac59075b964b07152d234b70 |+--------------+----------------------------------+1 row in set (0.00 sec)
Instead, we'll do this:
mysql> select concat_ws('~',1,23), md5(concat_ws('~',1,23));+---------------------+----------------------------------+| concat_ws('~',1,23) | md5(concat_ws('~',1,23)) |+---------------------+----------------------------------+| 1~23 | 037ef90202e1e89a23016e4b51489326 |+---------------------+----------------------------------+1 row in set (0.00 sec)mysql> select concat_ws('~',12,3), md5(concat_ws('~',12,3));+---------------------+----------------------------------+| concat_ws('~',12,3) | md5(concat_ws('~',12,3)) |+---------------------+----------------------------------+| 12~3 | 4ba8224d8a784c8af2af98b4ceb034c6 |+---------------------+----------------------------------+1 row in set (0.00 sec)

http://dev.mysql.com/doc/refman/5.7/en/char.html
In contrast to CHAR
, VARCHAR
values are stored as a 1-byte or 2-byte length prefix plus data. The length prefix indicates the number of bytes in the value. A column uses one length byte if values require no more than 255 bytes, two length bytes if values may require more than 255 bytes.

http://dba.stackexchange.com/questions/2640/what-is-the-performance-impact-of-using-char-vs-varchar-on-a-fixed-size-field

TRADEOFF #1 Obviously, VARCHAR holds the advantage since variable-length data would produce smaller rows and, thus, smaller physical files.

TRADEOFF #2 Since CHAR fields require less string manipulation because of fixed field widths, index lookups against CHAR field are on average 20% faster than that of VARCHAR fields. This is not any conjecture on my part. The book MySQL Database Design and Tuning performed something marvelous on a MyISAM table to prove this. The example in the book did something like the following:

http://stackoverflow.com/questions/59667/why-would-i-ever-pick-char-over-varchar-in-sql
As was pointed out by Gaven in the comments, if you are using a multi-byte, variable length character set like UTF8 then CHAR stores the maximum number of bytes necessary to store the number of characters. So if UTF8 needs at most 3 bytes to store a character, then CHAR(6) will be fixed at 18 bytes, even if only storing latin1 characters. So in this case VARCHAR becomes a much better choice.

https://www.xaprb.com/blog/2009/02/12/5-ways-to-make-hexadecimal-identifiers-perform-better-on-mysql/

select * from t where id = x'0cc175b9c0f1b6a831c399e269772661';

MySQL 5.7:
create table users(
id_bin binary(16),

id_text varchar(36) generated always as

(insert(

insert(

  insert(

    insert(hex(id_bin),9,0,'-'),

    14,0,'-'),

  19,0,'-'),

24,0,'-')

) virtual,

name varchar(200));

http://www.ovaistariq.net/632/understanding-mysql-binary-and-non-binary-string-data-types/:
A CHAR(10) column would need 30 bytes for each value regardless of the actual value if utf8 character set is used, however, the same column would need 10 bytes for each value if a single-byte character set such as latin1 is used. Keeping these considerations in mind is very important.

http://www.techearl.com/mysql/how-to-store-md5-hashes-in-a-mysql-database
INSERT INTO md5_test_binary (md5) VALUES (unhex('0800fc577294c34e0b28ad2839435945'));

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末限嫌,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子时捌,更是在濱河造成了極大的恐慌怒医,老刑警劉巖,帶你破解...
    沈念sama閱讀 216,544評(píng)論 6 501
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件奢讨,死亡現(xiàn)場(chǎng)離奇詭異稚叹,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī)拿诸,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 92,430評(píng)論 3 392
  • 文/潘曉璐 我一進(jìn)店門扒袖,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人亩码,你說我怎么就攤上這事季率。” “怎么了描沟?”我有些...
    開封第一講書人閱讀 162,764評(píng)論 0 353
  • 文/不壞的土叔 我叫張陵飒泻,是天一觀的道長(zhǎng)。 經(jīng)常有香客問我吏廉,道長(zhǎng)泞遗,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 58,193評(píng)論 1 292
  • 正文 為了忘掉前任席覆,我火速辦了婚禮史辙,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘娜睛。我一直安慰自己髓霞,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,216評(píng)論 6 388
  • 文/花漫 我一把揭開白布畦戒。 她就那樣靜靜地躺著方库,像睡著了一般。 火紅的嫁衣襯著肌膚如雪障斋。 梳的紋絲不亂的頭發(fā)上纵潦,一...
    開封第一講書人閱讀 51,182評(píng)論 1 299
  • 那天徐鹤,我揣著相機(jī)與錄音,去河邊找鬼邀层。 笑死返敬,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的寥院。 我是一名探鬼主播劲赠,決...
    沈念sama閱讀 40,063評(píng)論 3 418
  • 文/蒼蘭香墨 我猛地睜開眼,長(zhǎng)吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼秸谢!你這毒婦竟也來了凛澎?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 38,917評(píng)論 0 274
  • 序言:老撾萬榮一對(duì)情侶失蹤估蹄,失蹤者是張志新(化名)和其女友劉穎塑煎,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體臭蚁,經(jīng)...
    沈念sama閱讀 45,329評(píng)論 1 310
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡最铁,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,543評(píng)論 2 332
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了垮兑。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片冷尉。...
    茶點(diǎn)故事閱讀 39,722評(píng)論 1 348
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖甥角,靈堂內(nèi)的尸體忽然破棺而出网严,到底是詐尸還是另有隱情嗤无,我是刑警寧澤,帶...
    沈念sama閱讀 35,425評(píng)論 5 343
  • 正文 年R本政府宣布当犯,位于F島的核電站,受9級(jí)特大地震影響嚎卫,放射性物質(zhì)發(fā)生泄漏嘉栓。R本人自食惡果不足惜拓诸,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,019評(píng)論 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望馋辈。 院中可真熱鬧,春花似錦倍谜、人聲如沸叉抡。這莊子的主人今日做“春日...
    開封第一講書人閱讀 31,671評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽洗搂。三九已至,卻和暖如春蚕脏,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背驼鞭。 一陣腳步聲響...
    開封第一講書人閱讀 32,825評(píng)論 1 269
  • 我被黑心中介騙來泰國(guó)打工尺碰, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人亲桥。 一個(gè)月前我還...
    沈念sama閱讀 47,729評(píng)論 2 368
  • 正文 我出身青樓洛心,卻偏偏與公主長(zhǎng)得像题篷,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子番枚,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 44,614評(píng)論 2 353

推薦閱讀更多精彩內(nèi)容

  • sqlmap用戶手冊(cè) 說明:本文為轉(zhuǎn)載,對(duì)原文中一些明顯的拼寫錯(cuò)誤進(jìn)行修正深啤,并標(biāo)注對(duì)自己有用的信息。 ======...
    wind_飄閱讀 2,044評(píng)論 0 5
  • http://192.168.136.131/sqlmap/mysql/get_int.php?id=1 當(dāng)給sq...
    xuningbo閱讀 10,301評(píng)論 2 22
  • 【MySQL】Linux下MySQL 5.5友绝、5.6和5.7的RPM堤尾、二進(jìn)制和源碼安裝 1.1BLOG文檔結(jié)構(gòu)圖 ...
    小麥苗DB寶閱讀 10,540評(píng)論 0 31
  • 今天給自己買了一雙鞋哀峻。終于可以穿高跟鞋了呢涡相。所以我一定要找一個(gè)比我個(gè)高的男生當(dāng)男朋友剩蟀。嘿嘿催蝗。 但是不知道為什么育特,我...
    被狗追的蝸牛閱讀 216評(píng)論 0 0
  • 劉邦是歷史上少有的草根皇帝之一。在這里我不想太多的評(píng)論功過是非缰冤,而是想到了另外一個(gè)認(rèn)知~階層。 我們棉浸,也包...
    caf70b103a08閱讀 329評(píng)論 0 2