生信常用數(shù)據(jù)庫(四):NR數(shù)據(jù)庫分類搭建

前言

? ? 因?yàn)橥暾腘R數(shù)據(jù)庫下載下來后數(shù)據(jù)量非常龐大豌鹤,在我們做序列比對(duì)的時(shí)候奉芦,尤其是很多很大的序列比對(duì)的時(shí)候怠蹂,特別消耗計(jì)算資源和內(nèi)存蓝晒,最重要的是很耽誤分析的周期,因此將NR數(shù)據(jù)庫拆開搭建是必要的幻妓,小編這里拆為動(dòng)物(animal)蹦误、植物(plant)、微生物(micro)

下載

? ? 分類搭建需要下載兩部分,一部分為NR數(shù)據(jù)庫强胰,另一部分為Taxonomy數(shù)據(jù)庫下載舱沧,Taxonomy有兩個(gè)文件prot.accession2taxid和taxdump

(一)NR數(shù)據(jù)庫下載:Index of /blast/db/FASTA? ?#ascp使用見NCBI數(shù)據(jù)下載工具:aspera的安裝與使用 - 簡書

ascp?-i?~/asperaweb_id_dsa.openssh??-QTr?-l500m??anonftp@ftp.ncbi.nlm.nih.gov:/blast/db/FASTA/nr.gz ./? #下載

ascp?-i?~/asperaweb_id_dsa.openssh??-QTr?-l500m??anonftp@ftp.ncbi.nlm.nih.gov:/blast/db/FASTA/nr.gz.md5 ./? #下載

md5sum -cnr.gz.md5??#驗(yàn)證MD5值

gunzip?-c nr.gz >nr.fa #解壓

(二)prot.accession2taxid下載地址 ftp://ftp.ncbi.nlm.nih.gov/pub/taxonomy/accession2taxid/prot.accession2taxid.gz

ascp -i ~/asperaweb_id_dsa.openssh -QTr -l500m anonftp@ftp.ncbi.nlm.nih.gov:/pub/taxonomy/accession2taxid/prot.accession2taxid.gz ./???#下載

ascp -i ~/asperaweb_id_dsa.openssh -QTr -l500m anonftp@ftp.ncbi.nlm.nih.gov:/pub/taxonomy/accession2taxid/prot.accession2taxid.gz.md5 ./???#下載

md5sum -c prot.accession2taxid.gz.md5? #驗(yàn)證MD5值

gunzipprot.accession2taxid.gz??#解壓

? ? 該文件格式如下,accession.version對(duì)應(yīng)nr.fa中的序列ID偶洋,taxid對(duì)應(yīng)axdump中nodes.dmp文件第一列的ID熟吏,之后會(huì)用到

(三)axdump下載地址:

ascp -i ~/asperaweb_id_dsa.openssh -QTr -l500m anonftp@ftp.ncbi.nlm.nih.gov:/pub/taxonomy/taxdump.tar.gz ./??#下載

ascp -i ~/asperaweb_id_dsa.openssh -QTr -l500m anonftp@ftp.ncbi.nlm.nih.gov:/pub/taxonomy/taxdump.tar.gz.md5 ./??#下載

md5sum -c taxdump.tar.gz.md5??#驗(yàn)證MD5值

tar -pzxvf?taxdump.tar.gz??#解壓

??該文件關(guān)注division.dmp和nodes.dmp,division.dmp內(nèi)容如下涡真,以“|”分割分俯,分為四列肾筐,將數(shù)據(jù)庫分成了12類哆料,第一列為分類號(hào),詳細(xì)說明見readme.txt文件吗铐,小編的分類搭建基于此分類

? ? ? nodes.dmp文件格式如下东亦,第一列對(duì)應(yīng)prot.accession2taxid文件中的taxid,第五列對(duì)應(yīng)division.dmp文件中的第一列分類號(hào)唬渗,詳細(xì)見readme.txt文件

分類數(shù)據(jù)庫搭建

????(1)根據(jù)prot.accession2taxid典阵、division.dmp、nodes.dmp三個(gè)文件的對(duì)應(yīng)關(guān)系镊逝,提取得到下邊一樣的對(duì)應(yīng)文件(如accession2taxid.txt)壮啊,以Plants and Fungi為例:

awk -F"\|" '{print$1"\t"$5}' nodes.dmp|awk '{if($2=="4")print$1}' >PLN.taxid

Python get.py?PLN.taxid?prot.accession2taxid?PLN.ID

get.py 腳本如下

上述PLN.ID為所有Plants and Fungi的ID,最終得到結(jié)果如下撑蒜,已將prot.accession2taxid中所有的accession.version ID分類(有一部分不存在)歹啼,相當(dāng)于將NR數(shù)據(jù)庫的序列進(jìn)行了分類

????(2)序列提取步驟:

? ??extract_seq.pl腳本代碼如下:

die "perl $0 <id> <fa> <OUT>" unless(@ARGV==3);

use Bio::SeqIO;

use Bio::Seq;

$in = Bio::SeqIO->new(-file => "$ARGV[1]" , -format => 'Fasta');

$out = Bio::SeqIO->new(-file => ">$ARGV[2]" , -format => 'Fasta');

my%keep=();

open IN ,"$ARGV[0]" or die "$!";

while(<IN>){

????chomp;

????next if /^#/;

????$keep{$_}=1;

}

close(IN);

while ( my $seq = $in->next_seq() ) {

????my($id,$sequence,$desc,$len)=($seq->id,$seq->seq,$seq->desc,$seq->length);

if(exists $keep{$id}){

$out->write_seq($seq);

????}

}

$in->close();

$out->close();

建庫使用

? ? 提取完序列后,使用blast建庫后就可以就行比對(duì)使用

makeblastdb -in?Plants.Fungi.nr.fa?-dbtype prot

makeblastdb -in??animals.nr.fa?-dbtype prot

makeblastdb -in??micro.nr.fa??-dbtype prot?


其他用途說明

? ??Taxonomy數(shù)據(jù)庫數(shù)據(jù)庫還可以進(jìn)行其他多樣化的分類座菠,有興趣可以去官網(wǎng)研究狸眼,小編能力有限,不再述說

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末浴滴,一起剝皮案震驚了整個(gè)濱河市拓萌,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌升略,老刑警劉巖微王,帶你破解...
    沈念sama閱讀 219,188評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異品嚣,居然都是意外死亡炕倘,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,464評(píng)論 3 395
  • 文/潘曉璐 我一進(jìn)店門腰根,熙熙樓的掌柜王于貴愁眉苦臉地迎上來激才,“玉大人,你說我怎么就攤上這事∪衬眨” “怎么了劣挫?”我有些...
    開封第一講書人閱讀 165,562評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵,是天一觀的道長东帅。 經(jīng)常有香客問我压固,道長,這世上最難降的妖魔是什么靠闭? 我笑而不...
    開封第一講書人閱讀 58,893評(píng)論 1 295
  • 正文 為了忘掉前任帐我,我火速辦了婚禮,結(jié)果婚禮上愧膀,老公的妹妹穿的比我還像新娘拦键。我一直安慰自己,他們只是感情好檩淋,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,917評(píng)論 6 392
  • 文/花漫 我一把揭開白布芬为。 她就那樣靜靜地躺著,像睡著了一般蟀悦。 火紅的嫁衣襯著肌膚如雪媚朦。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 51,708評(píng)論 1 305
  • 那天日戈,我揣著相機(jī)與錄音询张,去河邊找鬼。 笑死浙炼,一個(gè)胖子當(dāng)著我的面吹牛份氧,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播鼓拧,決...
    沈念sama閱讀 40,430評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開眼半火,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了季俩?” 一聲冷哼從身側(cè)響起钮糖,我...
    開封第一講書人閱讀 39,342評(píng)論 0 276
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎酌住,沒想到半個(gè)月后店归,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,801評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡酪我,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 37,976評(píng)論 3 337
  • 正文 我和宋清朗相戀三年消痛,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片都哭。...
    茶點(diǎn)故事閱讀 40,115評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡秩伞,死狀恐怖逞带,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情纱新,我是刑警寧澤展氓,帶...
    沈念sama閱讀 35,804評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站脸爱,受9級(jí)特大地震影響遇汞,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜簿废,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,458評(píng)論 3 331
  • 文/蒙蒙 一空入、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧族檬,春花似錦歪赢、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 32,008評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至看尼,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間盟步,已是汗流浹背藏斩。 一陣腳步聲響...
    開封第一講書人閱讀 33,135評(píng)論 1 272
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留却盘,地道東北人狰域。 一個(gè)月前我還...
    沈念sama閱讀 48,365評(píng)論 3 373
  • 正文 我出身青樓,卻偏偏與公主長得像黄橘,于是被迫代替她去往敵國和親兆览。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,055評(píng)論 2 355