轉(zhuǎn)帖|行業(yè)資訊|編輯:龔雪|2017-02-13 14:42:39.000|閱讀 663 次
概述:當(dāng)MySql無法滿足你的需求時,你的下一步要往哪里走呢?在大數(shù)據(jù)時代,或許圖形數(shù)據(jù)庫才是你的最好選擇...
# 界面/圖表報表/文檔/IDE等千款熱門軟控件火熱銷售中 >>
最近在抓取一些社交網(wǎng)站的數(shù)據(jù),抓下來的數(shù)據(jù)用MySql存儲。問我為什么用MySql,那自然是入門簡單,并且我當(dāng)時只熟悉MySql。可是,隨著數(shù)據(jù)量越來越大,有一個問題始終困擾著我,那就是社交關(guān)系的存儲。
就以新浪微博舉例,一個大V少則十幾萬,多則幾千萬的粉絲,這些關(guān)注關(guān)系要怎么存呢?在MySql中,一條關(guān)注關(guān)系(大V id,大V的一個粉絲 id)存為一條數(shù)據(jù),那么當(dāng)用戶數(shù)量上來的時候,關(guān)注關(guān)系輕松破億,破十億,甚至上百億,并且為了保證每條數(shù)據(jù)的唯一性,還需要設(shè)置聯(lián)合索引,MySql就有些力不從心了。那么有人要說了:分表呀。嗯,沒錯,分表的確可以在插入端和讀取端提升一些速度。比如我們可以根據(jù)id哈希到100張表中。查詢一個用戶有哪些粉絲是快了,但是查詢一個用戶關(guān)注了哪些人時仍然需要遍歷全表。好,這時候我們還可以以(id,其關(guān)注的一個用戶的id)再構(gòu)造100張表,于是兩種查詢都快了。然而,后面那100張表是冗余數(shù)據(jù),看著就不爽。并且生成一張子圖也不方便(需要多次寫SQL查表)。
于是,在搜索更好的方案時無意間發(fā)現(xiàn)了圖形數(shù)據(jù)庫,查閱一番資料后感覺確實是個不錯的選擇,畢竟業(yè)界的一些大佬,如twitter,Adobe等也在用。
那么,什么是圖形數(shù)據(jù)庫呢?在這里我貼上較為官方的定義:a database that uses graph structures for semantic queries with nodes, edges and properties to represent and store data – independent of the way the data is stored internally. It’s really the model and the implemented algorithms that matter.注意,這里只是說數(shù)據(jù)模型是圖結(jié)構(gòu)的,沒有說數(shù)據(jù)的存儲也一定要是圖結(jié)構(gòu)的。其數(shù)據(jù)模型如下圖
為什么要選擇圖形數(shù)據(jù)庫
拿比較常用的圖形數(shù)據(jù)庫Neo4j來舉例說明,首先,先簡要介紹一下Neo4j。Neo4j是由Java和Scala寫成的一個NoSql數(shù)據(jù)庫,專門用于網(wǎng)絡(luò)圖的存儲。更詳細的內(nèi)容可見官網(wǎng)。作為一個圖形數(shù)據(jù)庫,Neo4j有以下優(yōu)點:
1.更快的數(shù)據(jù)庫操作。當(dāng)然,有一個前提條件,那就是數(shù)據(jù)量較大,在MySql中存儲的話需要許多表,并且表之間聯(lián)系較多(即有不少的操作需要join表)。
2.數(shù)據(jù)更直觀,相應(yīng)的SQL語句也更好寫(Neo4j使用Cypher語言,與傳統(tǒng)SQL有很大不同)。
3.更靈活。不管有什么新的數(shù)據(jù)需要存儲,都是一律的節(jié)點和邊,只需要考慮節(jié)點屬性和邊屬性。而MySql中即意味著新的表,還要考慮和其他表的關(guān)系。
4.數(shù)據(jù)庫操作的速度并不會隨著數(shù)據(jù)庫的增大有明顯的降低。這得益于Neo4j特殊的數(shù)據(jù)存儲結(jié)構(gòu)和專門優(yōu)化的圖算法。
接著,試著從更深一些的層次看圖形數(shù)據(jù)庫。我將從Neo4j的數(shù)據(jù)存儲和數(shù)據(jù)讀寫兩方面來說明為什么選它。
1.數(shù)據(jù)存儲
Neo4j對于圖的存儲自然是經(jīng)過特別優(yōu)化的。不像傳統(tǒng)數(shù)據(jù)庫的一條記錄一條數(shù)據(jù)的存儲方式,Neo4j的存儲方式是:節(jié)點的類別,屬性,邊的類別,屬性等都是分開存儲的,這將大大有助于提高圖形數(shù)據(jù)庫的性能。如下圖:
2.數(shù)據(jù)讀寫
在Neo4j中,存儲節(jié)點時使用了"index-free adjacency",即每個節(jié)點都有指向其鄰居節(jié)點的指針,可以讓我們在O(1)的時間內(nèi)找到鄰居節(jié)點。另外,按照官方的說法,在Neo4j中邊是最重要的,是"first-class entities",所以單獨存儲,這有利于在圖遍歷的時候提高速度,也可以很方便地以任何方向進行遍歷。
為什么要選Neo4j
如今可供選擇的圖形數(shù)據(jù)庫也不少,為什么就選擇了Neo4j呢?我簡要歸結(jié)為以下幾點:
1.作為較早的一批圖形數(shù)據(jù)庫之一,文檔和各種技術(shù)博客較多。
2.最開始曾嘗試過flockdb(據(jù)說操作簡單+輕量級),但是敗于安裝過程,依賴太多。
3.網(wǎng)上經(jīng)常有人將orientdb,arangodb與neo4j做對比,我當(dāng)然也考慮過orientdb和arangodb。從易用性來說都差不多。速度上的話看過一些評測,arangodb應(yīng)該是相對最快的,因為其使用了混合索引。但是從穩(wěn)定性來說,neo4j是最好的。
最后做個總結(jié)吧。圖形數(shù)據(jù)庫是這幾年興起的,整體還不是很完善,而且適用面也是比較窄的。只有在明確自己的需求之后,才能確定是否選擇圖形數(shù)據(jù)庫。如果仍有疑慮,不確定是否有這個需求,或是在使用neo4j時遇到了難點,慧都學(xué)院推出的會是一個不錯的選擇。由數(shù)據(jù)庫領(lǐng)域資深專家傾力打造的系統(tǒng)性講解,不僅有干貨,還有點對點問答互動,現(xiàn)在關(guān)注慧都學(xué)院官方微信公眾號即有機會獲得免費聽課券!(作者: | 編輯:學(xué)院君)
更多行業(yè)資訊,更新鮮的技術(shù)動態(tài),盡在。
本站文章除注明轉(zhuǎn)載外,均為本站原創(chuàng)或翻譯。歡迎任何形式的轉(zhuǎn)載,但請務(wù)必注明出處、不得修改原文相關(guān)鏈接,如果存在內(nèi)容上的異議請郵件反饋至chenjj@fc6vip.cn