HugeGraph入门

Stella981
• 阅读 935

一、HugeGraph简介

最近在搞好友推荐方便的工作,选择了图数据的方法,使用并学习了HugeGraph,再次记录一下。

HugeGraph是百度在2018年中旬开源的一款图数据库(Graph Database)系统,可以存储海量的顶点(Vertex)和边(Edge)。实现了Apache ThinkerPop 3[^1]框架,支持Gremlin图查询语言[^2]。HugeGraph支持多用户并行操作,用户可输入Gremlin查询语句,并及时得到图查询结果。也可以再用户程序中调用hugeGraph API进行图分析或查询。

二、HugeGraph特性

HugeGraph支持在线及离线环境下的图操作,支持批量导入数据,支持高效的负责关联关系分析,并且能够与大数据平台无缝集成。

HugeGraph具备如下特点:

  • 基于ThinkerPop 3框架实现,支持Gremlin查询语言;
  • 支持从TXT、CSV、JSON等格式的文件中批量导入数据;
  • 具备独立的Schema元数据信息,方便第三方系统集成;
  • 具备可视化操作界面,降低用户使用门槛;
  • 存储系统采用插件方式,支持RocksDB、Cassandra、ScyllaDB、HBase及Mysql等多种后端;
  • 优化的图接口,最短路径、K步连通子图、K步到达邻接点等;
  • 支持属性图,顶点和边均可添加属性,支持丰富的属性类型;
  • 可以对边和顶点的属性建立索引,支持精确查询、范围查询、全文检索;
  • 支持4种顶点ID策略,之间ID、自动生成ID、用户自定义字符串ID和用户自定义数据ID;
  • 支持与Hadoop、Spark GraphX等大数据系统集成,支持Bulk Load操作。

三、HugeGraph框架模块

  • HugeGraph-Server: HugeGraph-Server是HugeGraph项目的核心部分,包含Core、Backend、API等子模块;
    • Core:图引擎实现,向下连接Backend模块,向上支持API模块;
    • Backend:实现将图数据存储到后端,支持的后端包括:Memory、Cassandra、ScyllaDB、RocksDB、HBase以及Mysql,用户根据实际情况选择一种即可;
    • API:内置REST Server,向用户提供RESTful API,同时兼容Gremlin查询。
  • HugeGraph-Client:HugeGraph-Client提供了RESTful API的客户端,用于连接HugeGraph-Server,目前仅实现Java版,其他语言用户可自行实现;
  • HugeGraph-Studio:HugeGraph-Studio是HugeGraph的Web可视化工具,可用于执行Gremlin语句及展示图;
  • HugeGraph-Loader :HugeGraph-Loader是基于HugeGraph-Client的数据导入工具,将普通文本数据转化为图形的顶点和边并插入图形数据库中;
  • HugeGraph-Spark:基于Spark GraphX的图分析工具 ,HugeGraph-Spark能在图上做并行计算,例如PageRank算法等;
  • HugeGraph-Tools:HugeGraph-Tools是HugeGraph的部署和管理工具,包括管理图、备份/恢复、Gremlin执行等功能。

**总结:**部署HugeGraph需要HugeGraph-Server,在网页上操作图需要HugeGraph-Studio,在java项目中操作图需要HugeGraph-Client,其他三个视情况需要的时候再部署使用。

四、HugeGraph安装部署

4.1 安装HugeGraph-Server(必须)

依赖:

JDK1.8

使用使用的是RocksDB存储则需要GCC >= 4.3.0 ,下面的步骤假设使用RocksDB作为存储

步骤1:

# 下载tar包
wget https://github.com/hugegraph/hugegraph/releases/download/v${version}/hugegraph-${version}.tar.gz
tar -zxvf hugegraph-${version}.tar.gz

步骤2:

修改 hugegraph.properties

backend=rocksdb
serializer=binary
rocksdb.data_path=.
rocksdb.wal_path=.

步骤3:

初始化数据库(仅第一次启动时需要)

cd hugegraph-${version}
bin/init-store.sh

步骤4:

启动server

bin/start-hugegraph.sh
Starting HugeGraphServer...
Connecting to HugeGraphServer (http://127.0.0.1:8080/graphs)....OK

步骤5:

查看服务状态:

jps
6475 HugeGraphServer
# curl请求restuflAPI,结果返回200,代表server启动正常
echo `curl -o /dev/null -s -w %{http_code} "http://localhost:8080/graphs/hugegraph/graph/vertices"`

步骤6:

# 停止server
$cd hugegraph-${version}
$bin/stop-hugegraph.sh

4.2 安装HugeGraph-Studio

步骤1:

# 下载tar包并解压
wget https://github.com/hugegraph/hugegraph-studio/releases/download/v${version}/hugegraph-studio-${version}.tar.gz
tar zxvf hugegraph-studio-${version}.tar.gz

步骤2:

修改配置文件hugegraph-studio.properties

  • 将配置项studio.server.host的值localhost修改成机器名或 IP,这是 HugeGraphStudio 对外提供服务的host,如果只需要本地访问则保持不变即可;

  • 将配置项studio.server.port的值8088修改成想要的端口,这是 HugeGraphStudio 对外提供服务的port

  • 将配置项graph.server.host的值localhost修改成 HugeGraphServer 的host,HugeGraphStudio 通过此项和graph.server.port与 HugeGraphServer 建立连接;

  • 将配置项graph.server.port的值8080修改成 HugeGraphServer 的port,HugeGraphStudio 通过graph.server.host和此项与 HugeGraphServer 建立连接;

  • 将配置项graph.name的值hugegraph修改成要连接的 HugeGraphServer 的图名,目前只允许连接一个图。

    启动HugeGraph-Studio

    $ cd hugegraph-studio-${version} $ bin/hugegraph-studio.sh

步骤3:

浏览器打开:http://localhost:8088即可访问。

五、HugeGraph,Neo4j,Titan三种图数据库性能对比

官网给了一个性能测试的报告:https://hugegraph.github.io/hugegraph-doc/performance/hugegraph-benchmark-0.5.6.html

总结起来就是:

  • 批量插入性能:HugeGraph(RocksDB) > Neo4j > Titan(thrift+Cassandra)
  • 遍历性能:Neo4j > HugeGraph(RocksDB) > Titan(thrift+Cassandra)
  • 图常用分析方法性能:FS场景,HugeGraph性能优于Neo4j和Titan,K-neighbor和K-out场景,HugeGraph能够实现在5度范围内秒级返回结果
  • 社区聚类算法性能 Neo4j > HugeGraph > Titan

当时选择HugeGraph的原因一是需求需要导大量的数据,涉及大约十几亿的插入,所以需要找一个插入性能高的,并且好友关系变动的时候也需要异步更新图关系。而是HugeGraph虽然是新秀,但是中文官方文档很简介清楚,利于学习使用。

参考:

https://hugegraph.github.io/hugegraph-doc/

[^1]: Apache ThinkerPop 3是图形数据库(OLTP)和图形分析系统(OLAP)的图形计算框架。 [^2]: Gremlin是Apache ThinkerPop框架下的图遍历语言,Gremlin是一种函数式数据流语言,可以使用户使用简洁的方式表述复杂的属性图的遍历或查询。

点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
Wesley13 Wesley13
2年前
java将前端的json数组字符串转换为列表
记录下在前端通过ajax提交了一个json数组的字符串,在后端如何转换为列表。前端数据转化与请求varcontracts{id:'1',name:'yanggb合同1'},{id:'2',name:'yanggb合同2'},{id:'3',name:'yang
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
待兔 待兔
2个月前
手写Java HashMap源码
HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22
Jacquelyn38 Jacquelyn38
3年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
Wesley13 Wesley13
2年前
mysql设置时区
mysql设置时区mysql\_query("SETtime\_zone'8:00'")ordie('时区设置失败,请联系管理员!');中国在东8区所以加8方法二:selectcount(user\_id)asdevice,CONVERT\_TZ(FROM\_UNIXTIME(reg\_time),'08:00','0
Wesley13 Wesley13
2年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Wesley13 Wesley13
2年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
为什么mysql不推荐使用雪花ID作为主键
作者:毛辰飞背景在mysql中设计表的时候,mysql官方推荐不要使用uuid或者不连续不重复的雪花id(long形且唯一),而是推荐连续自增的主键id,官方的推荐是auto_increment,那么为什么不建议采用uuid,使用uuid究
Python进阶者 Python进阶者
8个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这