你好,游客 登录
背景:
阅读新闻

直击Titan图数据库:如何提升25%+的反欺诈检测效率?

[日期:2018-04-10] 来源:DBAplus社群  作者:冯锦明 [字体: ]

传统的关系型数据库通过实体和关系来建模,在过去的很长一段时间内都占据着绝对的统治地位。但是随着大数据的兴起,它的一些缺陷也变得越来越明显,特别是在需要处理非常复杂的实体关系时,关系型数据库变得越来越力不从心。

当我们要表示实体间的多对多关系时,一般会建立关系表。当要看实体间的关系时,我们需要把这种关系再关联起来。这通常是一项非常消耗性能的工作,特别是在关系非常复杂或者关系层次很多的情况下,需要关联非常多的表,甚至产生非常巨大的中间结果,导致查询非常缓慢甚至跑不出来。

图数据库以图论为基础,数据本身以图的方式存储(比如邻接表),在处理与图相关的任务时占有先天的优势。所以目前在知识图谱,社交网络分析等领域开始有越来越多的应用。

常见的图形数据库

以下是三个比较流行的图数据库及各自的特性对比。

大数据

经过我们对比及试用的结果,OrientDB 和 Neo4j 使用比 Titan 都要简单,社区也更活跃。但是 Neo4j 最大的缺陷在于并非是真正的分布式,当数据量超过单机的承载能力以后很难处理;而且 Neo4j 和OrientDB 的底层存储都是自主研发,Titan 支持HBase/Cassandra 作为底层存储,跟我们目前主要的数据平台 hadoop 能很好集成在一起;此外,Titan 除了支持 OLTP 操作以外,还可以跟 Spark 结合进行 OLAP 相关的分析。所以我们最终决定采用 Titan 。

Titan技术架构

Titan 的总体技术架构如上所示,存储、索引、OLAP 的计算引擎都是开源的可选组件:

  1. 底层存储支持 HBase/Cassandra,所以存储是可以平行扩展的,几乎没有容量限制;
  2. 支持 Elasticsearch/Solr/Lucene 作为外部的索引插件,实现在进行非等值查询时也能利用到索引;
  3. Management API 负责 Schema 的创建,修改,删除及实例管理等操作;
  4. 通过 Tinkerpop API提供图上的操作接口;
  5. Internal API、Database Layer、Storage and Index Interface Layer负责将 Tinkerpop 和Management API 的图操作转换成底层存储 Cassandra 和 HBase 上的操作(比如HBase 中的put、get、scan)。
  6. GraphComputer 提供以 Spark/MR 的方式进行图上的 OLAP 操作,做子图或者全图上的分析(比如计算 Pagerank )。

Titan图的表示

Titan用结点、边和属性三类信息来描述一个图,如上图所示。

结点(Vertex):用于表示一个实体,结点通过指定不同的标签(LABEL)来区别具体的实体类型,如Titan、Location;结点由唯一的 Vertex ID 标识,该ID由 Titan 自动生成并管理。

边(Edge):用于描述实体之前的关系,有出结点和入结点;边同样有标签(LABEL),用于区分边的类型,如上图所示的 father、lives;边带有方向;边可以指定是否只允许单向查询;边可以指定 MULTILICITY,表示该 LABEL 的边能存在几条;边也有唯一的 Edge ID,该ID由 Titan 自动生成及管理。

属性(property):既可以在结点上,也可以在边上,用于描述结点和边的附加信息;属性通过 PROPERTY KEY来表示该属性是什么属性,如上图所示 name、age、place;属性也可以指定 CARDILITY,用于表示该属性可以存在多个该属性;属性也有唯一的 Property ID,该 ID由 Titan自动生成及管理;对于结点和边上的属性都可以添加索引,这时通过属性来查询特定结点或者边的时候,可以直接通过索引定位到对应的结点或者边的 ID,减少扫描的数据量,提升性能。

Titan的图查询

Titan通过 Tinkerpop 的 Gremlin 语言提供图的查询、修改等操作。一个 Titan 实例对应的就是 Tinkerpop 的一个 Gremlin Server。多个对应相同存储后台的 Gremlin Server 组成了 Titan 的分布集式集群。用户可以通过 Gremlin Client 或者Restful API提交查询请求。

查询的例子如下:

#创建一个集群  
gremlin> graph = TitanFactory.open('conf/titan-hbase.properties')  
==>standardtitangraph[hbase:[titan003, titan004, titan005]]  
gremlin> g = graph.traversal()  
==>graphtraversalsource[standardtitangraph[hbase:[titan003, titan004, titan005]], standard]  
#查询name为'saturn'的结点  
gremlin> saturn = g.V().has('name''saturn').next()  
==>v[256#查看saturn结点有哪些属性  
gremlin> g.V(saturn).valueMap()  
==>[name:[saturn], age:[10000]]  
#saturn的祖父的姓名  
gremlin> g.V(saturn).in('father').in('father').values('name')  
==>hercules  
#查询hercules的父母的信息  
gremlin> g.V(hercules).out('father''mother')  
==>v[1024]  
==>v[1792]  
gremlin> g.V(hercules).out('father''mother').values('name')  
==>jupiter  
==>alcmene  
gremlin> g.V(hercules).out('father''mother').label()  
==>god  
==>human  
gremlin> hercules.label()  
==>demigod 

Titan底层存储格式

Titan 中的结点和边按照邻接表的方式组织,每个结点的邻接表包含该结点的所有相邻边和该结点的属性,存储上遵循Big Table Data Model。

也就是说,表由多行组成,每一行由很多的Cell组成,每个 Cell 由一个Column和Value组成。行由唯一的 Key 标识,每个 Cell 由 Key+column 标识。

Titan Layout:

Edge & Property Layout:

如上图所示,对于 Titan 的实现来说。每一行的 Key 就是结点的 Vertex ID,该 ID 是由 Titan自动维护的一个64bit长整型数。每个 Cell 就是结点的属性或者该结点相连的边。

边 Cell 的 Column 包含边的方向,边上指定的排序属性的信息,邻接点的ID, 边的ID; 边的 Value 包含边上的所有属性( Signature 属性在前)。

属性 Cell 的 Column 包含属性的类型 ID ;  Value 包含属性的 ID 和属性的值。

拍拍贷图数据库应用

我们目前将用户信息、设备信息及社交关系构建了一个异构网络,并将该异构网络图应用在用户关联分析及反欺诈检测场景。

传统的方式上,我们的数据都是存储在RDMS上,要查询用户的关联关系时,都是通过关联多张表来实现。但这种方式存在很多的问题:

  1. 这些表相应都较大,在做表关联的时候效率非常低下;
  2. 对于关系的层次支持非常有限,出入度很大的结点,产生的中间结果会非常大;
  3. 对于图上的查询不够灵活。

这些都极大地限制了我们分析能力和分析效率。出于以上这些痛点,我们引入了 Titan 图形数据库。每天会通过改写的 Titan Bulkload 将10亿+结点信息和500亿+左右的关系数据导入Titan 后台 HBase 生成一张包含13类节点和15类边的复杂异构网络。

通过该网络,可以方便快速地回答以下类似问题:

  • 和用户A关联的用户有哪些;
  • 和用户A关联的用户有什么特征;
  • 用户A和用户B怎么关联在一起的。

下图是我们将图数据库应用于反欺诈中的示例图:

根据原始的数据图我们可以对用户做以下调查分析,来确定特定的用户是不是欺诈用户或者是不是与欺诈用户有关联:

  • 通过特定规则筛选可疑用户
  • 查看与可疑用户有特定关联的用户
  • 查看与可疑用户有特定关联的所有用户组成的子网的网络特征及用户特征
  • 分析特定用户可以通过什么样的关联关系关联在一起
  • 最多可分析6层关联关系的数据

通过该方式,我们大大减少了调查过程中的工作量,整体效率提升了25%+。





收藏 推荐 打印 | 录入:Cstor | 阅读:
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款