基于密度峰值的重叠社区发现算法
时小虎1,2,3,4, 冯国香1,2, 李牧1,2, 李瑛1,2, 吴春国1,2,3,4
1.吉林大学 计算机科学与技术学院,长春 130012
2.吉林大学 符号计算与知识工程教育部重点实验室,长春 130012
3.吉林大学珠海学院 计算机科学与技术系,广东 珠海 519041
4.吉林大学珠海学院 符号计算与知识工程教育部重点实验室珠海分实验室,广东 珠海 519041
通讯作者:吴春国(1976-),男,副教授,博士.研究方向:机器学习.E-mail:wucg@jlu.edu.cn

作者简介:时小虎(1974-),男,教授,博士生导师.研究方向:机器学习.E-mail:shixh@jlu.edu.cn

摘要

根据基于快速搜索和发现密度峰值的聚类方法的思想,提出了基于密度峰值的重叠社区发现算法。首先定义新的距离矩阵算法,克服了邻接矩阵元素为整数的缺陷。然后用概率形式刻画每个节点属于不同类别的可能性,从而实现了重叠社区的划分。基于真实网络的实验结果验证了本文算法的可行性和有效性。

关键词: 计算机应用; 复杂网络; 社区发现; 重叠社区; 小世界特性; 模块度
中图分类号:TP391 文献标志码:A 文章编号:1671-5497(2017)01-0242-07
Overlapping community detection method based on density peaks
SHI Xiao-hu1,2,3,4, FENG Guo-xiang1,2, LI Mu1,2, LI Ying1,2, WU Chun-guo1,2,3,4
1.College of Computer Science and Technology, Jilin University, Changchun 130012, China
2.Key Laboratory of Symbolic Computation and Knowledge Engineering of Ministry of Education, Jilin University, Changchun 130012, China
3.Department of Computer Science and Technology, Zhuhai College of Jilin University, Zhuhai 519041, China
4.Zhuhai Laboratory of Key Laboratory of Symbolic Computation and Knowledge Engineering of Ministry of Education, Zhuhai College of Jilin University, Zhuhai 519041, China
Abstract

Based on the idea of clustering method by fast search and find of density peaks, we put forward an overlapping community detection method based on density peaks. In the proposed algorithm, first a new distance matrix is defined to overcome the defects of adjacency matrix being filled with integers. Then, the probability form is used to depict the possibility of each node that belongs to different clusters. The experimental results on real network show that the proposed method performs very well.

Keyword: computer application; complex network; community detection; overlapping community; small world feature; modularity
0 引 言

现实网络不仅具有小世界[1]和无标度[2]等特征, 而且还具有社区结构特征。社区与社区之间的连接虽然较为稀疏, 但是社区内部节点之间的连接却非常稠密。这种社区结构特征能够反映节点之间的局部聚集特性。由于社区内部的节点基本上都具有相似的性质或者相似的功能, 因此社区结构的研究是进一步对整个复杂网络及其社区进行功能研究的基础。

目前, 学者们已经提出了很多社区结构发现算法, 其中比较典型的是图分割(Graph partitioning)方法和层次聚类(Hierarchical clustering)方法[3]。图分割方法包括最早出现的Kernighan-Lin算法[4]、基于拉普拉斯图特征值的谱平分法[5]; 层次聚类方法根据网络中是否加边可以分为两大类:一类是凝聚算法(Agglomerative method), 另一类是分裂算法(Divisive method)。其中, 分裂方法在实现社区划分过程中主要是按照某种标准来判断是否移除某边, 而这个标准主要分为边介数、边聚类系数以及边信息中心度三类。GN算法[6]是典型的分裂方法, 该算法就是按照边介数最大的先移除的办法进行的。随着对社区发现的深入研究, Newman等[7]提出了模块度函数, 随后又出现了某些基于模块度极值优化的方法, 如CNM算法[8]、BGLL算法[9]。然而, 在现实生活中的网络, 其节点并不是完全只属于某一个社区, 而是可能属于多个社区, 也就是说网络中存在着重叠部分。因此, 学者们为了能更加真实地刻画网络的结构特征, 又提出了许多重叠社区划分方法。如CONGA算法[10]、GCE算法[11]、LFM算法[12]等。

基于快速搜索和发现密度峰值的聚类方法是Rodriguez等[13]于2014年在国际著名期刊《Science》上提出来的, 其主要思想是认为每个聚类中心应比其邻居节点有更高的密度, 并且与比它密度更高节点的距离相对较远。该算法具有很高的效率, 并且不受节点的分布及维度的影响, 算法一经提出便受到广泛关注。本文主要受该算法的启发, 针对复杂网络重叠社区发现问题, 提出了基于密度峰值的重叠社区发现算法(Overlapping community detection method based on density peaks, OCDMDP)。该算法首先定义了一种新的距离矩阵算法, 将元素为整数的复杂网络邻接矩阵转换为元素为实数的距离矩阵, 使聚类成为可能。得到类簇中心后, 每个节点赋予一个度量该结点属于各个类簇的概率。最后通过每个节点的概率分布情况得到相应的划分结果, 从而实现重叠社区的划分。

1 基于快速搜索和发现密度峰值的聚类方法

为便于理解, 首先介绍Rodriguez等[13]提出的基于快速搜索和发现密度峰值的聚类方法。

该算法是基于这样的假设:类簇中心周围是一些具有较低局部密度的节点, 并且与具有更高密度的节点的距离都较大。对于每一个数据节点i, 都要计算节点的局部密度ρ i和该点到更高局部密度的节点的距离δ i, 而这两个值的计算都要依赖于数据节点之间的距离。记节点i和节点j之间的距离为dij, 则数据节点i的局部密度ρ i定义为:

ρi=jX(dij-dc)(1)

式中:如果x< 0, 那么X(x)=1; 否则X(x)=0, dc是一个截断距离, 一般来说, 可以选择dc使得节点的平均邻居数大概是数据集中节点总数的1%~2%。粗略来讲, 节点i的密度ρ i等于与该点的距离小于截断距离dc的点的个数。算法对于节点的密度大小相对比较敏感, 而对于大数据集, 算法对于dc的取值都具有很好的鲁棒性。数据节点i到更高局部密度点的距离δ i是该点到任何比其密度大的节点的距离最小值, 即:

δi=minj:ρj> ρi(dij)(2)

但是, 对密度最大的节点做如下定义, 令δ i=maxj(dij)。因此, 将δ i异常大的节点做为类簇中心。

当找到类簇中心以后, 节点分配只需要进行一步划分即可, 即将除类簇中心外的所有节点进行划分, 它们分配的类簇与比其密度高并且距离近的节点所属的类一样。

2 本文算法
2.1 算法思想

在基于快速搜索和发现密度峰值的聚类算法中, 假定类簇中心周围节点的局部密度一般都低于该中心的局部密度, 并且与具有更高密度的节点的距离都较大。首先计算每一个数据节点i局部密度ρ i和该点到更高局部密度的节点的最短距离δ i, 并根据ρ i和δ i画出决策图, 在决策图里面找到类簇中心; 其次, 在找到类簇中心后, 根据每一个节点的最近更高局部密度节点的类别确定其所属簇类中心。由于该算法对于多种类型的数据显示出了良好的适用能力和极高的运行效率, 所以将其引入到复杂网络的社区划分问题中, 但是这里面有两个问题需要解决。首先在原算法中需要计算不同节点之间的距离, 而在复杂网络中, 一般给出的是节点之间的连接情况, 分有权和无权两种。而对于没有连接的节点, 如果认为它们之间的距离全部为无穷大, 则距离矩阵中将出现大量的无穷大, 这样一是不符合实际情况, 另外也不利于得到好的分类结果。第2个需要解决的问题就是原聚类算法只能解决标准划分的社区分类结果, 而无法处理包含重叠节点的社区分类问题。对于第1个问题, 本文通过设计一种距离矩阵生成算法进行解决; 对于第2个问题, 本文不再是将剩余的待划分节点都划分到其最近更高局部密度节点所在的类簇中, 而是计算各个节点属于各个类簇中心的概率, 最后, 根据得到的概率值确定节点是否为重叠节点且应属于哪个类簇。算法流程如图1所示。

图1 基于概率密度的社区发现算法流程图Fig.1 Flow chart of overlapping community detection method based on density peaks

2.2 距离矩阵的计算

在该算法中, 需要用到不同节点之间的距离, 即距离矩阵。然而在复杂网络中, 已知的是网络节点之间的连接情况, 即不同节点之间是否连接(无权)或是连接的强度(有权)有多少, 无法直接给出节点之间的距离。为了叙述简便, 本小节以无权形式进行说明, 有权的情况也完全适用。首先, 针对无权网络, 如果直接将没有连接的节点之间的距离看成是无穷大, 则可以直接生成距离矩阵。但是这样做矩阵中将出现大量的无穷大, 无法得到好的聚类结果。Floyd算法[14]能够处理无权图或加权图的最短路径问题, 但是该算法在用于无权图时, 得到的最短路径长度都是整数, 并且该长度包含了大量的重复值。若用Floyd算法求得的距离来进行聚类, 决策图中的类簇中心并不明显, 有时甚至找不到类簇中心或所有节点都是类簇中心, 这不符合实际情况。

本文也希望通过节点之间的连接情况来定义它们之间的距离。但是与Floyd算法通过求两点之间的路径长度来定义它们的距离不同, 本文考虑的是两个节点之间的连接强度, 所得到的距离不是整数而是实数。设矩阵Am× m={aij}为已知的连接矩阵, 其中aij={0, 1}, 如图2所示。

图2 矩阵AFig.2 Matrix A

当aij=1时, 可以认为i、j两个节点之间的直接连接强度为1, 而当aij=0时, 则认为i、j两个节点之间的直接连接强度为0。而本文认为, 两个节点之间除了直接连接之外, 还应该有间接连接。比如, 当aik=ajk=1, 意味着i、k节点之间和j、k节点之间的连接强度都为1, 那么i到j可以通过i到k然后再k到j实现。因此, 可以更新aij为:

aij=α·aij+β·kaik·akj(3)

式中:等号右边第一项表示惯性项; 第二项表示间接连接项; α 和β 表示惯性因子和间接连接因子, 均为给定常数, 并令α +β =1。此过程可以迭代进行若干次, 因此, 记 A=A0={aij0}, 则式(3)更新为:

aij(t+1)=α·aij(t)+β·kaik(t)·akj(t)(4)

随着迭代的进行, 矩阵中的元素越来越大, 因此需要进行规范化, 于是定义一个新的矩阵系列 B(t)={bij(t)}, 公式再次更新为:

bij(t)=aij(t)maxk, s(ak, s(t))(5)

aij(t+1)=α·bij(t)+β·kbik(t)·bkj(t)(6)

假设迭代T次之后停止, 令距离矩阵为 D={dij}, 则有dii=0, dij=1/aij(T)

2.3 聚类

在得到距离矩阵后, 接下来可以与基于快速搜索和发现密度峰值的聚类算法一样, 得到所有节点的局部密度和该点到更高局部密度最近点的距离, 并画出相应的决策图, 得到类簇中心。

因为需要确定重叠社区节点, 所以找到类簇中心后, 不能再按原方法进行划分, 而是要计算各个节点属于各个类的概率。算法的主要思路是每个节点不确定属于哪一类, 而是对所有类别分配一个概率。概率的计算由比该节点局部密度大的最近邻N_NEIB个节点的概率向量加权确定。具体方法如下:

假设得到了 c个簇类中心, 并假定每个簇类中心只能属于一个类别。设节点i属于不同类别的概率为 pi={pi1, pi2, , pic}, 第j个簇类的中心节点编号为nj, 则取 pnj, j=1, pnj, k=0(kj), 这样首先确定了所有簇类中心的概率向量。对于其他节点, 从局部密度最大的节点开始计算其概率向量。设该节点编号为i, 假定比节点i局部密度大的节点个数为 N_Li个, 并按和该节点的距离从小到大排序, 记其编号为 i1, i2, , iN_Li, 则节点i的概率向量按如下公式确定:

pi=j=1n0wijpij(7)

式中: n0=min{N_NEIB, N_Li}; 权值wij满足:

wij=1/di, ij/k=1n01/di, ik(8)

当得到所有节点的概率向量之后, 对于节点i, 如果r=argmaxs{pi, s, s=1, 2, …, c}, 那么节点i就属于r社区。然而, 在现实网络中, 节点不是只能属于某一个特定的社团, 而是可能同时被划分到多个社团中。因此需要对重叠节点进行判断。如果某节点已经被划分到社区c中, 但是属于社区s的概率与属于社区c的概率值相对比较接近, 则可以认为该节点同时属于社区s。例如, 节点i属于社区r, 其概率为pi, r, 如果pi, s/pi, r> ζ , ζ 为可调参数, 那么i也属于社区s, 即节点属于社区s与属于社区r的概率差不多时, 就认为节点i既属于社区s, 又属于社区r, 则节点i就是重叠节点。

3 实验结果

为验证本文算法的有效性, 将其应用于5个真实数据集进行检验。实验过程中, 根据经验选取计算“ 距离” 时的迭代次数m为5, 而对于参数NNEIB的不同的选取则进行了详细的比较和分析。将实验结果与文献[15]中给出的GCE、COPRA、LFM、CFinder四种方法的结果进行了对比。算法的性能采用Shen等[16]提出的EQ函数来评价重叠社区的划分结果, 用来对重叠社区的模块性进行评价, 其值越大说明所划分的结果模块性越强, 结果越可信。

3.1 实验数据

选取文献[15]中所使用的5组实验数据进行了试验。其中空手道俱乐部(Karate)网络描述的是美国一所大学空手道俱乐部成员之间的社会关系, 包括34个节点和78条边, 边代表两个成员除了来俱乐部之外经常联系[17]。海豚关系网络(Dolphin)是Lussseau等[18]对一个宽吻海豚群体观察7年所构造的。该网络共有62只海豚, 边数共有159条, 分成两组, 边代表两个海豚间接触相对频繁。科学家合作网络(Net-Science)将每个科学家看作节点, 若科学家之间有合作发表文章或者合作研究等, 则这些有合作的科学家之间就有边相连[19]。网络中共有1589个科学家, 有2742条边, 但其中最大连通子图只有379个科学家, 914条边。电力系统数据集(Power)是美国西部电力网络, 节点为发电厂、变压器或变电站, 每个节点都认为是无区别节点, 网络中的边是高压输电线和变压器支路[20]。该网络有4941个节点, 6594条边。在词联想网络(Word-Association)中, 每个节点代表一个词语, 如果两个词语之间有某种联系, 则这两个词语所对应的节点之间就存在一条边, 有7205个节点, 31784条边[21]。5组数据的统计情况见表1

表1 五组实验数据 Table 1 Overview of 5 datasets
3.2 重叠社区划分结果

鉴于节点数较多的网络很难看清, 所以只选取了Karate和Dolphin两组数据展示了得到的社区划分结果。首先, 如果不考虑重叠节点, 对于N_NEIB参数不同选取的两组数据都得到了相同的结果, 并与原始文献的划分一致。

图3为当N_NEIB分别取2、3、4、5时Karate网络的划分结果, 红色代表重叠节点。当N_NEIB取2时, 只有节点3为重叠节点。图中可见节点3与两个社团的连接都相对比较紧密, 因此将其划分为重叠节点是合理的。当N_NEIB取3时, 节点3、20、32被划分为重叠节点。其中节点20、32与类簇中心节点1和34都有直接的联系, 因此将它们划分为重叠节点也是合理的。当N_NEIB取4时, 将节点3、9、20、32作为重叠节点。其中节点9是簇类中心节点34的弱支持者, 在该社团分裂之后, 节点9就加入到了节点1所在的社团中。当N_NEIB取5时, 进一步增加了节点14为重叠节点。节点14与节点20类似, 都与簇类中心有比较直接的联系。

图3 Karate网的重叠社区划分结果Fig.3 Overlapping community partition result of Karate net

类似的, 图4给出了N_NEIB不同取值时Dolphin网络的划分结果, 红色代表重叠节点。图4(a)中, 重叠节点为节点7和节点39; 图4(b)中, 重叠节点增加了第19号节点。

图4 Dolphin网的重叠社区划分结果Fig.4 Overlapping community partition result of Dolphin net

图5 划分结果的EQ值与N_NEIB参数的关系Fig.5 Relationship between EQ value and N_NEIB parameter

3.3 参数N_NEIB的比较分析

为分析N_NEIB参数对算法性能的影响, 分别取值为2、3、4、5、10、15、20、25、30、35、40, 对结果进行比较, 结果如图5所示。图5中的深色框代表的是EQ的峰值或是其值较高的一个平台。经过观察发现, EQ的峰值(中心)所处位置与该网络的密度, 即边数/节点数关系密切。图6给出了两者之间的关系。由图6可以发现, 除了Karate之外, 其余几个点的EQ的峰值(中心)位置与网络密度呈现出了很强的负线性相关性质。

图6 EQ的峰值(中心)位置与边数:节点数的散点图Fig.6 Scatter diagram for relationship between EQ peak(center)and Edge/Node

3.4 结果比较

将得到的实验结果与文献[14]中的给出的GCE、COPRA、LFM、CFinder四种方法的结果进行了对比, 结果如表2所示。由表2中可以看出, 在空手道网络中, LFM算法的EQ值最高, 本文提出的OCDMDP算法要高于其他3个算法; 在海豚关系网络中, LFM算法的EQ值也优于其他4种对比算法, OCDMDP算法与其余3种算法的EQ值相差不大。而对于Word-Association网络, 本文算法的划分结果虽然没有GCE算法的划分结果好, 但是和它的EQ值也比较相近, 而且比LFM和CFinder算法的划分效果要好得多。在另外两组数据中, 本文OCDMDP算法的EQ值都有明显的优势, 如在Net-Science网络中, DGDMP算法的EQ值比其他4种中最好的COPRA算法高出20.1%, 而在Power网络中, OCDMDP算法的结果比其他算法中最好的COPRA算法高出16.3%。从平均值来看, 4种比较算法表现最好的是COPRA算法的0.507, 而OCDMDP算法为0.541, 比COPRA的结果提高了6.71%。综上所述, COPRA算法在不同数据集上的综合表现要优于其他4种算法。

表2 EQ值的比较结果 Table 2 Comparison results of EQ values
4 结束语

本文将基于快速搜索和发现密度峰值的聚类方法引入到重叠社区划分问题中, 通过定义新的距离矩阵算法克服了邻接矩阵为整数的缺陷, 并以概率形式刻画每个节点属于不同类别的可能性, 实现了重叠社区的划分。所提出的基于密度峰值的重叠社区发现算法简单易懂, 既能够用于非重叠社区的划分, 也可以进行重叠社区的划分, 而且还可以扩展到加权网络。此外, 该算法不用事先预设社区的个数, 可以通过决策图来判断社区个数以及类簇中心节点。基于真实网络的数值实验证明了本文算法的有效性。

The authors have declared that no competing interests exist.

参考文献
[1] Watts D J, Strogatz S H. Collective dynamics of ‘small-world’ networks[J]. Nature, 1998, 393: 440-442. [本文引用:1]
[2] Barabasi A L, Albert R. Emergence of scaling in rand om networks[J]. Science, 1999, 286(5439): 509-512. [本文引用:1]
[3] 汪小帆, 李翔, 陈关荣. 复杂网络理论及其应用[M]. 北京: 清华大学出版社, 2006. [本文引用:1]
[4] Kernighan B W, Lin S. An efficient heuristic procedure for partitioning graphs[J]. Bell System Technical Journal, 1970, 49(2): 291-307. [本文引用:1]
[5] Simon H D. Partitioning of unstructured problems for parallel processing[J]. Computing Systems in Engineering, 1991, 2(2-3): 135-148. [本文引用:1]
[6] Girvan M, Newman M E J. Community structure in social and biological networks[J]. Proceedings of the National Academy of Science of the United States of America, 2002, 99(12): 7821-7826. [本文引用:1]
[7] Newman M E J, Grivan M. Finding and evaluating community structure in networks[J]. Physical Review E, 2004, 69(2): 026113. [本文引用:1]
[8] Fortunato S, Barthelemy M. Resolution limit in community detection[J]. Proceedings of the National Academy of Sciences, 2007, 104(1): 36-41. [本文引用:1]
[9] Blondel V D, Guillaume J L, Lambiotte R, et al. Fast unfolding of communities in large networks[DB/OL]. [2015-10-26]. https://arxiv.org/abs/0803.0476. [本文引用:1]
[10] Gregory S. An algorithm to find overlapping community structure in networks[J]. Lecture Notes in Computer Science, 2007, 4702: 91-102. [本文引用:1]
[11] Lee C, Reid F, Mc Daid A, et al. Detecting highly overlapping community structure by greedy clique expansion[DB/OL]. [2015-10-26]. https://arxiv.org/abs/1002.1827. [本文引用:1]
[12] Lancichinetti A, Fortunato S, Kertesz J. Detecting the overlapping and hierarchical community structure in complex networks[DB/OL]. [2015-10-26]. https://arxiv.org/abs/0802.1218. [本文引用:1]
[13] Rodriguez A, Laio A. Clustering by fast search and find of density peaks[J]. Science, 2014, 344(6191): 1492-1496. [本文引用:2]
[14] Floyd Robert W. Algorithm 97: shortest path[J]. Communications of the ACM, 1962, 5(6): 345. [本文引用:1]
[15] 杨荟蓉. 基于概率模型的重叠社区发现算法研究[D]. 北京: 北京交通大学计算机与信心技术学院, 2011.
Yang Hui-rong. Research on overlapping community detection algorithms based on probabilistic model[D]. Beijing: School of Computer and Information Technology, Beijing Jiaotong University, 2011. [本文引用:1]
[16] Shen H, Cheng X, Cai K, et al. Detect overlapping and hierarchical community structure in networks[J]. Physical A: Statistical Mechanics and its Applications, 2009, 388(8): 1706-1712. [本文引用:1]
[17] Zachary W W. An information flow model for conflict and fission in small groups[J]. Journal of Anthropological Research, 1977, 33(4): 452-473. [本文引用:1]
[18] Lusseau D, Schneider K, Boisseay O J, et al. The bottlenose dolphin community of doubtful sound features a large proportion of long-lasting associations[J]. Behavioral Ecology and Sociobiology, 2003, 54(4): 396-405. [本文引用:1]
[19] Newman M E J. Finding community structure in networks using the eigenvectors of matrices[J]. Physical Review E, 2006, 74(3): 036104. [本文引用:1]
[20] Newman M E J. The structure and function of complex networks[J]. SIAM Review, 2003, 45(2): 167-256. [本文引用:1]
[21] Palla G, Derenyi I, Farkas I, et al. Uncovering the overlapping community structure of complex networks in nature and society[J]. Nature, 2005, 435: 814-818. [本文引用:1]