一种微阵列数据降维新方法

引用本文

王刚, 张禹瑄, 李颖, 陈慧灵, 胡玮通, 秦磊. 一种微阵列数据降维新方法. 吉林大学学报:工学版, 2014, 44(5): 1429-1434[WANG Gang, ZHANG Yu-xuan, LI Ying, CHEN Hui-ling, HU Wei-tong, QIN Lei. Novel method for microarray data dimension reduction. Journal of Jilin University (Engineering and Technology Edition), 2014, 44(5): 1429-1434] 复制到剪切板

Permissions

一种微阵列数据降维新方法

王刚^1,^2,³, 张禹瑄⁴, 李颖^1,², 陈慧灵⁵, 胡玮通⁶, 秦磊^1,²

1.吉林大学计算机科学与技术学院, 长春 130012

2.吉林大学符号计算与知识工程教育部重点实验室, 长春 130012

3.吉林大学地球探测科学与技术学院, 长春 130026

4.吉林大学通信工程学院, 长春 130012

5.温州大学物理与电子信息工程学院, 浙江温州 325035

6.空军航空大学基础部实验中心, 长春 130022

通信作者:李颖(1965-),女,教授,博士.研究方向:模式识别.E-mail:liying.jlu.cs@gmail.com

作者简介:王刚(1981-),男,讲师,博士.研究方向:机器学习.E-mail:wanggang.jlu@gmail.com

基金:国土资源部重大专项项目（201311192）; 中国博士后基金项目（2013M530981）; 国家自然科学基金项目（61303113）

摘要

提出一种二阶段并行基因选择方法(TPM),可以获得最优特征子集。针对以往算法易于陷入局部极值的不足,提出了一种模糊多种群粒子群(FMP),可以有效地扩展搜索空间。通过在leukemia、colon、breast cancer、lung carcinoma、brain cancer五个数据集上的测试,验证了本文方法不仅可以获得更优特征子集和更高的分类精度,而且可以选择尺寸更小的特征子集。本文的研究成果可为基因表达领域提供一种新的思路。

关键词: 计算机应用; 基因选择; 特征选择; 微阵列; 粒子群

中图分类号:TP301.6 文献标志码:A 文章编号:1671-5497(2014)05-1429-06

Novel method for microarray data dimension reduction

WANG Gang^1,^2,³, ZHANG Yu-xuan⁴, LI Ying^1,², CHEN Hui-ling⁵, HU Wei-tong⁶, QIN Lei^1,²

1.College of Computer Science and Technology, Jilin University, Changchun 130012, China

2.Key Laboratory of Symbolic Computation and Knowledge Engineering of Ministry of Education, Jilin University, Changchun 130012, China

3.College of GeoExploration Science and Technology, Jilin University, Changchun 130026, China

4.College of Communication Engineering, Jilin University, Changchun 130012, China

5.College of Physics and Electronic Information, Wenzhou University, Wenzhou 325035, China

6.Basic Course Department, Air Force Aviation University, Changchun 130022, China

Abstract

A two stage parallel gene selection method (TPM) for obtaining the optimal feature subset is proposed. A fuzzy multi-swarm particle optimization (FMP) is also proposed to extend the searching spaces, to overcome the problem of traditional algorithm to be locked to local optimum. The performance of the TMP is evaluated on five microarray datasets (leukemia dataset, colon dataset, breast cancer dataset, lung carcinoma dataset and brain cancer dataset). The comparison results show that the proposed method not only gets better quality of feature subset and higher classification accuracy, but also generates smaller feature subsets. The results of this study could provide a new idea to the field of gene expression.

Keyword: computer application; gene selection; feature selection; microarray; particle swarm optimization

Show Figures

0 引言

微阵列(Microarray)是后基因组时代最具代表性的技术之一,可以同时检测成千上万个基因在生物体内的活性,可以揭示基因表达的变化、基因间互相关系等,为疾病诊断、致病机理的研究、DNA测序、基因多位点及突变检测、药物的研制提供重要的基础。微阵列数据具有小样本、高维度、高噪声、高冗余、样本分布不均匀的特点,为研究带来了很大的困难。高维数据降维技术是有效处理微阵列数据的方法之一。

降维技术通常分为特征选择和特征抽取两类。特征选择是从原始的特征中选择一些特征形成特征子集,其中的一些特征被抛弃,一些特征被选择,被选择的特征能保留原来的物理含义。特征选择的一般过程包含产生子集、子集评估、终止标准、结果验证4个部分。特征选择方法的分类标准很多,目前普遍采用的方法是根据学习算法在计算流程中的位置作为分类标准,可分为包裹、过滤、混合3种。包裹方法中学习算法完成对特征子集的评价;过滤方法中学习算法与特征评估是完全独立的;混合方法为包裹和过滤的混合方法。为了更清晰地描述本项目的研究目的,本文根据子集的产生方式将特征选择的研究现状分为两类:基于搜索的特征选择方法和基于评价标准的特征选择方法。根据搜索的方式,目前的研究主要分为基于贪婪、启发的搜索方法和基于优化算法的搜索方法两类。前者主要依靠启发信息引导搜索的方向,后者以解决最优化问题为目的,具有随机性、全局性的特点。

通常基于启发的搜索方法可以获得更优的特征子集。遗传算法(GA)^{[ 1]}、粒子群(PSO)^{[ 2]}、蚁群(ACO)^{[ 3]}是最具代表性的启发搜索方法。Yildiz^{[ 4]}等提出了一种基于数据融合和GA的基因选择方法,在breast cancer数据集上获得了较好的实验结果。Mohamad^{[ 5]}等通过给出粒子更新的规则,提出了一种新的离散PSO,可针对微阵列数据获得更小的特征子集。Chuang^{[ 6]}等提出了一种PSO/GA混合算法,可获得较小的基因子集和错误率。Garcia-Nieto^{[ 7]}采用并行粒子群在4个癌症数据集上完成了测试,获得了较优的特征子集。Abdi^{[ 8]}等提出一种两阶段的微阵列数据分类方法,第一阶段采用mRMR去除冗余的基因,第二阶段采用PSO完成特征选择,同时用PSO优化SVM的核函数,获得了良好的分类精度。Kabir^{[ 9]}等改进了ACO的信息素更新和启发信息度量,从而提高了算法的泛化能力,在微阵列数据集上体现出良好的性能。Li^{[ 10]}等提出了ACO-S,包含两个阶段,提高了ACO的搜索能力,在多个微阵列数据集上得到了较好的测试结果。

综上所述,基于启发搜索的方法可在微阵列数据集上获得较好的分类精度和较短的特征子集长度,但由于微阵列数据的小样本、高维度、高噪声、高冗余、样本分布不均匀的特点,基于启发搜索的方法常常会迷失搜索方向,放弃更好的指引路径,陷入局部极值,从而获得次优的解集。本文针对搜索方向难以指引的难题,提出一种模糊多种群粒子群(FMP),显著扩大搜索范围,从全局找到更优的路径。针对高维数据,提出了一种2阶段并行基因选择方法(TPM),结合信息增益(Information gain,IG)^{[ 10]}、FMP、SVM^{[ 11]}完成特征选择。

1 模糊多种群粒子群(FMP)

1.1 FMP框架

FMP由多个模块构成,包括种群调控模块、种群模块、个体。其中种群调控模块完成对多个种群收敛的调节,同时也是种群间通讯的媒介。种群模块代表一个完整的种群,协调其内部个体的速度、位置等参数的更新。个体包含粒子的位置、速度等信息以及迭代质量信息。

1.2 种群模块

每个种群独立地完成其内部粒子的更新,种群的结构与更新方式与binary PSO^{[ 12]}相同,更新过程描述如下:

$\begin{matrix} \begin{matrix} v_{id}^{t} = ω \times v_{id}^{t - 1} + c_{1} \times \\ r_{1} (p_{id}^{t} - x_{id}^{t}) + c_{2} \times r_{2} (p_{gd}^{t} - x_{id}^{t}) (1) \\ i = 1,2, \dots, M; d = 1,2, \dots, D \\ X_{id}^{t + 1} = X_{id}^{t} + V_{id}^{t} (2) \\ i = 1,2, \dots, M; d = 1,2, \dots, D \end{matrix} \end{matrix}$

式中: $\begin{matrix} ω 为粒子移动速度的惯性权重; c_{1} 、 c_{2} 为学习因子; r_{1} 、 r_{2} \end{matrix}$ 为随机数; $\begin{matrix} p_{id}^{t} \end{matrix}$ 为粒子迭代过程中产生的最优值; $\begin{matrix} p_{gd}^{t} \end{matrix}$ 为种群中模块最优值; $\begin{matrix} x_{id}^{t} \end{matrix}$ 为粒子的位置; $\begin{matrix} v_{id}^{t} \end{matrix}$ 为粒子的速度。

$\begin{matrix} ω = ω_{\min} + (ω_{\max} - ω_{\min}) \frac{ite r_{\max} - iter}{ite r_{\max}} (3) \end{matrix}$

式中: $\begin{matrix} ω_{\min} 、 ω_{\max} 分别为惯性权重的下界和上界; ite r_{\max} 为迭代次数的上界; iter \end{matrix}$ 为当前迭代次数。

$\begin{matrix} \begin{matrix} x_{id} = \{\begin{matrix} 1, rand () < S (v_{i, d}) \\ 0, 其他 \end{matrix} (4) \\ S (v) = \frac{1}{1 + e^{- v}} (5) \end{matrix} \end{matrix}$

式中:函数 $\begin{matrix} S (v) \end{matrix}$ 代表sigmoid函数;rand()代表一个随机数,均匀分布在[0,1]。

1.3 种群调控模块

模糊逻辑控制输入和输出的论域定义为:小(LS),中(LM),大(LB),较大(LR)。图1为输入参数的隶属度函数, $\begin{matrix} V_{1} 为最优种群模块适应度与平均种群模块适应度之差; V_{2} 为最优种群模块的最优适应度与最差种群模块的最优适应度之差。图 2 为种群模块数量比的隶属度函数, K 代表种群模块数量比。表 1 描述了模糊规则, 根据 V_{1} 和 V_{2} 的值设计 K \end{matrix}$ 的值。根据式(6)可计算出调节后种群模块数量。

$\begin{matrix} I F_{c} = N_{t} \times K + \frac{N_{c}}{\overset{N_{m}}{\sum_{i = 1}} L_{i}} (6) \end{matrix}$

式中: $\begin{matrix} I F_{c} 为调节后种群模块的数量; N_{t} 为初始种群模块的数量; N_{c} 为当前种群模块中个体的数量; L_{i} 为第 i 个种群模块的个体数量; N_{m} \end{matrix}$ 为种群模块的数量。

	Figure Option View Download New Window
	图1 输入参数的隶属度函数Fig.1 Membership function of input parameters

	Figure Option View Download New Window
	图2 种群模块数量比的隶属度函数Fig.2 Membership function for swarm ratio

表1 个体数量比的模糊规则 Table 1 Fuzzy rules for individual ratio

1.4 FMP算法

FMP以并行计算方法描述如下:

Step1 初始化种群模块数量、种群模块中个体数量、个体位置、个体速度等参数。

Step2 并行for(当前迭代值<最大迭代值and全局最优适应度值25个迭代未更新)。

Step3 并行for(全部种群模块)。

Step4 更新种群模块位置。

Step5 更新种群模块速度。

Step6 个体计算适应度。

Step7 更新全局最优适应度和局部最优适应度。

Step8 结束并行for。

Step9 种群调控模块调节种群模块数量。

Step10 更新每个种群模块、个体的迭代质量。

Step11 if种群模块数量增加,then创建新的种群模块并销毁最差种群模块5%的个体。else销毁相应数量最差的种群模块并增加最优种群模块5%的个体。

Step12 结束并行for。

2 并行基因选择方法(TPM)

TPM包含两个阶段:第一阶段采用IG、FMP、SVM过滤冗余的基因;第二阶段采用FMP与SVM完成特征选择。

2.1 第一阶段

采用SVM分类正确率和IG评估设计FMP的目标函数去除冗余的基因。目标函数为:

$\begin{matrix} \begin{matrix} fitnes s_{i} = θ_{a} \times accurac y_{i} + θ_{b} \times [\frac{\overset{N_{l}}{\sum_{m = 1}} δ (e)}{\overset{N_{k}}{\sum_{n = 1}} φ (f)}] + \\ θ_{c} \times \frac{F_{p}}{F_{q}} (7) \end{matrix} \end{matrix}$

式中: θ_a为SVM分类正确率的权重; $\begin{matrix} accurac y_{i} \end{matrix}$ 为当前特征子集分类正确率; θ_b为IG评估权重; $\begin{matrix} δ (e) 为第 m \end{matrix}$ 个特征的IG值; $\begin{matrix} N_{l} 为当前特征子集的长度; φ (f) 为第 n \end{matrix}$ 个特征子集的IG值; $\begin{matrix} n_{k} \end{matrix}$ 为特征子集的数量; θ_c为特征子集长度权重; F_p为当前特征子集长度; F_q为特征的总数。

2.2 第二阶段

采用SVM的分类精度、迭代信息构造TPM的目标函数。目标函数为:

$\begin{matrix} fitnes s_{i} = θ_{a} \times accurac y_{i} + θ_{b} \times [\frac{accurac y_{i}}{accurac y_{a}}] (8) \end{matrix}$

式中: $\begin{matrix} accurac y_{i} \end{matrix}$ 为当前特征子集的分类精度; accuracy_a为当前迭代中平均分类精度。

2.3 TPM算法

Step1 初始化FMP。

Step2 以并行方式执行FMP,采用式(7)作为目标函数。

Step3 获得当前微阵列数据的特征子集 M。

Step4 将 M作为第二阶段的核心特征子集,即将 M作为目标特征子集的子集。

Step5 初始化FMP。

Step6 以并行方式执行FMP,采用式(8)作为目标函数。

Step7 获得最优特征子集。

3 实验及结果分析

3.1 数据集

本文采用最典型的leukemia data set、colon data set、breast cancer data set、lung carcinoma dataset、brain cancer data set五个高维数据集^{[ 10]}进行测试,覆盖的样本范围为38~203、基因数量为2000~12 600、分类数量为2~5,见表2。

表2 实验采用的微阵列数据集 Table 2 Microarray data sets used in the experiments

3.2 结果分析

参与比较的算法为GA、ACO、PSO、SA、TPM。其中GA参数的设置为:迭代次数=200、种群规模=40、交叉率=0.7、变异率=0.02。ACO的参数设置为:迭代次数=200、种群规模=40、 β=5、 ρ=0.1。PSO的设置为:迭代次数=200、粒子数=40、 ω=0 .9、 c₁ =2、 c₂=2。GA和PSO的目标函数均设置为分类精度。TPM的参数设置为:迭代次数=200、种群数量=4、每个子种群的粒子数=40、 ω=0 .9、 c₁ =2、 c₂=2。在目标函数(7)中, θ_a=0.8, θ_b=0.1, θ_c=0.1。在目标函数(8)中, θ_a=0.9, θ_b=0.1。表3为5种搜索算法在5个数据集上的分类精度测试结果,TPM获得的特征子集的分类精度均优于其他4种算法。平均分类精度的指标同样可以体现出TPM以82.37的精度明显优于其他算法。这是由于TPM多种群协作机制显著扩大了搜索范围,使得种群向正确的目标探索,获得更好解集的概率明显优于其他算法。GA以79.85位居第二。SA、PSO、ACO的性能比较接近。

表3 基于GA、ACO、PSO、SA、TPM的方法在 5个数据集上的分类精度对比 Table 3 Classification accuracy rate comparison between GA,ACO,PSO,SA and TPM on five data sets

表4为5种搜索算法获得最优特征子集的长度。TPM在5个数据集上获得了最短的特征子集长度,平均特征子集长度103明显低于其他方法。由此可见,TPM不仅可以获得最高的分类精度,而且可以获得最短的特征子集长度。从这两个指标可以体现出TPM可适应多个数据集,并较为稳定。

表4 基于GA、ACO、PSO、SA、TPM的方法在5个数据集上获得的特征子集长度 Table 4 Selected feature subsets obtained by GA,ACO,PSO,SA and TPM on five data sets

表5为TPM采用5种分类器的分类精度结果。采用SVM在leukemia、colon、breast cancer数据集上获得了最高的分类精度。采用kNN在Lung carcinoma数据集上获得了最高的分类精度。采用DT在Brain cancer数据集上获得了最高的分类精度。结果表明:分类器会受到数据分布的影响,无法获得较高的稳定性。SVM适用于大部分数据集,而lung carcinoma和brain cancer数据集需要采用不同的分类器才可以获得更高的分类精度。

表5 采用不同分类器的TPM方法在5个数据集上的分类精度 Table 5 Classification accuracy rate for TPM using multiple classifiers on five data sets

表6为TPM采用不同分类器获得的特征子集长度。SVM在4个数据集上获得了最短的特征子集长度。DT在Breast cancer数据集获得了最短的特征子集长度。因此,根据特征子集的长度判断出SVM可较稳定地完成降维任务。

表6 采用不同分类器的TPM方法在5个数据集上获得的特征子集长度 Table 6 Selected feature subsets for TPM using multiple classifiers on five data sets

图3为5种方法分别在leukemia、colon、breast cancer、lung carcinoma、brain cancer五种数据集上的分类精度。由图可见,其他4种方法收敛速度快,但在100步附近便会陷入局部极值。TPM收敛速度较慢,可跳出局部极值,从而获得更优的解集。

	Figure Option View Download New Window
	图3 5种方法在不同数据集的分类精度Fig.3 Classification accuracy rate obtained by five methods on brain cancer

4 结束语

充分利用PSO、SVM、模糊逻辑控制、IG、并行计算等方法提出一种二阶段并行基因选择方法(TPM),通过2个阶段的计算,完成对微阵列数据的降维和分类。针对微阵列数据的小样本、高维度、高噪声、高冗余、样本分布不均匀的特点,提出一种模糊多种群粒子群(FMP),以搜索更广阔的空间,避免过早收敛,陷入局部极值。通过在5种典型数据集上的测试验证了TPM的稳定性。通过与GA、PSO、ACO、SA四种典型方法的比较可知,TPM获得的特征子集质量高于其他4种方法,即分类精度、特征子集的长度均优于其他方法。

The authors have declared that no competing interests exist.

参考文献

View Option

[1]	刘元宁, 王刚, 赵正东, 等. 基于自适应多种群遗传算法的特征选择[J]. 吉林大学学报: 工学版, 2011, 41(6): 1690-1693. Liu Yuan-ning, Wang Gang, Zhao Zheng-dong, et al. Feature selection based on adaptive multi-population genetic algorithm[J]. Journal of Jilin University(Engineering and Technology Edition), 2011, 41(6): 1690-1693. [本文引用:1] [CJCR: 0.701]
[2]	Liu Y, Wang G, Chen H. An improved particle swarm optimization for feature selection[J]. Journal of Bionic Engineering, 2011, 8(2): 191-200. [本文引用:1] [JCR: 1.144] [CJCR: 0.4286]
[3]	Wang G, Zhang W, Ning Q, et al. A novel framework based on ACO and PSO for RNA secondary structure prediction[J]. Mathematical Problems in Engineering, 2013, 3(2): 1024-1031. [本文引用:1] [JCR: 1.383]
[4]	Yildiz Q, Tez M, Bilge H S, et al. Gene selection for breast cancer classification based on data fusion and genetic algorithm[J]. Journal of the Faculty of Engineering and Architecture of Gazi University, 2012, 27(3): 659-668. [本文引用:1] [JCR: 0.184]
[5]	Mohamad M S, Omatu S, Deris S, et al. A modified binary particle swarm optimization for selecting the small subset of informative genes from gene expression data[J]. IEEE Transactions on Information Technology in Biomedicine, 2011, 15(6): 813-822. [本文引用:1] [JCR: 1.978]
[6]	Chuang L Y, Yang C H, Li J C. A hybrid BPSO-CGA approach for gene selection and classification of microarray data[J]. Journal of Computational Biology, 2012, 19(1): 68-82. [本文引用:1] [JCR: 1.564]
[7]	Garcia-Nieto J, Alba E. Parallel multi-swarm optimizer for gene selection in DNA microarrays[J]. Applied Intelligence, 2012, 37(2): 255-266. [本文引用:1] [JCR: 1.853]
[8]	Abdi M J, Hosseini S M, Rezghi M. A novel weighted support vector machine based on particle swarm optimization for gene selection and tumor classification[J]. Computational and Mathematical Methods in Medicine, 2012, 12(5): 78-85. [本文引用:1] [JCR: 0.791]
[9]	Kabir M M, Shahjahan M, Murase K. A new hybrid ant colony optimization algorithm for feature selection[J]. Expert Systems with Applications, 2012, 39(3): 3747-3763. [本文引用:1] [JCR: 1.854]
[10]	Li Y, Wang G. An ant colony optimization based dimension reduction method for high-dimensional datasets[J]. Journal of Bionic Engineering, 2013, 10(2): 231-241. [本文引用:3] [JCR: 1.144] [CJCR: 0.4286]
[11]	王刚, 刘元宁, 陈慧灵, 等. 粗糙集与支持向量机在肝炎诊断中的应用[J]. 吉林大学学报: 工学版, 2011, 41(1): 160-164. Wang Gang, Liu Yuan-ning, Chen Hui-ling, et al. Application of rough set and support vector machines in hepatitis diagnosis[J]. Journal of Jilin University(Engineering and Technology Edition), 2011, 41(1): 160-164. [本文引用:1] [CJCR: 0.701]
[12]	王刚, 刘元宁, 张晓旭, 等. 基于模糊自适应粒子群的垃圾邮件过滤方法[J]. 吉林大学学报: 工学版, 2011, 41(3): 716-720. Wang Gang, Liu Yuan-ning, Zhang Xiao-xu, et al. Novel spam filtering method based on fuzzy adaptive particle swarm optimization[J]. Journal of Jilin University(Engineering and Technology Edition), 2011, 41(3): 716-720. [本文引用:1] [CJCR: 0.701]

2011

0.0

0.701

. 2011, 41(6):1690-1693

Feature selection based on adaptive multi-population genetic algorithm

1.College of Computer Science and Technology, Jilin University, Changchun 130012,China|2.Symbol Computation and Knowledge Engineering of Ministry of Education, Jilin University, Changchun 130012, China|3.Network Center, Changchun University of Science and Technology, Changchun 130022, China

An Adaptive Multi-population Genetic Algorithm (AMGA) was proposed, which was applied to feature selection and to find the optimal feature subset from high dimensional feature sets. AMGA consists of a Multi-population Planning (MPP) module and a Dynamic Selection Algorithm (DSA), both being self-designed. The proposed method extends the search space and adjusts the running states of multi-population, thereby controlling the premature convergence and increasing the local search capacity for the premature convergence. Segment from UCI and StatLog data sets were used to evaluate the proposed method. Results show that, comparing with standard genetic algorithm, the proposed method obtained an ideal result with less selected features and higher classification accuracy. The proposed method can be widely applied in the field of feature selection.

针对标准遗传算法早熟收敛和局部搜索能力弱的缺点，提出了一种自适应多种群的遗传算法（AMGA），包含了多种群规划模型（MPP）和动态选择操作算法（DSA），应用于特征选择处理，从多维特征集合中寻找最优的特征子集。该方法扩展了搜索空间，自适应地调整多个种群的运行状态，有效地控制早熟收敛，增强了局部搜索能力。最后，将本文方法与标准遗传算法的试验结果进行比较，表明本文算法选择的特征数量较少、分类精度较高，可广泛应用于特征选择领域。

... 遗传算法(GA)^[1]、粒子群(PSO)^[2]、蚁群(ACO)^[3]是最具代表性的启发搜索方法 ...

2011

1.144

0.4286

. 2011, 8(2):191-200

An improved particle swarm optimization for feature selection

... 遗传算法(GA)^[1]、粒子群(PSO)^[2]、蚁群(ACO)^[3]是最具代表性的启发搜索方法 ...

2013

1.383

0.0

... 遗传算法(GA)^[1]、粒子群(PSO)^[2]、蚁群(ACO)^[3]是最具代表性的启发搜索方法 ...

2012

0.184

0.0

... Yildiz^[4]等提出了一种基于数据融合和GA的基因选择方法,在breast cancer数据集上获得了较好的实验结果 ...

2011

1.978

0.0

... Mohamad^[5]等通过给出粒子更新的规则,提出了一种新的离散PSO,可针对微阵列数据获得更小的特征子集 ...

2012

1.564

0.0

... Chuang^[6]等提出了一种PSO/GA混合算法,可获得较小的基因子集和错误率 ...

2012

1.853

0.0

. 2012, 37(2):255-266 DOI:10.1007/s10489-011-0325-9

Parallel multi-swarm optimizer for gene selection in DNA microarrays

1. Dept. de Lenguajes y Ciencias de la Computación, ETSI Informática, University of Málaga, Campus de Teatinos, Málaga, 29071, Spain

Abstract The execution of many computational steps per time unit typical of parallel computers offers an important benefit in reducing the computing time in real world applications. In this work, a parallel Particle Swarm Optimization (PSO) is used for gene selection of high dimensional Microarray datasets. The proposed algorithm, called PMSO, consists of running a set of independent PSOs following an island model, where a migration policy exchanges solutions with a certain frequency. A feature selection mechanism is embedded in each subalgorithm for finding small samples of informative genes amongst thousands of them. PMSO has been experimentally assessed with different population structures on four well-known cancer datasets. The contributions are twofold: our parallel approach is able to improve sequential algorithms in terms of computational time/effort (Efficiency of 85%), as well as in terms of accuracy rate, identifying specific genes that our work suggests as significant ones for an accurate classification. Additional comparisons with several recent state the of art methods also show competitive results with improvements of over 100% in the classification rate and very few genes per subset.

... Garcia-Nieto^[7]采用并行粒子群在4个癌症数据集上完成了测试,获得了较优的特征子集 ...

2012

0.791

0.0

... Abdi^[8]等提出一种两阶段的微阵列数据分类方法,第一阶段采用mRMR去除冗余的基因,第二阶段采用PSO完成特征选择,同时用PSO优化SVM的核函数,获得了良好的分类精度 ...

2012

1.854

0.0

. 2012, 39(3):null-null

A new hybrid ant colony optimization algorithm for feature selection

... Kabir^[9]等改进了ACO的信息素更新和启发信息度量,从而提高了算法的泛化能力,在微阵列数据集上体现出良好的性能 ...

2013

1.144

0.4286

. 2013, 10(2):null-null

An ant colony optimization based dimension reduction method for high-dimensional datasets

... Li^[10]等提出了ACO-S,包含两个阶段,提高了ACO的搜索能力,在多个微阵列数据集上得到了较好的测试结果 ...

... 针对高维数据,提出了一种2阶段并行基因选择方法(TPM),结合信息增益(Information gain,IG)^[10]、FMP、SVM^[11]完成特征选择 ...

... 1 数据集本文采用最典型的leukemia data set、colon data set、breast cancer data set、lung carcinoma dataset、brain cancer data set五个高维数据集^[10]进行测试,覆盖的样本范围为38~203、基因数量为2000~12 600、分类数量为2~5,见表2 ...

2011

0.0

0.701

. 2011, 41(1):160-164

Application of rough set and support vector machines in hepatitis diagnosis

A method applied in hepatitis diagnosis was proposed, which is based on rough set and Support Vector Machines (SVM). The method uses rough set to reduce the original features and to obtain a number of feature subsets. Then a set selection algorithm was employed to execute the feature reduction again, and a new data set was acquired in the light of the reduced subset. SVM was used for the new data set training and prediction. UCI machine learning public data set was adopted. Experiment results and data analysis show that, comparing with SVM, Neural Network (NN) and decision tree, the proposed method has higher diagnostic accuracy and can diagnose whether the data being negative or positive.

提出了一种基于粗糙集与支持向量机（SVM）的肝炎诊断方法。利用粗糙集对原始特征进行约减，得到多个特征子集，然后采用组选择算法进行二次约减，根据约减后的特征子集生成新的数据集，使用SVM对新的数据集进行训练和预测。采用UCI机器学习公共数据集，试验结果与数据分析表明，与SVM、神经网络（NN）、决策树所预测的结果对比，本文方法具有较高的准确率，可以较准确地诊断数据是否呈阳性。

... 针对高维数据,提出了一种2阶段并行基因选择方法(TPM),结合信息增益(Information gain,IG)^[10]、FMP、SVM^[11]完成特征选择 ...

2011

0.0

0.701

. 2011, 41(3):716-720

Novel spam filtering method based on fuzzy adaptive particle swarm optimization

1.College of Computer Science and Technology,Jilin University,Changchun 130012,China|2.Ministry Key Laboratory of Symbol Computation and Knowledge Engineering,Jilin University,Changchun 130012,China;3Network Center,Changchun University of Science and Technology,Changchun 130022,China;4.Graduate School of Engineering,Nagasaki Institute of Applied Science,Nagasaki |851-0193,Japan

A Novel Spam Filtering Method (NSFM) is proposed, which removes redundant attributes from the high dimensional attributes, and selects the attributes, which contribute to the classification accuracy, thus, to improve the classification rate of spam filtering. A fuzzy adaptive particle swarm algorithm is developed, which can dynamically control the inertia weight, learning factor and particle number factor using fuzzy control. The NSFM consists of three stages, kernel feature selection, feature selection and spam filtering. In the first stage, information gain is employed to calculate the information value of each feature, and construct a kernel feature set, thereby obtaining a number of kernel feature subsets. In the second stage, according to the kernel feature subset, IFAPSO is initialized and adjusted adaptively using the fuzzy controller, thus finishing spam filtering. In the final stage, support vector machine is used to classify the optimal feature subset and finish spam filtering. In this paper, PUl, LingSpam and SpamAssassin data sets are utilized. Through many comparative experiments, it is confirmed that the proposed method is adaptable and can select better feature subsets, thereby enhancing the classification accuracy rate effectively, and building up the performance of spam filtering. The NSFM has important practical value.

提出了一种新的垃圾邮件过滤方法（NSFM），从高维的文本特征中删除冗余的特征，选择对分类精度提高有贡献的特征，从而提高了垃圾邮件过滤的分类准确率。提出了一种模糊自适应粒子群（IFAPSO），通过模糊控制，动态的调控粒子群的惯性权重、学习因子和粒子数量比。NSFM包含核心特征选择、特征选择、垃圾邮件过滤3个阶段，第一阶段利用信息增益求取每个特征的信息值，构建核心特征集合，生成一定数量的核心特征子集；第二阶段根据核心特征子集对IFAPSO进行初始化，利用模糊控制器对粒子群进行自适应的调节，完成特征选择；第三阶段使用支持向量机对最优的特征子集分类，完成垃圾邮件过滤。本文采用PU1、LingSpam、SpamAssassin数据集数，通过多种对比实验证明：本方法自适应性强，可选择到较优的特征子集，有效地提高了分类精度，提升了垃圾邮件过滤的性能，具有较高的实用价值。

... 2 种群模块每个种群独立地完成其内部粒子的更新,种群的结构与更新方式与binary PSO^[12]相同,更新过程描述如下: ...