混沌粒子群算法优化最小二乘支持向量机的混凝土强度预测
张静1,2, 刘向东1
1.内蒙古工业大学 材料科学与工程学院,呼和浩特 010051
2.内蒙古建筑职业技术学院 机电与暖通工程分院,呼和浩特 010070
刘向东(1966-),男,教授,博士.研究方向:材料工程.E-mail:zj601187@163.com

作者简介:张静(1983-),女,副教授,博士研究生.研究方向:建筑材料.E-mail:zhangjing@126.com

摘要

为了获得更理想的混凝土强度预测结果,提出一种混沌粒子群算法优化最小二乘支持向量机(LSSVM)的混凝土强度预测模型。首先采集混凝土强度数据,并进行归一化处理。然后采用LSSVM对混凝土强度与影响因子之间的变化关系进行建模,并采用混沌粒子群算法搜索最优LSSVM参数。最后采用具体混凝土强度预测实例对其性能进行分析。结果表明,本文模型可以准确描述混凝土强度与影响因子间的变化关系,提高了混凝土强度预测精度,具有一定的实际应用价值。

关键词: 土木工程; 混凝土强度; 最小二乘支持向量机; 混沌粒子群算法; 通用性测试
中图分类号:TU528 文献标志码:A 文章编号:1671-5497(2016)04-1097-06
Prediction of concrete strength based on least square support vector machine optimized by chaotic particle swarm optimization
ZHANG Jing1,2, LIU Xiang-dong1
1.School of Materials Science and Engineering, Inner Mongolia University of Technology, Hohhot 010051, China
2.Department of Electromechanical and Heating Ventilation Engineering, Inner Mongola Technical College of Construction, Hohhot 010070,China
Abstract

In order to obtain precise prediction of concrete strength, a prediction model of concrete strength is proposed, which is based on Least Square Support Vector Machine (LSSVM) optimized by Chaotic Particle Swarm Optimization (CPSO). First, the data of concrete strength are collected and normalized. Second, LSSVM is used to model the relationship between the concrete strength and the impact factors, and CPSO algorithm is applied to search the optimal parameters of LSSVM. Finally, the prediction performance is analyzed on the concrete strength data. Results show that the proposed model can accurately describe the relationship between the concrete strength and the impact factors, and improve the prediction accuracy of the concrete strength. This model has certain practical value.

Keyword: civil engineering; concrete strength; least squares support vector machine(LSSVM); chaotic particle swarm optimization(CPSO) algorithm; general test
0 引 言

针对混凝土强度的预测问题, 国内外学者提出许多有效的预测模型[1, 2, 3]。最原始预测模型主要为多元线性回归分析, 其假设混凝土强度与影响因素之间是一种线性关系, 建模速度快、易实现[4], 但影响混凝土强度的因素十分复杂, 且各种因素之间互相作用, 导致混凝土强度与其影响因素之间是一种复杂的非线性关系, 而多元线性回归分析模型无法描述混凝土强度的非线性变化特点, 预测精度低、实际应用范围比较窄[5, 6, 7]。随后, 出现了基于非线性理论的混凝土强度预测模型, 如神经网络、支持向量机等机器学习算法[8, 9, 10, 11, 12], 它们不需要知道处理问题的精确函数, 就可以较好地拟合混凝土强度与影响因素之间的关系, 混凝土强度的预测精度得到了提高, 成为当前主要的研究方向。

最小二乘支持向量机(Least squares support vector machine, LSSVM)不仅克服了神经网络的不足和继承了支持向量机的优点, 而且加快了训练速度, 解决了支持向量机建模效率低的缺陷[13], 为了获得更加理想的混凝土强度预测结果, 提出了一种基于混沌粒子群(Chaotic particle swarm optimization, CPSO)算法优化最小二乘支持向量机的混凝土强度预测模型, 并通过具体应用实例测试证明了该模型的可行性。

1 最小二乘支持向量机和混沌粒子群算法
1.1 最小二乘支持向量机

最小二乘支持向量机对标准支持向量机进行了简化, 降低了计算复杂度, 加快了学习速度, 更加适合于混凝土强度预测建模。设收集的混凝土强度样本为: {xi, yi}i=1l, xiRn为第i个混凝土强度样本的影响因子, yiRn为第i个样本混凝土强度的期望输出值, LSSVM的线性回归函数为:

f(x)=ωT·φ(x)+b1

式中: φ(x)为映射函数; ω为权值向量;b 为偏置向量。

根据结构风险最小化原理, LSSVM的回归优化目标可以表示为:

minω, b, ξJ(ω, ξ)=12ωTω+γ2i=1nξi2s.t. yiωTφ(x)+b=1-ξi  (2)i=1, 2, , l

式中: ξi为误差变量; γ为调整参数。

引入Lagrange乘子 αi对LSSVM回归过程进行优化, 可以得到:

L(ω, b, ξ, α)=J(ω, ξ)-i=1lαi{yi[ωTφ(xi)-b]}-1+ξi3

根据Karush-Kuhn-Tucker(KKT)条件, 可以得到:

Lω=0, Lb=0, Lξi=0, Lαi=0(4)

消去 ξiω后, 即有:

0QTQK+γ-1IbA=0Y5

式中: Q=[11]T; A=[a1al]T

对于非线性回归问题, 根据Mercer条件采用核函数转化成为线性回归问题, 核函数定义如下:

k(xk, xh)=φ(xk)Tφ(xh)(6)

本文选择径向基核函数, 其定义如下:

k(x, xi)=exp-|x-xi|2σ27

式中: σ为核函数宽度。

这样式(5)变为:

0y1yly1y1y1k(x1, x1)+γ-1y1y1k(x1, xl)y1y1y1k(xl, xl)lylylk(xl, xl)+γ-1×ba1a=0118

LSSSVM的预测模型为:

f(x)=i=1lαik(x, xi)+b9

1.2 混沌粒子群优化算法

设粒子i的飞行速度和位置分别为vi=(vi1,vi2,…,viD )T 和xi=( xi1,xi2,…, x iD ) T,粒子i和种群的历史最优位置分别为pi=(pi1, p i2,…, p iD)和pg=(pg1,pg2,…, p gD),在第t次迭代过程中, 粒子位置和速度更新方式为:

Vid(t+1)=ωVid(t)+c1r1(pid-Xid(t))+  c2r2(pgd-Xid(t))(10)Xid(t+1)=Xid(t)+Vid(t+1)(11)

式中: c1c2为加速系数; ω为惯性权值, 其定义如下:

ω=ωmax-iteritermax(ωmax-ωmin)(12)

式中: ωmaxωmin分别为最大和最小的惯性权值[14]。iter为当前迭代次数;itermax为最大迭代次数。

在基本粒子群优化(PSO)算法中, 如果一个粒子得到了一个局部最优解, 粒子群中的其他粒子飞向该局部最优解聚集, 易导致整个粒子群陷入局部最优解, 难以找到问题的全局最优解。混粒子群算法(CPSO)将混沌系统的随机性和遍历性引入到基本粒子群优化算法, 对粒子群的历史最优解进行混沌处理, 帮助粒子群跳出局部最优解, 寻优能力更强[14]

2 CPSO-LSSVM的混凝土强度预测模型
2.1 混凝土强度预测模型的参数优化

分析LSSVM的工作原理可以发现, 建立精度高的混凝土强度预测模型必须获得LSSVM参数γ 和σ 的最优值、γ 和σ 参数两者之间相互联系, 因此是一种组合、带约束的优化问题, 混凝土强度预测模型的LSSVM参数优化数学模型可以定义如下:

minf(γ, σ)=1NAj=1NA(yj-yj* )2+1NBj=1NB(yj-yj* )2s.t. γ[γmin, γmax]σ[σmin, σmax]13

式中: yiy^i分别为第i个混凝土强度的实际值和预测(拟合)值; NANB分别为训练样本和验证样本数。

2.2 LSSVM参数的粒子编码

在实际应用过程中, CPSO算法首先通过编码方式与待解决的问题进行关联, 因此LSSVM参数与 γσ相对应, 其采用实数编码方式, 具体如图1所示。

图1 粒子与LSSVM参数对应关系Fig.1 Relationship between particle and LSSVM parameters

2.3 适应度函数

在混凝土强度建模和预测过程中, CPSO算法的目标是降低混凝土强度预测误差, 因此粒子群的适应度函数定义如下:

f(x)=1NAj=1NA(yj-yj* )2+1NBj=1NB(yj-yj* )214

2.4 CPSO-LSSVM的混凝土强度预测流程

(1)对具体混凝土类型的强度进行多次实验, 收集影响因子和混凝土的强度值。

(2)设置LSSVM参数 γσ的范围, 并根据参数范围随机生成初始粒子群。

(3)一个粒子位置向量与LSSVM参数 γσ相对应, 根据式(14)计算每一个粒子的适应度值, 并进行排序, 将适应度值最小的粒子位置设置为种群的历史最优位置。

(4)更新粒子的位置和速度, 产生新一代粒子群, 与个体和粒子群的历史最优位置进行比较, 确定个体和粒子群的历史最优位置。

(5)对粒子群的历史最优位置进行混沌处理。

(6)若满足终止条件, 则LSSVM参数寻优停止, 不然计算新一代粒子群的适应度值, 返回步骤(4)继续搜索LSSVM参数。

(7)将粒子群最优位置进行反编码, 根据找到的最优LSSVM参数, 对混凝土强度训练样本进行学习, 建立预测模型, 对验证样本进行预测, 并对预测结果进行分析。

综上所知, 基于CPSO-LSSVM的混凝土强度建模和预测流程如图2所示。

图2 混凝土强度预测模型的工作流程Fig.2 Flow chart of concrete strength prediction model

3 CPSO-LSSVM在混凝土强度预测中的应用
3.1 数据源

实验环境为:Intel酷睿i5 4590 CPU; 金士顿DDR3 1600 8 GB内存; Windows 8操作系统; Matlab 2012R编程工具。选择标准数据库中的Concrete compressive strength数据集作为实验对象, 其包括1030个样本, 每一样本有8个影响因子, 即LSSVM的输入向量; 1个期望输出值(混凝土强度), 即LSSVM的输出向量。随机选择200个样本数据组成训练集, 建立混凝土强度预测模型, 并检验CPSO-LSSVM对混凝土强度的拟合性能, 随机选择100个样本作为验证集, 检验混凝土强度预测模型的泛化推广能力。

3.2 样本的预处理

混凝土强度影响因子的意义各异, 它们值之间的绝对误差大, 会对LSSVM的训练过程产生不利影响, 降低建模的效率, 为此对混凝土强度样本进行归一化处理, 具体为:

x'(i)=x(i)-min(x(i))max(x(i)-min(i))15

式中:max(· )和min(· )分别表示混凝土强度的最大和最小值。

3.3 结果及分析

3.3.1 CPSO-LSSVM的混凝土强度拟合性能

将归一化处理后的混凝土强度训练集输入到LSSVM进行训练, 采用粒子群算法优化LSSVM参数, 得到最优参数分别为:γ =450.815, σ =8.749, 从而建立混凝土强度预测模型, 并对训练集进行拟合, 得到混凝土强度拟合结果如图3所示。

图3可以看出, CPSO-LSSVM的混凝土强度拟合值与混凝土强度实际值十分接近, 它们之间偏差十分小, 混凝土强度的拟合结果表明, CPSO-LSSVM能够有效拟合混凝土强度与其影响因子之间的非线性变化关系, 拟合精度高达98%以上, 可以满足混凝土强度的拟合精度要求。

图3 CPSO-LSSVM的混凝土强度拟合性能Fig.3 Fitting performance of CPSO-LSSVM for concrete strength

3.3.2 CPSO-LSSVM的混凝土强度泛化性能

在实际应用中, 混凝土预测模型的泛化能力也是一种关键的评价指标, 对混凝土强度验证集的预测结果如图4所示。

图4 CPSO-LSSVM的混凝土强度泛化性能Fig.4 Generalization performance of CPSO-LSSVM for concrete strength

图4可以看出, CPSO-LSSVM的混凝土强度验证集的预测结果变化曲线与实际值的变化曲线相似, 预测偏差变化幅度小, 验证集的预测结果表明, 本文将LSSVM引入到复杂多变的混凝土强度建模及预测中, 建立的模型可以准确反映混凝土强度与其影响因子之间的非线性变化趋势, 克服了传统模型的缺陷, 通过引入混沌粒子群算法优化LSSVM的参数, 有效解决了LSSVM参数优化的难题, 混凝土强度的预测精度高达95%以上, 说明CPSO-LSSVM的混凝土预测模型具有较好的泛化能力。

3.3.3 与当前经典模型的性能对比

为了进一步验证CPSO-LSSVM的混凝土强度预测模型, 选择当前经典混凝土强度预测模型进行参照实验, 它们具体为:多元线性回归(MLR)模型、BP神经网络(BPNN)、RBF神经网络(RBFNN)[15]、支持向量机(SVM)[16], 采用拟合精度和预测精度对性能进行衡量, 所有模型的拟合精度和预测精度如表1所示。

表1 CPSO-LSSVM与经典模型的性能对比 Table 1 Performance comparison of CPSO-LSSVM and classical models

表1的结果进行分析可知:

(1)在所有模型中, MRL的拟合精度和预测精度最低, 这是主要是因为MRL是一种线性建模方法, 不能反映混凝土强度与其影响因子之间的非线性变化趋势, 混凝土强度的预测误差大。

(2)相对于MRL模型, BPNN和RBFNN的混凝土强度的拟合精度和预测精度得到大幅提高, 这主要是由于BPNN和RBFNN具有自适应学习能力, 可以逼近混凝土强度与影响因子之间的变化关系, 提高了混凝土强度的预测精度, 但是由于BPNN和RBFNN均基于经验风险最大化原理, 有个别样本预测误差比较大, 出现了“ 过拟合” 现象, 预测结果不稳定、不可靠。

(3)CPSO-LSSVM模型的拟合精度和预测精度最高, 预测误差要小于对照模型, 主要是由于LSSVM是一种基于结构风险最小原则的机器学习算法, 解决了泛化性能和学习效率之间的矛盾, 比SVM的建模时间大幅度减少, 克服了当前经典模型的不足, 是一种可行、精度高的混凝土强度预测和建模工具。

3.3.4 通用性测试

为了全面分析CPSO-LSSVM的性能, 采用多种类型的混凝土进行通用性测试, 结果如表2所示。从表2可知, 对于所有类型混凝土的强度, CPSO-LSSVM的平均拟合精度高达98%以上, 平均预测精度为95%上, 实验结果表明, CPSO-LSSVM是一种通用性能较好的混凝土强度预测模型, 为其他非线性预测问题提供一种建模思路。

表2 CPSO-LSSVM对其他类型混凝土强度预测 Table 2 Prediction of other types concrete strength based on CPSO-LSSVM
4 结束语

混凝土强度预测是当前的一个研究热点, 为此, 本文提出一种基于CPSO-LSSVM的混凝土强度预测模型。首先采用CPSO算法选择LSSVM参数, 然后挖掘混凝土强度与其影响因子之间的变化关系, 最后采用多个具体混凝土强度数据对其性能进行实证检验。结果表明, 本文模型的混凝土强度拟合和预测结果具有很高的精度, 有一定的实际应用价值。本文建模时没有考虑混凝土强度影响因子对预测结果的贡献, 如何确定每一个混凝土强度影响因子权重, 以建立精度更高的混凝土强度预测模型是下一步将要研究的问题。

The authors have declared that no competing interests exist.

参考文献
[1] Limbachiya M C, Leelawat T, Dhir R K. Use of recycled concrete aggregate in high-strength concrete[J]. Material and Structure, 2000, 33(9): 574-580. [本文引用:1]
[2] 陆克芬, 方崇, 张春乐. 非参数投影寻踪回归在粉煤灰混凝土强度测中的应用[J]. 计算机工程与设计, 2010, 31(6): 1394-1396.
Lu Ke-fen, Fang Cong, Zhang Chun-le. Nonparametric projection pursuit regression and its application of strength prediction about fly as concrete[J]. Computer Engineering and Design, 2010, 31(6): 1394-1396. [本文引用:1]
[3] 张英姿, 范颖芳, 赵颖华. 受盐酸腐蚀混凝土抗压强度的灰色预测模型[J]. 建筑材料学报, 2007, 10(4): 397-401.
Zhang Ying-zi, Fan Ying-fang, Zhao Ying-hua. Grey prediction model for compressive strength of concrete corroded by hydrochloric acid[J]. Journal of Building Materials, 2007, 10(4): 397-401. [本文引用:1]
[4] 王江荣. 基于模拟退火的粒子群算法优化的二次回归在混凝土抗压强度预测中的应用[J]. 工程质量, 2013, 31(12): 32-35.
Wang Jiang-rong. Quadratic regression based on optimization algorithm of simulated annealing particle group theory application in the concrete compressive strength prediction[J]. Construction Quality, 2013, 31(12): 32-35. [本文引用:1]
[5] 高峰, 郝奇亮. 基于MATLAB7. 2 神经网络工具箱的混凝土抗压强度预测[J]. 山西大同大学学报: 自然科学版, 2012, 28(6): 60-63.
Gao Feng, Hao Qi-liang. Concrete compression strength prediction based on Matlab 7. 2 neural Network toolbox[J]. Journal of Shanxi Datong University (Natural Science), 2012, 28(6): 60-63. [本文引用:1]
[6] 徐国强, 苏幼坡, 韩佃利, . 基于BP 神经网络的绿色混凝土抗压强度预测模型[J]. 混凝土, 2013(2): 33-35.
Xu Guo-qiang, Su You-po, Han Dian-li, et al. Prediction model of green concrete compressive strength based on BP neural network[J]. Concrete, 2013(2): 33-35. [本文引用:1]
[7] 黄庆时, 郑建岚, 罗素蓉. 人工神经网络在自密实混凝土抗压强度预测中的应用[J]. 福州大学学报: 自然科学版, 2007, 35(1): 100-104.
Huang Qing-shi, Zheng Jian-lan, Luo Su-rong. Application of artificial neural networks for prediction of self-compacting concrete strength[J]. Journal of Fuzhou University (Natural Science), 2007, 35(1): 100-104. [本文引用:1]
[8] 李红, 彭涛. 基于BP、RBF 神经网络混凝土抗压强度预测[J]. 武汉理工大学学报, 2009, 31(8): 33-36.
Li Hong, Peng Tao. Prediction of concrete compress strength based on BP and RBF neural network theories[J]. Journal of Wuhan University of Technology, 2009, 31(8): 33-36. [本文引用:1]
[9] 马清秀. 基于支持向量机的水泥抗压强度预测[J]. 公路与汽运, 2009(3): 93-95.
Ma Qing-xiu. Prediction of concrete strength based on support vector machine[J]. Highways and Automotive Applications, 2009(3): 93-95. [本文引用:1]
[10] 王江荣. 基于小波分析的神经网络在混凝土测强曲线拟合中的应用[J]. 工程质量, 2011, 29(12): 63-65.
Wang Jiang-rong. Neural network application of concrete strength test curve fitting based on small wave analysis[J]. Construction Quality, 2011, 29(12): 63-65. [本文引用:1]
[11] 何晓凤, 周红标. 基于GA-BP 的混凝土抗压强度预测研究[J]. 淮阴工学院学报, 2011, 20(3): 21-25.
He Xiao-feng, Zhou Hong-biao. Prediction of concrete compressive strength based on GA-BP[J]. Journal of Huaiyin Institute of Technology, 2011, 20(3): 21-25. [本文引用:1]
[12] 陈斌, 郭雪莽, 刘国华. 基于粗糙集(RS)和支持向量机(SVM)的混凝土性能预测实证研究[J]. 水力发电学报, 2011, 30(6): 251-257.
Chen Bin, Guo Xue-mang, Liu Guo-hua. Prediction of concrete properties based on rough sets and support vector machine method[J]. Journal of Hydroelectric Engineering, 2011, 30(6): 251-257. [本文引用:1]
[13] 张鹤, 宁作君. 基于LS-SVM的混凝土断裂参数回归与预测[J]. 混凝土, 2012(6): 17-19.
Zhang He, Ning Zuo-jun. Data regression and forecast of concrete fracture by LS-SVM[J]. Concrete, 2012 (6): 17-19. [本文引用:1]
[14] 龙文, 梁昔明, 龙祖强, . PSO-LSSVM灰色组合模型在地下水埋深预测中的应用[J]. 系统工程理论与实践, 2013, 33(1): 243-248.
Long Wen, Liang Xi-ming, Long Zu-qiang, et al. LSSVM grey combined forecasting model based on PSO and its application in groundwater dynamic prediction[J]. Systems Engineering—Theory and Practice, 2013, 33(1): 243-248. [本文引用:2]
[15] 王晓伟. 基于RBF网络的混凝土抗压强度的预测[J]. 筑路机械与施工机械化, 2006(10): 23-26.
Wang Xiao-wei. Prediction of concrete compressive strength based on RBF neural network[J]. Pavement Machinery and Construction Technology, 2006(10): 23-26. [本文引用:1]
[16] 龚珍, 卜小波, 吴浩. 基于PSO-SVM的混凝土抗压强度预测模型[J]. 混凝土, 2013(12): 11-13.
Gong Zhen, Pu Xiao-bo, Wu Hao. Concrete compressive strength test based on vector machine optimized by particle swarm optimization algorithm[J]. Concrete, 2013(12): 11-13. [本文引用:1]