融合全监督学习的半监督矿石粒度预测算法

doi:10.11872/j.issn.1005-2518.2024.03.040

融合全监督学习的半监督矿石粒度预测算法

姜志宏^,¹^,², 陈澳^,¹

1.江西理工大学机电工程学院，江西赣州 341000

2.江西省矿冶机电工程技术研究中心，江西赣州 341000

Semi-supervised Ore Granularity Prediction Algorithm Incorporating Fully Supervised Learning

JIANG Zhihong^,¹^,², CHEN Ao^,¹

1.Faculty of Mechatronic Engineering, Jiangxi University of Science and Technology, Ganzhou 341000, Jiangxi, China

2.Jiangxi Mining and Metallurgy Electromechanical Engineering Technology Research Center, Ganzhou 341000, Jiangxi, China

通讯作者: 陈澳（1999-），男，江西吉安人，硕士研究生，从事矿石粒度检测研究工作。1012558903@qq.com

收稿日期: 2024-01-31 修回日期: 2024-04-11

基金资助:

国家自然科学基金项目“多点对称超声载荷作用下包裹性矿物界面损伤演化及解离机理研究”. 52364025

Received: 2024-01-31 Revised: 2024-04-11

作者简介 About authors

姜志宏（1977-），男，江苏江都人，副教授，从事矿山智能装备技术与应用研究工作jzhee_mail@163.com , E-mail：jzhee_mail@163.com

摘要

针对选矿过程矿石粒度分析精度的提高依赖于有标签样本数量，以及传统全监督建模方法泛化性能较差的问题，提出了融合全监督学习的半监督矿石粒度预测算法。以运矿皮带上应用图像获取的矿石粒度数据作为研究对象，利用半监督学习获得无标签的图像识别矿石粒度样本伪标签，扩展数量有限的原始标签样本，以提高矿石粒度预测模型的性能。采用筛分法获取的矿石粒度数据集来验证融合全监督学习的半监督预测算法，结果表明，融合全监督学习的半监督预测算法的模型决定系数达到92.1%，均方根误差和平均绝对误差分别为0.023和0.02，相较于传统全监督建模方法，该模型的预测精度显著提高，为提高矿石粒度检测精度提供了有力的技术支撑。

关键词： 半监督学习 ; 粒度检测 ; 伪标签 ; 粒度分布 ; 机器学习 ; 矿石

Abstract

Aiming at the problems that the improvement of the accuracy of ore particle size analysis in the ore dressing process depends on the number of labeled samples，and the application of the traditional fully supervised modeling method has poor generalization performance，a semi-supervised ore particle size prediction algorithm incorporating fully supervised learning was proposed.Taking the ore particle size data obtained by applying images on the ore transport belt as the research object，the ore particle size data was analyzed.Four kinds of ore particle size features namely，particle size，weighted arithmetic mean size，standard deviation and deviation coefficient was adopted as the input features.And three kinds of prediction models were established，namely，decision tree，GBDT and BP neural network.By stratified sampling of the original ore size labeled samples，a training set was constructed.Then use the semi-supervised learning to obtain the unlabeled image identification ore particle size samples pseudo-labels，screen out high-confidence pseudo-labeled samples，add the pseudo-labels judged by confidence to the original ore particle size label samples，expand the limited number of original labeled samples，and at the same time delete the corresponding samples in the unlabeled ore particle size samples.Finally，in order to improve the performance of the prediction mode，a new regression prediction model was constructed based on the expanded set of original labeled samples，.The ore particle size dataset obtained by sieving method was used to validate the semi-supervised prediction algorithm incorporating fully supervised learning.The results show that，compared with the traditional fully supervised modeling methods such as decision tree，ridge regression，Bayesian，etc.The model coefficient of determination of the semi-supervised prediction algorithm incorporating fully supervised learning reaches 92.1%，which is increased by 5%，5.4%，and 5.2%，respectively.The root-mean-square error is 0.023，which is reduced by 23.33%，23.33% and 20.69%，respectively，and the mean absolute error is 0.02，which is reduced by 23.08%，13.04% and 9.09%，respectively.The research shows that the prediction accuracy is significantly improved，which verifies the feasibility and reliability of the semi-supervised ore particle size prediction model incorporating fully supervised learning.It also provides a powerful technological support for the improvement of the accuracy of ore particle size detection，and further confirms the advantages of the semi-supervised learning，and provides a powerful technological support for the improvement of the accuracy of the semi-supervised learning.It further confirms the advantages of semi-supervised learning，provides new ideas and methods for the practical application of ore particle size prediction technology，and is expected to improve the production efficiency and quality control level in the process of ore processing and utilization.

Keywords： semi-supervised learning ; granularity detection ; pseudolabeling ; particle size distribution ; machine learning ; ore

PDF (2498KB) 元数据多维度评价相关文章导出 EndNote| Ris| Bibtex 收藏本文

本文引用格式

姜志宏, 陈澳. 融合全监督学习的半监督矿石粒度预测算法[J]. 黄金科学技术, 2024, 32(3): 539-547 doi:10.11872/j.issn.1005-2518.2024.03.040

JIANG Zhihong, CHEN Ao. Semi-supervised Ore Granularity Prediction Algorithm Incorporating Fully Supervised Learning[J]. Gold Science and Technology, 2024, 32(3): 539-547 doi:10.11872/j.issn.1005-2518.2024.03.040

矿石粒度是选矿过程控制的关键参数之一，也是衡量破碎效果的重要参考依据，实时检测矿石粒度对矿石破碎工艺的优化具有重要意义（李鸿翔等，2021；王伟等，2023；Zhang et al.，2023）。矿石粒度完整样本标签通常需要通过人工筛分方法获取，该方法不仅浪费大量的人力资源，而且效率低下。在有限的有标签样本条件下，传统全监督建模方法的训练能力受到限制，建立高精度、高稳健性的预测模型具有一定难度（徐永洋等，2020；Hu et al.，2022）。因此，面向矿石粒度检测，传统全监督建模方法受到有标签样本稀缺的限制，大量基于图像识别矿石粒度的无标签样本未被有效利用，通过半监督学习有效利用无标签样本构建模型的策略优势凸显。

半监督学习的核心理念在于利用未标记样本信息，通过获得伪标签方式扩展有限的标记样本集合，从而提高模型泛化能力，核心在于如何有效评估伪标签的准确性（Hu et al.，2021；黄发明等，2021）。Kang et al.（2016）建立了基于自训练的半监督支持向量回归（SS-SVR）模型，利用概率局部重构（PLR）模型获得伪标签的方式扩充数据集。史旭东等（2020）提出了基于改进自训练算法的高斯过程回归（GPR）软测量建模方法，先利用相似度估计无标签样本缺失的主导变量值后再筛选估计样本，将泛化能力强的伪标签样本加入有标签样本集后建立软测量模型。毛耿旋等（2022）提出了一种基于半监督回归的高光谱土壤重金属质量浓度反演模型，试验结果表明，在较少标签样本情况下，通过引入大量的未标签样本进行半监督回归分析，能够有效提升模型反演精度。但上述方法采用传统单一学习器构建预测模型，存在一定的局限性，需进一步提升其泛化能力。

本文提出采用融合全监督学习的半监督矿石粒度预测算法。根据矿石样本特征选择不同的回归模型并进行初始化；采用模型性能评估策略获得高置信度伪标签样本；利用伪标签样本与原始标签样本集构建矿石粒度预测模型。

1 基于半监督学习的矿石粒度预测算法

1.1 试验数据分析

矿石经过破碎筛分、碎磨分级和分选加工后，形成碎散物料群体，其颗粒大小和形状多种多样，为描述这些特性，通常使用“粒度” “粒级”“粒度组成”和“平均粒度”等术语（Chun et al.，2021；卢佳旺，2023）。本文选用粒级、加权算术平均粒度、标准差和偏差系数4种指标作为矿石粒度输入特征，综合运用这4种指标可以比较全面地描述矿石的粒度特性。其中，加权算术平均粒度、标准差和偏差系数的计算公式为

$d_{s} = \frac{γ_{1} d_{1} + γ_{2} d_{2} + \dots + γ_{n} d_{n}}{γ_{1} + γ_{2} + \dots + γ_{n}} = \frac{\sum γ_{i} d_{i}}{\sum γ_{i}}$

（1）

$δ = \sqrt[]{\sum {(d_{i} - d_{s})}^{2} \cdot \frac{γ_{i}}{\sum γ_{i}}}$

（2）

$k = \frac{δ}{d_{s}}$

（3）

式中： $d_{s}$ 为平均粒度； $γ_{i}$ 是平均粒度为 $d_{i}$ 的粒级占物料总量的质量百分率， $i = 1,2, \dots, n$ ； $δ$ 为标准差； $k$ 为偏差系数。

在某选厂细碎皮带上采集+10 mm、+5~10 mm和-5 mm共3种不同矿石粒级的实测数据集，数据结构如表1所示（部分数据），其中人工筛分矿石粒度分布为有标签样本，图像识别矿石粒度分布为无标签样本，数据集包含63个有标签样本，288个无标签样本。其中有标签矿石粒度分布样本训练集、验证集和测试集划分比例为2∶1∶1。

表1 矿石粒度数据集数据结构（部分数据）

Table 1 Data structure of the ore particle size dataset （partial data）

样本数据类型	矿石粒级 /mm	图像识别矿石粒度分布/%	加权算术平均粒度 /mm	标准差	偏差系数	人工筛分矿石粒度分布/%
有标签样本数据	+10	0.322	3.245	1.586	0.244	0.290
	+5~10	0.315	2.434	1.190	0.183	0.285
	-5	0.363	0.811	0.397	0.061	0.425
	+10	0.501	4.019	1.267	0.158	0.474
	+5~10	0.356	3.014	0.950	0.118	0.312
	-5	0.143	1.005	0.317	0.039	0.214
	…
无标签样本数据	+10	0.359	3.421	1.548	0.226
	+5~10	0.330	2.566	1.161	0.170
	-5	0.311	0.855	0.387	0.057
	+10	0.325	3.286	1.582	0.241
	+5~10	0.318	2.465	1.187	0.181
	-5	0.357	0.822	0.396	0.060
	+10	0.366	3.468	1.504	0.221
	+5~10	0.338	2.601	1.148	0.166
	-5	0.296	0.867	0.383	0.055
	…

新窗口打开| 下载CSV

不同学习器预测性能分析。应用融合全监督学习的半监督矿石粒度预测算法中，学习器的选择和组合方式至关重要，影响整个模型最终的预测性能，选择合适的学习器及其组合方式，可建立有效地融合全监督学习的半监督预测模型（Liu et al.，2022；庄慧敏，2022）。

为获取适用的学习器，需要观测各个模型对实际矿石粒度数据集单独预测的效果。这一过程需要每个模型的超参数达到最优，参考文献选用5折交叉验证，结合GridSearchCV（网格调参方法）以确定最佳超参数组合，并添加L2正则化项防止模型过拟合（宋建等，2022）。

回归模型的预测性能可通过矿石粒度预测数据与人工筛分粒度数据的偏差来评估，采用均方根误差（Root Mean Squared Error，RMSE）和平均绝对误差（Mean Absolute Error，MAE）作为评价标准，范围为［0，+∞）。当矿石预测粒度分布与人工筛分粒度分布完全吻合时，所建立的回归模型为完美模型；误差越大，该值越大（兰凤崇等，2023）。均方根误差和平均绝对值误差计算公式为

$R M S E = \sqrt[]{\frac{1}{m} \sum_{i = 1}^{m} (y_{i} - {\hat{y}}_{i})^{2}}$

（4）

$M A E = \frac{1}{m} \sum_{i = 1}^{m} (y_{i} - {\hat{y}}_{i})$

（5）

式中： $m$ 为样本数量； $y_{i}$ 为测试集上的人工筛分矿石粒度分布； ${\hat{y}}_{i}$ 为测试集上的预测粒度分布。

应用采集到的有标签样本数据，选择9种常用学习器的最佳超参数及预测误差，如表2所示。其中，决策树（Tree）、梯度提升决策树（GBDT）、贝叶斯回归（Bayes）、岭回归和BP神经网络的预测性能较为突出，随机森林（RF）、XGBoost、多项式回归和支持向量机（SVM）的预测误差相对较大。

表2 各模型的最佳超参数及预测误差

Table 2 Optimal hyperparameters and prediction errors for each model

模型	最佳超参数	RMSE	MAE
Tree	max_depth = 4	0.030	0.026
RF	n_estimators = 20	0.040	0.027
GBDT	learning_rate = 0.01 max_depth = 5 n_estimators = 200	0.026	0.022
XGBoost	gamma = 0.0 max_depth = 4 min_child_weight = 4 n_estimators = 70	0.040	0.028
Bayes	alpha_1= 1e-08 alpha_2= 1e-06 lambda_1= 1e-06 lambda_2= 1e-08 n_iter= 100	0.029	0.022
多项式回归	Linearregression_fit _intercept= True polynomialfeatures_degree2	0.080	0.051
岭回归	Alpha = 0.3 gamma = 0.1 kernel = linear	0.030	0.023
SVM	C = 1.0 Gamma = 1.0 Kernel = linear	0.075	0.063
BP神经网络	Activation = relu Alpha = 0.0001 hidden_layer_sizes = （100，）	0.030	0.023

新窗口打开| 下载CSV

为进一步选择合适的学习器，利用决定系数（ $R^{2}$ ）对Tree、GBDT、Bayes、岭回归和BP神经网络的预测性能进行比较分析，决定系数 $R^{2}$ 越高，越接近于1，模型的拟合效果就越好，越接近于0，拟合效果越差（孙兴伟等，2023）。决定系数计算公式为

$R^{2} = 1 - \frac{\sum_{i = 1}^{m} ({\hat{y}}_{i} {\begin{matrix} - y_{i} \end{matrix})}^{2}}{\sum_{i = 1}^{m} ({\hat{y}}_{i} - y_{i})^{2}}$

（6）

5种预测模型的决定系数如表3所示。根据决定系数的排序，选择Tree、GBDT和BP神经网络作为半监督学习算法中的学习器（胡云青等，2020）。

表3 5种预测模型在实际矿石数据集上的决定系数

Table 3 Coefficients of determination for five prediction models on the actual ore dataset

模型	$R^{2}$
Tree	0.871
GBDT	0.899
Bayes	0.869
岭回归	0.867
BP神经网络	0.872

新窗口打开| 下载CSV

1.2 算法流程

融合全监督学习的半监督矿石粒度预测算法，包含初始回归模型构建模块、伪标签样本获取模块和预测模块（徐雯等，2022）。半监督算法流程如图1所示。

图1

新窗口打开| 下载原图ZIP| 生成PPT

图1 半监督算法流程图

Fig.1 Flow chart of semi-supervised algorithm

算法流程为：首先，通过对原始矿石粒度标签样本 $M_{a}$ 进行分层采样，构建训练集 $D_{a}$ ，建立3个回归预测模型；然后，将无标签矿石粒度样本 $U_{u}$ 打上伪标签，筛选出高置信度伪标签样本；最后，利用混合样本集 $M_{n e w - t r a i n}$ 构建新的回归预测模型。

1.3 算法实现

（1）初始回归模型构建模块

原始矿石粒度标签样本记为 $M_{a} = (x_{m_{a}}, y_{m_{a}})$ ， $m_{a}$ 为矿石粒度样本数。

通过分层抽样方法对 $M_{a}$ 进行采样，得到一个训练集 $D_{a}$ ，可表示为 $D_{a} = (X_{m_{a}}, Y_{m_{a}})$ ，其中 $X_{m_{a}}$ 和 $Y_{m_{a}}$ 表示训练集的输入和输出。

①构建Tree回归模型

将 $X_{m_{a}}$ 的粒级、加权算术平均粒度、标准差和偏差系数4种特征记为 $(\begin{matrix} t_{1}, t_{2}, t_{3}, t_{4}) \end{matrix}$ ，将输入的训练集 $(X_{m_{a}}, Y_{m_{a}})$ 按照 $Y_{m_{a}}$ 的顺序进行排列。针对每个特征 $t_{L} (L = 1,2, 3,4)$ 和每个取值s，计算每个切分点 $(t_{L}, Y_{m_{a}})$ 的损失函数，选择损失函数最小的切分点，损失函数表达式为

$m i n_{t_{L}, s} [m i n_{c_{1}} \sum_{X_{m_{a}} \in R_{1} (t_{L}, s)} (Y_{m_{a}} - c_{1})^{2} + m i n_{c_{2}} \sum_{X_{m_{a}} \in R_{2} (t_{L}, s)} (Y_{m_{a}} - c_{2})^{2}]$

（7）

式中： $R_{1}$ 和 $R_{2}$ 为切分点划分的2个区域； $c_{1}$ ， $c_{2}$ 定义如下：

$c_{1} = \frac{1}{N_{1}} \sum_{X_{m_{a}} \in R_{1}} Y_{m_{a}}$

（8）

$c_{2} = \frac{1}{N_{2}} \sum_{X_{m_{a}} \in R_{2}} Y_{m_{a}}$

（9）

式中： $N_{1}$ 和 $N_{2}$ 分别为 $R_{1}$ 和 $R_{2}$ 中序列的个数。

通过求解式（7），得到每个区域的预测值是所有样本 $Y_{m_{a}}$ 值的均值，然后对每个区域重复上述步骤直至不能划分，最后将空间划分为 $R_{1}$ ， $R_{2}$ ， $\dots$ ， $R_{n}$ ， $c_{n}$ 为区域 $n$ 的输出值的平均值，生成Tree回归模型，表示为

$f (X_{m_{a}}) = \sum_{i = 1}^{n} c_{i} I (X_{m_{a}} \in R_{n})$

（10）

②构建GBDT回归模型

初始化一个基学习器 $f_{0} (X)$ ：

$f_{0} (X) = a r g \underset{c}{m i n} \sum_{j = 1}^{m_{a}} L (Y_{j}, c)$

（11）

式中： $X = [X_{1}, X_{2}, \dots, X_{m_{a}}]; L (Y_{j}, c)$ 为损失函数； $c$ 为使损失函数最小化的函数。

建立一系列CART回归树，利用梯度提升技术拟合残差，在第 $z (z = 1,2, \dots, Z)$ 次迭代中，对于每一个样本 $(X_{j}, Y_{j})$ ，GBDT规定将损失值的负梯度作为残差估计值，本文选用平方损失函数，该函数的一阶导数连续且易于优化，被广泛应用于各种学习任务中（王建民等，2023）。平方损失函数L可表示为

$L [Y_{j}, F (X)] = \frac{1}{2} [Y_{j} - F {(X)]}^{2}$

（12）

故残差估计值 $R_{j z}$ 为

$R_{j z} = - \frac{\partial L [Y_{j}, f (X)]}{\partial f (\begin{matrix} X \end{matrix})} = Y_{j} - f (\begin{matrix} X \end{matrix})$

（13）

确定残差估计值后，利用CART回归树进行拟合，得到第z棵树的叶节点区域为 $Q_{j z} (j = 1,2, \dots, J)$ ， $J$ 为回归树叶节点个数。对于每个叶节点区域计算出最佳拟合值 $β_{j z}$ ：

$\begin{matrix} β_{j z} = a r g \underset{β}{m i n} \sum_{x_{j} \in Q_{j z}} [Y_{j} - f_{z - 1} {(X) - β]}^{2} \end{matrix}$

（14）

更新学习器 $f_{z} (X)$ ：

$f_{z} (X) = f_{z - 1} (X) + \sum_{j = 1}^{J} β_{j z} \cdot η$

（15）

式中： $η$ 为学习率。

迭代结束后，形成GBDT强学习器 $F (X)$ ：

$F (X) = f_{0} (X) + \sum_{z = 1}^{Z} \sum_{j = 1}^{J} β_{j z} ∙ η$

（16）

③构建BP神经网络

BP神经网络中每个神经元的结构模型如图2所示。

图2

新窗口打开| 下载原图ZIP| 生成PPT

图2 神经元结构模型

Fig.2 Neuron structure model

其数学模型可表示为

$y = f (\sum_{i = 1}^{n} x_{i} ω_{i} + c)$

（17）

式中： $x_{i}$ 为神经元第 $i$ 个输入； $ω_{i}$ 为对应权值； $c$ 为阈值； $f$ （·）表示激活函数； $y$ 为神经元的输出。

（2）伪标签样本获取模块

无标签矿石粒度样本 ${U_{u} = [x_{1}, x_{2}, \dots, x_{m_{u}}]}^{T}$ 中，第 $m_{u}$ 个样本 $x_{m_{u}}$ 可表示为

$x_{m_{u}} = [\begin{matrix} x_{m_{u}, 1}, x_{m_{u}, 2}, \dots, x_{m_{u}, L}] \end{matrix}$

（18）

基于初始回归决策树、GBDT和BP神经网络模型获得无标签样本 $x_{m_{u}}$ 的伪标签，可表示为

${\hat{Y}}_{x_{m_{u}}} = f (x_{m_{u}})$

（19）

然后，由伪标签和 $D_{a}$ 组合得到临时训练集 ${D^{'}}_{a}$ ：

$D_{_{a}}^{^{'}} = [D_{a}, (x_{m_{u}}, {\hat{Y}}_{x_{m_{u}}})]$

（20）

获取伪标签样本后，需要判断该伪标签样本加入训练集 $D_{a}$ 后能否提升回归预测模型的性能。本文通过计算（ $x_{m_{u}}, {\hat{Y}}_{x_{m_{u}}}$ ）加入 $D_{a}$ 前后回归模型的均方误差（Mean Squared Error，MSE）方式进行评估。

伪标签样本（ $x_{m_{u}}, {\hat{Y}}_{x_{m_{u}}}$ ）加入训练集 $D_{a}$ 前回归模型的均方误差为

$\begin{matrix} M S E = \frac{1}{m_{a}} \sum_{i = 1}^{m_{a}} (Y_{i} - {\hat{Y}}_{i})^{2} \end{matrix}$

（21）

（ $x_{m_{u}}, {\hat{Y}}_{x_{m_{u}}}$ ）加入训练集后，回归模型的均方误差记为 $M S E^{'}$ ，令 $Δ_{u} = M S E^{'} - M S E$ ，得到（ $x_{m_{u}}, {\hat{Y}}_{x_{m_{u}}}$ ）加入训练集前后回归模型的均方误差的差值 $Δ_{u}$ ，其计算公式为

$Δ_{u} = \{{[y_{i} - f^{'} (x_{i})]}^{2} - [y_{i} - f {(x_{i})}^{2}]\}$

（22）

式中： $f (x_{i})$ 为初始回归模型； $f^{'} (x_{i})$ 为加入伪标签（ $x_{m_{u}}, {\hat{Y}}_{x_{m_{u}}}$ ）后的回归模型。

显然， $Δ_{u}$ 值越大，表示伪标签样本（ $x_{m_{u}}, {\hat{Y}}_{x_{m_{u}}}$ ）对提高回归模型性能的积极影响越大，将上述迭代过程的阈值记为置信度 $θ$ ，若 $Δ_{u} > θ$ ，则为置信度高的伪标签样本，将该伪标签样本（ $x_{m_{u}}, {\hat{Y}}_{x_{m_{u}}}$ ）加入到训练集 $D_{a}$ 中，若 $Δ_{u}$ < $θ$ 则返回无标签样本 $U_{u}$ 。

重复上述针对单个无标签样本的评估过程，将通过上述过程加入训练集 $D_{a}$ 的伪标签样本集记为 $(X_{s e l}, {\hat{y}}_{s e l})$ 。

（3）预测模块

基于混合样本集 $M_{n e w - t r a i n} = \{D_{a}, (X_{s e l}, {\hat{y}}_{s e l})\} = (X_{n e w}, Y_{n e w})$ 更新BP神经网络模型，获得融合全监督学习的半监督矿石粒度预测模型的最终预测值 $Y_{p r e d}$ 。

2 试验及结果分析

为验证半监督学习算法的有效性，在+10 mm、+5~10 mm和-5 mm共3种不同矿石粒级的实测数据集进行试验，在288个无标签样本中得到87个高质量伪标签样本，如表4所示（部分数据）。使用测试集对比分析几种常用的预测模型以及半监督预测模型的测试结果，模型测试效果比较和评价指标如图3和表5所示。

表4 高置信度伪标签样本数据（部分数据）

Table 4 High-confidence pseudo-label sample data（partial data）

矿石粒级 /mm	图像识别矿石粒度分布/%	加权算术平均粒度/mm	标准差	偏差系数	模型预测矿石粒度分布/%
+5~10	0.33	2.566	1.161	0.170	0.318
-5	0.357	0.822	0.396	0.060	0.377
+10	0.366	3.468	1.504	0.221	0.285
-5	0.296	0.867	0.383	0.055	0.393
+10	0.311	3.167	1.606	0.254	0.297
-5	0.389	0.792	0.401	0.063	0.279
+10	0.305	3.156	1.600	0.254	0.302
+5~10	0.305	2.367	1.200	0.190	0.416
+5~10	0.321	2.515	1.176	0.175	0.350
-5	0.332	0.838	0.392	0.059	0.318
+10	0.366	3.468	1.530	0.221	0.386
+5~10	0.340	2.601	1.148	0.166	0.280
-5	0.360	0.803	0.388	0.060	0.324
+10	0.310	3.363	1.507	0.224	0.402
+5~10	0.380	2.522	1.130	0.168	0.282
-5	0.310	0.841	0.377	0.056	0.305
+10	0.310	3.313	1.535	0.232	0.415
-5	0.250	0.903	0.367	0.058	0.325
+5~10	0.380	2.606	1.114	0.160	0.396
+5~10	0.390	2.569	1.114	0.163	0.325
+10	0.300	3.150	1.596	0.253	0.388
-5	0.390	0.788	0.399	0.063	0.282
…

新窗口打开| 下载CSV

图3

新窗口打开| 下载原图ZIP| 生成PPT

图3 8种预测模型的测试结果对比

Fig.3 Comparison of test results of eight prediction models

表5 8种预测模型的评价指标对比

Table 5 Comparison of evaluation indicators of eight prediction models

模型	评价指标
模型	RMSE	MAE	$R^{2}$
BP神经网络	0.031	0.027	0.862
半监督学习模型	0.023	0.020	0.921
GBDT	0.030	0.024	0.871
RF	0.041	0.033	0.756
SVM	0.046	0.034	0.692
决策树	0.029	0.025	0.882
XGBOOST	0.030	0.025	0.872
贝叶斯	0.029	0.022	0.879

新窗口打开| 下载CSV

由图3和表5可知，SVM模型、XGBoost模型和随机森林模型在矿石粒度的预测中呈现出较大的误差，而BP神经网络、GBDT模型、决策树模型和贝叶斯模型对矿石粒度的预测误差较小，本文提出的融合全监督学习的半监督学习模型误差最小，RMSE和MAE分别为0.023和0.02。因此，相较其他常用的机器学习方法，本文提出的融合全监督学习的半监督矿石粒度预测方法具备较高的准确性。

为了进一步分析算法性能，在半监督学习算法结构中选用不同模型的组合方式作为预测模块中的预测模型，并使用RMSE、MAE和 $R^{2}$ 作为评价指标，计算结果如表6所示。

表6 不同组合预测模型测试性能对比

Table 6 Comparison of test performance of different combinations of prediction models

模型	评价指标
模型	RMSE	MAE	$R^{2}$
半监督+决策树	0.031	0.027	0.862
半监督+BP	0.023	0.020	0.921
半监督+GBDT	0.030	0.024	0.871
半监督+RF	0.041	0.033	0.756
半监督+XBGoost	0.046	0.034	0.692
半监督+贝叶斯	0.029	0.025	0.882
半监督+岭回归	0.030	0.025	0.872

新窗口打开| 下载CSV

由表6可知，相比其他组合方式，本文选用的半监督+BP神经网络方法的RMSE、MAE最低，较半监督+决策树分别降低了25.81%和25.93%，较半监督+RF分别降低了43.90%和39.39%；本文方法决定系数 $R^{2}$ 较半监督+XBGoost提高了22.9%，较半监督+RF提高了16.5%，较半监督+岭回归提高了4.9%。研究结果表明，本文方法测试性能显著提高。

3 结论

（1）针对矿石粒度检测中传统全监督建模方法存在有标签样本稀缺，同时大量无标签样本未被有效利用的问题，利用原始矿石粒度有标签样本训练决策树、GBDT和BP神经网络3种预测模型；对无标签矿石粒度样本进行置信度判断，选择出高置信度的无标签矿石粒度样本添加到原始矿石粒度样本中，同时在无标签矿石粒度样本中删除相应的样本，利用更新后的原始矿石粒度样本训练BP神经网络，以提高预测模型的预测精度。

（2）相比决策树、岭回归和贝叶斯等传统全监督建模方法，融合全监督学习的半监督矿石粒度预测方法模型决定系数分别提高了5.0%、5.4%和5.2%，RMSE分别下降了23.33%、23.33%和20.69%，MAE分别下降了23.08%、13.04%和9.09%，验证了融合全监督学习的半监督矿石粒度预测模型的可行性和可靠性。

（3）针对有标签矿石粒度样本数据获取耗时耗力问题，提出了融合全监督学习的半监督矿石粒度预测模型，相比传统全监督预测模型，该模型更适用于矿石粒度预测，准确率显著提升。

http://www.goldsci.ac.cn/article/2024/1005-2518/1005-2518-2024-32-3-539.shtml

参考文献

原文顺序

文献年度倒序

文中引用次数倒序

被引期刊影响因子

[]

Chun

， Liu

X M

， Zhu

X G

，et al，2021.

Numerical study on crushing law of iron ore under different impact velocity using CDEM

［J］.IOP Conference Series：Earth and Environmental Science，861（4）：042069.DOI：10.1088/1755-1315/861/4/042069 .

[本文引用: 1]

S D

， Miao

D Q

，PedryczW，2022.

Multi granularity based label propagation with active learning for semi-supervised classification

［J］.Expert Systems with Applications，192：116276..

URL [本文引用: 2]

Yunqing

， Qiu

Qingying

， Yu

Xiu

，et al，2020.

Semi-supervised patent text classification method based on improved Tri-training algorithm

［J］.Journal of Zhejiang University （Engineering Science），54（2）：331-339.

Z J

， Yang

Z Y

， Hu

X F

，et al，2021.

SimPLE：Similar pseudo label exploitation for semi-supervised classification

［C］//2021 IEEE/CVF Conference on Computer Vision and Pattern Recognition （CVPR），Nashville，TN，USA，15094-15103.DOI：10.1109/CVPR46437.2021.01485 .

Huang

Faming

， Pan

Lihan

， Yao

Chi

，et al，2021.

Landslide susceptibility prediction modelling based on semi-supervised machine learning

［J］.Journal of Zhejiang University（Engineering Science），55（9）：1705-1713.

Kang

， Kim

， Cho

，2016.

Semi-supervised support vector regression based on self-training with label uncertainty：An application to virtual metrology in semiconductor manufacturing

［J］.Expert Systems with Applications，51：85-106.DOI：10.1016/j.eswa.2015.12.027 .

[本文引用: 1]

Lan

Fengchong

， Pan

Wei

， Chen

Jiqing

，2023.

Prediction of remaining useful life of real-world vehicle lithium-ion power battery based on Aseq2seq-PF

［J］.Automotive Engineering，45（12）：2348-2356.

Hongxiang

， Wang

Xiaoli

， Yang

Chunhua

，et al，2021.

Ore image segmentation method based on GAN-UNet

［J］.Control Theory and Applications， 38（9）：1393-1398.

Liu

S S

， Li

S J

，2022.

A semi-supervised soft sensor method based on vine copula regression and tri-training algorithm for complex chemical processes

［J］.Journal of Process Control，120：115-128.

[本文引用: 1]

Jiawang

，2023.

Study on Complex Particle Swarm Space Image Reconstruction and Screening Performance Evaluation in Screening Process

［D］.Beijing：China University of Mining and Technology（Beijing）.

Mao

Gengxuan

， Tu

Yan

， Cui

Wenbo

，et al，2022.

Hyperspectral inve-rsion of soil heavy metal mass concentration based on semi-supervised regression

［J］.Journal of Applied Sciences—Electronics and Information Engineering，40（6）：941-952.

Shi

Xudong

， Xiong

Weili

，2020.

Semi-supervised gaussian process regression modeling based on improved self-training algorithm

［J］.Control Engineering of China，27（3）：451-455.

Song

Jian

， Wang

Wenlong

， Li

Dong

，et al，2022.

Injection molded part size prediction method based on stacking integrated learning

［J］.Journal of South China University of Technology （Natural Science Edition），50（6）：19-26.

Sun

Xingwei

， Yang

Tongtong

， Yang

Heran

，et al，2023.

Research on thermal error of CNC machine tool feed system based on CNN-GRU combined neural network

［J］.Chinese Journal of Scientific Instrumen，44（10）：219-226.

Wang

Jianming

， Ye

Yurong

， Rao

Chaomin

，et al，2023.

Prediction on composite interface bonding strength between ceramsite lightweight aggregate concrete and normal concrete based on GBDT algorithm

［J］.Journal of Building Materials，26（2）：150-155，171.

Wang

Wei

， Li

Qing

， Zhang

Dezheng

， al

，2023.

A survey of ore image processing based on deep learning

［J］.Chinese Journal of Engineering，45（4）：621-631.

Wen

， Tang

Jian

， Xia

Heng

，et al，2022.

Soft sensor of dioxin emission concentration based on Bagging semi-supervised deep forest regression

［J］.Chinese Journal of Scientific Instrument，43（6）：251-259.

Yongyang

， Li

Zixuan

， Xie

Zhong

，et al，2020.

Prediction of copper mineralization based on semi-supervised neural network

［J］.Earth Science，45（12）：4563-4573.

Zhang

G H

， Fan

Y B

， Yang

R S

，et al，2023.

Influence of ore size on the production of micro-sized ore particles by high-pressure gas rapid unloading

［J］.Powder Technology，427（5）：118716.DOI：10.1016/j.powtec.2023.118716 .

[本文引用: 1]

Zhuang

Huimin

，2022.

Research on Semi-Supervised Learning Based ARP Attack Detection Method in SDIIoT

［D］.Shanghai：Donghua University.

胡云青，邱清盈，余秀，等，2020.

基于改进三体训练法的半监督专利文本分类方法

［J］.浙江大学学报（工学版），54（2）：331-339.

[本文引用: 1]

黄发明，潘李含，姚池，等，2021.

基于半监督机器学习的滑坡易发性预测建模

［J］.浙江大学学报（工学版），55（9）：1705-1713.

[本文引用: 1]

兰凤崇，潘威，陈吉清，2023.

基于Aseq2seq-PF的实车锂离子动力电池剩余使用寿命预测

［J］.汽车工程，45（12）：2348-2356.

[本文引用: 1]

李鸿翔，王晓丽，阳春华，等，2021.

基于GAN-UNet的矿石图像分割方法

［J］.控制理论与应用，38（9）：1393-1398.

[本文引用: 1]

卢佳旺

，2023.

筛分过程复杂粒群空间图像重构与筛分效果评价研究

［D］.北京：中国矿业大学（北京）.

[本文引用: 1]

毛耿旋，涂彦，崔文博，等，2022.

基于半监督回归的高光谱土壤重金属质量浓度反演

［J］.应用科学学报，40（6）：941-952.

[本文引用: 1]

史旭东，熊伟丽，2020.

基于改进自训练算法的半监督GPR软测量建模

［J］.控制工程，27（3）：451-455.

[本文引用: 1]

宋建，王文龙，李东，等，2022.

基于Stacking集成学习的注塑件尺寸预测方法

［J］.华南理工大学学报（自然科学版），50（6）：19-26.

[本文引用: 1]

孙兴伟，杨铜铜，杨赫然，等，2023.

基于CNN-GRU组合神经网络的数控机床进给系统热误差研究

［J］.仪器仪表学报，44（10）：219-226.

[本文引用: 1]

王建民，叶钰蓉，饶超敏，等，2023.

基于GBDT算法的混凝土叠合面黏结强度预测分析

［J］.建筑材料学报，26（2）：150-155，171.

[本文引用: 1]

王伟，李擎，张德政，等，2023.

基于深度学习的矿石图像处理研究综述

［J］.工程科学学报，45（4）：621-631.

[本文引用: 1]

徐雯，汤健，夏恒，等，2022.

基于Bagging半监督深度森林回归的二噁英排放浓度软测量

［J］.仪器仪表学报，43（6）：251-259.

[本文引用: 1]

徐永洋，李孜轩，谢忠，等，2020.

基于半监督神经网络的铜矿预测方法

［J］.地球科学，45（12）：4563-4573.

[本文引用: 1]

庄慧敏

，2022.

软件定义工业物联网下基于半监督学习的ARP攻击检测方法研究

［D］.上海：东华大学.

[本文引用: 1]

Numerical study on crushing law of iron ore under different impact velocity using CDEM

2021

... 矿石经过破碎筛分、碎磨分级和分选加工后，形成碎散物料群体，其颗粒大小和形状多种多样，为描述这些特性，通常使用“粒度” “粒级”“粒度组成”和“平均粒度”等术语（Chun et al.，2021；卢佳旺，2023）.本文选用粒级、加权算术平均粒度、标准差和偏差系数4种指标作为矿石粒度输入特征，综合运用这4种指标可以比较全面地描述矿石的粒度特性.其中，加权算术平均粒度、标准差和偏差系数的计算公式为 ...

Multi granularity based label propagation with active learning for semi-supervised classification

2022

... 矿石粒度是选矿过程控制的关键参数之一，也是衡量破碎效果的重要参考依据，实时检测矿石粒度对矿石破碎工艺的优化具有重要意义（李鸿翔等，2021；王伟等，2023；Zhang et al.，2023）.矿石粒度完整样本标签通常需要通过人工筛分方法获取，该方法不仅浪费大量的人力资源，而且效率低下.在有限的有标签样本条件下，传统全监督建模方法的训练能力受到限制，建立高精度、高稳健性的预测模型具有一定难度（徐永洋等，2020；Hu et al.，2022）.因此，面向矿石粒度检测，传统全监督建模方法受到有标签样本稀缺的限制，大量基于图像识别矿石粒度的无标签样本未被有效利用，通过半监督学习有效利用无标签样本构建模型的策略优势凸显. ...

... 半监督学习的核心理念在于利用未标记样本信息，通过获得伪标签方式扩展有限的标记样本集合，从而提高模型泛化能力，核心在于如何有效评估伪标签的准确性（Hu et al.，2021；黄发明等，2021）.Kang et al.（2016）建立了基于自训练的半监督支持向量回归（SS-SVR）模型，利用概率局部重构（PLR）模型获得伪标签的方式扩充数据集.史旭东等（2020）提出了基于改进自训练算法的高斯过程回归（GPR）软测量建模方法，先利用相似度估计无标签样本缺失的主导变量值后再筛选估计样本，将泛化能力强的伪标签样本加入有标签样本集后建立软测量模型.毛耿旋等（2022）提出了一种基于半监督回归的高光谱土壤重金属质量浓度反演模型，试验结果表明，在较少标签样本情况下，通过引入大量的未标签样本进行半监督回归分析，能够有效提升模型反演精度.但上述方法采用传统单一学习器构建预测模型，存在一定的局限性，需进一步提升其泛化能力. ...

Semi-supervised patent text classification method based on improved Tri-training algorithm

2020

SimPLE：Similar pseudo label exploitation for semi-supervised classification

2021

Landslide susceptibility prediction modelling based on semi-supervised machine learning

2021

Semi-supervised support vector regression based on self-training with label uncertainty：An application to virtual metrology in semiconductor manufacturing

2016

Prediction of remaining useful life of real-world vehicle lithium-ion power battery based on Aseq2seq-PF

2023

Ore image segmentation method based on GAN-UNet

2021

A semi-supervised soft sensor method based on vine copula regression and tri-training algorithm for complex chemical processes

2022

... 不同学习器预测性能分析.应用融合全监督学习的半监督矿石粒度预测算法中，学习器的选择和组合方式至关重要，影响整个模型最终的预测性能，选择合适的学习器及其组合方式，可建立有效地融合全监督学习的半监督预测模型（Liu et al.，2022；庄慧敏，2022）. ...

Study on Complex Particle Swarm Space Image Reconstruction and Screening Performance Evaluation in Screening Process

2023

Hyperspectral inve-rsion of soil heavy metal mass concentration based on semi-supervised regression

2022

Semi-supervised gaussian process regression modeling based on improved self-training algorithm

2020

Injection molded part size prediction method based on stacking integrated learning

2022

Research on thermal error of CNC machine tool feed system based on CNN-GRU combined neural network

2023

Prediction on composite interface bonding strength between ceramsite lightweight aggregate concrete and normal concrete based on GBDT algorithm

2023

A survey of ore image processing based on deep learning

2023

Soft sensor of dioxin emission concentration based on Bagging semi-supervised deep forest regression

2022

Prediction of copper mineralization based on semi-supervised neural network

2020

Influence of ore size on the production of micro-sized ore particles by high-pressure gas rapid unloading

2023

Research on Semi-Supervised Learning Based ARP Attack Detection Method in SDIIoT

2022

基于改进三体训练法的半监督专利文本分类方法

2020

... 5种预测模型的决定系数如表3所示.根据决定系数的排序，选择Tree、GBDT和BP神经网络作为半监督学习算法中的学习器（胡云青等，2020）. ...

基于半监督机器学习的滑坡易发性预测建模

2021

基于Aseq2seq-PF的实车锂离子动力电池剩余使用寿命预测

2023

... 回归模型的预测性能可通过矿石粒度预测数据与人工筛分粒度数据的偏差来评估，采用均方根误差（Root Mean Squared Error，RMSE）和平均绝对误差（Mean Absolute Error，MAE）作为评价标准，范围为［0，+∞）.当矿石预测粒度分布与人工筛分粒度分布完全吻合时，所建立的回归模型为完美模型；误差越大，该值越大（兰凤崇等，2023）.均方根误差和平均绝对值误差计算公式为 ...

基于GAN-UNet的矿石图像分割方法

2021

筛分过程复杂粒群空间图像重构与筛分效果评价研究

2023

基于半监督回归的高光谱土壤重金属质量浓度反演

2022

基于改进自训练算法的半监督GPR软测量建模

2020

基于Stacking集成学习的注塑件尺寸预测方法

2022

... 为获取适用的学习器，需要观测各个模型对实际矿石粒度数据集单独预测的效果.这一过程需要每个模型的超参数达到最优，参考文献选用5折交叉验证，结合GridSearchCV（网格调参方法）以确定最佳超参数组合，并添加L2正则化项防止模型过拟合（宋建等，2022）. ...

基于CNN-GRU组合神经网络的数控机床进给系统热误差研究

2023

... 为进一步选择合适的学习器，利用决定系数（

$R^{2}$

）对Tree、GBDT、Bayes、岭回归和BP神经网络的预测性能进行比较分析，决定系数

$R^{2}$

越高，越接近于1，模型的拟合效果就越好，越接近于0，拟合效果越差（孙兴伟等，2023）.决定系数计算公式为 ...

基于GBDT算法的混凝土叠合面黏结强度预测分析

2023

... 建立一系列CART回归树，利用梯度提升技术拟合残差，在第

$z (z = 1,2, \dots, Z)$

次迭代中，对于每一个样本

$(X_{j}, Y_{j})$

，GBDT规定将损失值的负梯度作为残差估计值，本文选用平方损失函数，该函数的一阶导数连续且易于优化，被广泛应用于各种学习任务中（王建民等，2023）.平方损失函数L可表示为 ...

基于深度学习的矿石图像处理研究综述

2023

基于Bagging半监督深度森林回归的二噁英排放浓度软测量

2022

... 融合全监督学习的半监督矿石粒度预测算法，包含初始回归模型构建模块、伪标签样本获取模块和预测模块（徐雯等，2022）.半监督算法流程如图1所示. ...

基于半监督神经网络的铜矿预测方法

2020

软件定义工业物联网下基于半监督学习的ARP攻击检测方法研究

2022

〈

〉