Downhole WOB Prediction Method Based on CNN-Bi-LSTM Network Optimized by TDCSO
-
摘要:
为了准确预测井底钻压,提高钻井效率、降低钻井成本,建立了融合双向长短期记忆网络(Bi-LSTM)和卷积神经网络(CNN)的混合模型。采用三角函数驱动的粒子群优化(TDCSO)方法对模型进行超参数优化,以提高预测钻压的精度;采用美国犹他州FORGE 58−32井和FORGE 58−62井的2个公开数据集对建立的模型进行验证,并采用平均绝对误差、均方根误差、决定系数和均方误差等指标进行模型性能评估。研究结果表明,所提出TDCSO-CNN-Bi-LSTM模型平均绝对误差、均方误差和均方根误差等3个关键性能指标较好,其中决定系数大于0.980,明显优于现有的LSTM、GRU、CNN-LSTM、CNN-Bi-LSTM等方法。研究表明,所提出的TDCSO-CNN-Bi-LSTM模型在井底钻压预测方面具有出色的准确性,能够实现实时监测,并与自动钻进系统集成,实现对钻压的精准控制,不仅提高了钻井效率,还降低了钻井成本,对未来的钻井作业具有重要的实际应用价值。
Abstract:In order to accurately predict downhole weight on bit (WOB), improve drilling efficiency, and reduce drilling cost, a hybrid model combining bidirectional long short-term memory network (Bi-LSTM) and convolutional neural network (CNN) was established. The model used the trigonometric function-driven particle swarm optimization (TDCSO) method for hyperparameter optimization, so as to improve the accuracy of WOB prediction. The public data sets of Well FORGE 58−32 and Well FORGE 58−62 in Utah were used to verify the established model, and the model performance was evaluated by the mean absolute error (MAE), root mean square error (RMSE), coefficient of determination, and mean square error (MSE). The results show that the proposed TDCSO-CNN-Bi-LSTM model achieves excellent results in three key indicators of MAE, MSE, and RMSE, and the coefficient of determination was higher than 0.98, which is significantly better than the existing methods such as LSTM, GRU, CNN-LSTM and CNN-Bi-LSTM, etc. The study shows that the proposed TDCSO-CNN-Bi-LSTM model has excellent accuracy in downhole WOB prediction and enables real-time monitoring. It can be integrated with an automated drilling system to achieve precise control of WOB. This not only improves drilling efficiency but also reduces drilling cost, which has important practical application value for future drilling operations.
-
Keywords:
- downhole WOB /
- LSTM /
- neural network /
- optimization algorithm /
- model optimization
-
随着油气勘探深度不断增大,水平段长度不断增长,钻头钻压不足的问题变得越来越明显[1],由于缺乏有效的钻压测量、预测和控制技术,导致钻井事故不断增多。此外,水平井钻探取心时,钻杆的重力垂直于钻进方向,而钻压只能通过钻机顶部的驱动器施加,随着钻井深度增加,给进压力的损耗变得更加严重,不仅会导致钻压不足[2],而且由于给进压力与井底钻压的关系复杂,单纯增加给进压力可能无效,甚至可能引起钻杆弯曲或断裂。
近年来,人们对钻压、钻井摩阻和钻井效率进行了大量的研究。Wang Chao等人[3]利用温度补偿和消除井压差的影响,提高了钻压测量精度,但应变计的粘贴位置和其他因素限制了钻压测量精度的进一步提高。机器学习算法的发展为高效、高质量的钻井提供了新的思路。吴泽兵等人[4]将遗传算法和LSTM模型相结合,显著提升了钻压预测的精度、鲁棒性和预测趋势;李臻等人[5]提出了一种序列到序列的模型,用于井眼轨迹实时预测;王海涛等人[6]利用循环神经网络和条件随机场对钻机动态进行实时智能识别;张矿生等人[7]利用集成学习建立了漏失风险预警模型,能够准确解释预警发生的原因,方便钻井现场及时采取井漏防范措施。在扭矩的预测和优化方面,M. Oyedere等人[8]比较了5种机器学习算法的性能,证明梯度提升树的性能最优,但上述算法过于单一,研究表明,组合算法在预测精度上通常优于单一算法[9-10]。黄小龙等人[11]建立了基于机器学习方法和最优化算法的钻速实时优化模型,将模型嵌入可视化系统进行现场作业指导,从而提高钻井速度;樊冬艳等人[12]利用时间序列的相似性与机器学习方法对页岩气井产量进行预测,结果表明,其能有效降低预测误差;肖京男等人[13]将粒子群优化算法与支持向量机中的参数组合,用于水平井的产能预测,结果显示最大相对误差小于15%;邵伟潘等人[14]将CNN、LSTM和自注意力机制相结合,提出了CNN-LSTM-SA模型,油井产量预测取得了较好的效果。
尽管机器学习在钻井领域取得了显著进展,但对水平井钻压的研究相对较少,现有模型多存在结构简单、泛化能力弱、难以捕捉非线性特征及长期预测精度低等问题。为此,笔者提出了一种新的TDCSO-CNN-Bi-LSTM模型,该模型结合了机器学习的优势和线性模型的可靠性,能够揭示钻井数据的非线性特征;通过应用TDCSO算法,进一步提高了预测的准确度;使用文献数据集对所提出的模型进行了全面评估,验证了其预测结果的准确性和钻井作业中的实用性。
1. 井底钻压预测模型的建立
1.1 LSTM模型
长短期记忆(LSTM)神经网络[15]是一种特殊类型的递归神经网络(RNN),通常应用于深度学习,用于解决序列相关任务。虽然RNN类似于前馈神经网络,但由于其结构简单和记忆容量有限,在捕捉长距离依赖性方面表现不佳。相反,LSTM结合了独特的记忆细胞,有助于长期记忆保持,避免了由大量模型参数引起的梯度消失或爆炸等问题,缓解了传统RNN模型的局限性,能够实现短期和长期信息的融合。LSTM网络结构如图1所示(图1中,
ht 代表t 时刻的隐藏状态,表示的是短期记忆;Xt 代表t 时刻的输入;σ 代表sigmoid激活函数,tanh为激活函数)。1.2 CNN-Bi-LSTM混合模型
卷积神经网络(CNN)[16]主要用于计算机视觉,也可以用于预测一维时间序列数据[17];Bi-LSTM广泛应用于页岩气井产量预测、气井液体负荷预测和非均质页岩压裂井的压力不稳定性分析领域[18–20]。提出的模型中,CNN的顺序先于Bi-LSTM,先利用CNN卓越的特征提取能力来提取钻压的空间特征,再将这些特征转换为Bi-LSTM所需的维度,用于进一步提取数据的时序信息,该组合模型被称为CNN-Bi-LSTM。CNN-Bi-LSTM神经网络主要由2个部分组成:CNN用于提取和集成输入数据的特征;Bi-LSTM神经网络负责记忆和过滤用于拟合和预测的综合特征;最后,由全连接层输出钻压预测结果。CNN-Bi-LSTM模型的结构如图2所示。
CNN-Bi-LSTM模型中,需要先对钻井数据进行标准化和时序化处理,确保数据适合模型的输入。为了有效提取数据中的关键特征,首先将数据送入3×3的卷积层,通过ReLU激活函数和BatchNorm技术进行特征的激活与标准化,以增强模型的表达能力和泛化能力。然后,数据通过2×2的最大池化层,以增强模型对钻压预测的鲁棒性,也确保在特征提取过程中的不变性;最大池化层的输出随后被输入深层的卷积池化网络,进行更复杂的特征整合。最终,这些经过处理的特征被输入双向多层Bi-LSTM网络,捕捉数据中的长期依赖关系,并通过网络的存储单元进行信息的有选择性保留与遗忘,从而优化预测的准确性[21];经过Bi-LSTM网络的特征提取后,数据最终流入线性层,完成钻压的预测输出。
2. 基于TDCSO算法的混合模型
2.1 TDCSO优化算法
对于提出的混合神经网络模型CNN-Bi-LSTM,需要利用粒子群优化算法(PSO)[22]去寻找模型的最优超参数,有助于提升模型的性能[23–24]。其中PSO算法的迭代公式为:
{υt+1i,j=ωυti,j+c1r1(p(best)ti,j−xti,j)+c2r2(g(best)tj−xti,j)xt+1i,j=xti,j+vt+1i,j (1) 式中:
ω 为惯性权重;c1 和c2 为学习因子;r1 和r2 为2个分布在[0,1]之间相互独立的随机数;υti,j 为粒子i 在第t 次迭代中第j 维的速度向量;xti,j 为粒子i 在第t 次迭代中第j 维的位置向量;p(best)ti,j 为到第t 次迭代为止第i 个粒子经过的最优的位置;g(best)tj 为到第t 次迭代为止所有粒子经过的最优的位置。ω 在全局搜索与局部搜索之间起到平衡作用,通过调整ω ,可以避免固定权重可能带来的局限性,从而获得更优的解[25]。但PSO算法有时会存在搜索过程中过早地收敛到局部最优解,而难以跳出并发现全局最优解;此外,PSO对不同特性优化问题的适应性可能存在差异,特别是在面对复杂、多峰值的函数时,其性能可能会受到影响。因此,为了克服这些局限性,研究提出了一种以三角函数驱动的协同粒子群优化算法(trigonometric-driven collaborative swarm optimization, TDCSO)。该算法通过引入非线性递减策略和平衡探索与开发,显著提升了算法的参数寻优性能。原始的PSO算法中,
c1 和c2 分别代表认知因子和社会因子,这2个参数对于快速准确地找到最优解至关重要。当认知因子c1 的值大于社会因子c2 时,会导致粒子在搜索空间中过度漫游;相反,当c2 大于c1 时,将导致粒子过早的陷入局部最优。J. Kennedy等人[22]建议将c1 和c2 设置为2,使搜索覆盖以p(best) 和g(best) 为中心。大量研究表明,随着时间推移,动态调整加速系数有助于算法收敛[26–27]。通常,优化的早期阶段,期望个体在整个搜索空间中漫游,以增强全局搜索能力;后期,需要加强对全局最优的收敛能力。因此,时变加速度系数设置平衡了早期和后期的全局搜索和收敛:c1 逐渐减小,c2 逐渐增大,从而自动调整参数。此外,惯性权重ω 体现的是粒子继承先前速度的能力,较大的惯性权重值有利于全局搜索,而较小的惯性权重值则更有利于局部搜索。为了平衡两者,将惯性权重ω 设置为非线性递减。c1,c2 及ω 的时变数学公式可以表示为:c1=0.5(2+cos(πiterIter)) (2) c2=1+sin(π2iterIter) (3) ω=(ωstart−ωend)(iterIter)2 (4) 式中:
iter 为当前迭代次数;Iter 为最大迭代次数;ωstart 为初始惯性权重;ωend 为最终惯性权重。惯性权重控制了粒子保持当前速度的能力,试验中,初始惯性权重
ωstart 设为0.90,最终惯性权重ωend 设为0.30。随着迭代次数的增加,会根据公式动态调整
c1 和c2 及ω 。根据前面的分析,设置较大的c1 值,会使粒子过多的在局部搜索;相反,较大的c2 值会使粒子过早收敛到局部最优值。因此,在算法搜索初期采用较大的c1 值和较小的c2 值,使粒子尽量发散到搜索空间,即强调“个体独立意识”,而较少受到种群内其他粒子即“社会意识部分”的影响,以增加群内粒子的多样性。随着迭代次数增加,c1 将会非线性递减,c2 非线性递增,从而加强了粒子向全局最优点的收敛能力,惯性权重ω 会随着迭代的进行以非线性方式递减,这有助于粒子在搜索后期更加聚焦于潜在的最优解区域。此外,PSO算法的勘探和开发能力是矛盾的,为了实现更优的优化效果,关键在于如何有效地调和这两者之间的平衡,为此,引入了正弦余弦优化算法(sine cosine algorithm, SCA)中的数学特性[28],以实现对粒子群算法的改进。这种改进技术通过模拟正弦和余弦函数的周期性变化,能够在保持快速收敛的同时,增强算法对解决方案质量的提升。改进后的粒子更新方程为:
{xt+1i,j=xti,j+vt+1i,jυt+1i,j=ωυti,j+c1r1(p(best)ti,j−xti,j)cosc1+c2r2(g(best)tj−xti,j)sinc2 (5) 2.2 CNN-Bi-LSTM模型参数寻优
针对提出的混合神经网络,学习率、滑动窗口大小、隐藏层层数和神经元数量等4个参数对于预测模型至关重要。将这4个超参数作为粒子的寻优特征,利用TDCSO算法对CNN-Bi-LSTM模型进行适应度计算。其中优化CNN-Bi-LSTM模型的具体步骤为:
1)对公开数据集进行预处理,并将数据划分为训练集、验证集、测试集。
2)初始化粒子群的参数。包括粒子的规模、迭代次数、权重系数的起始值、学习因子、搜索空间范围。
3)构建钻压预测模型及确定粒子的适应度函数,粒子的适应度函数定义为:
Fi=12(1PP∑p=1(yP−ˆyP)2+1QQ∑q=1(yq−ˆyq)2) (6) 式中:
P ,Q 分别为训练样本和验证样本的个数,yP,ˆyp 分别为训练样本的真实值和预测值;yq,ˆyq 分别为验证样本的真实值和预测值。4)计算粒子的适应度值,评估粒子适应度值的大小,确定粒子的个体最优值
p(best) 与全局最优值g(best) ,并作为其历史最优位置记录下来。5)更新粒子的速度与位置,包括普通粒子和最优粒子速度和位置的更新。
6)判断粒子是否满足迭代终止的条件,若达到最大迭代次数,则将最优参数代入CNN-Bi-LSTM模型进行训练与预测,否则返回步骤4)继续执行,直至满足终止条件。
整个网络的寻优流程如图3所示。
2.3 TDCSO-CNN-Bi-LSTM模型的构建
根据上述优化流程,使用深度学习框架pytorch来构建模型结构,钻压预测模型的组件和参数设置如表1所示。优化算法相关的试验参数为:原始PSO算法中,惯性权重
ω 为0.80,学习因子c1 和c2 为2;TDCSO算法中,惯性权重的最大值ωstart 为0.90,最小值ωend 为0.30。2种算法的最大进化迭代次数设置为100,种群规模大小为30,组合模型隐藏层神经元的搜索区间为[50,256],学习率搜索区间为[0.001,0.01]。优化过程中,2种优化算法改进前后的适应度及TDCSO算法的惯性权重如图4所示。模型组件 含义 输出维度 卷积核/填充大小 激活函数 Conv1d 一维卷积层 6 559×103×299 3/1 ReLU MaxPool 最大池化层 3/0 Conv1d 一维卷积层 6 559×103×149 3/1 ReLU MaxPool 最大池化层 3/0 Conv1d 一维卷积层 6 559×103×74 3/1 ReLU MaxPool 最大池化层 3/0 Bi-LSTM 双向循环神经网络 74×6 559×206 ReLU Linear 线性层 6 559×1 从图4可以看出,PSO首先多次陷入局部最优,然后逐渐跳到全局最优,而TDCSO陷入局部最优的次数明显少于PSO,TDCSO求解的最终适应度也较小。研究结果表明,提出的TDCSO算法具有较强的全局优化能力和收敛速度。
3. 数据处理与结果分析
3.1 数据预处理
使用犹他州FORGE 58−32井和FORGE58−62井的2个公开可用数据集[29],称为数据集1和数据集2。它们以CSV文件格式存储,包含超过100万个原始钻井数据,共有29个钻井相关特征,包括钻井深度、钻井压力、转速、钻井速度、大钩载荷、入口流量和扭矩等重要特征。
建立模型之前,需要对现场收集的原始数据进行初步预处理:1)选择相关性特征;2)去除异常值和缺失数据;3)根据井深构建时序数据;4)使用机器学习算法填充缺失的时序数据;5)数据标准化。
2个公开的数据集中虽然存在大量特征,但并非所有特征都对钻压有显著影响,部分特征甚至与钻压无关。因此,需要依据工程经验和Pearson相关系数法进行了特征选择,最终确定了13个关键特征。选择特征后对数据进行清洗,删除超出工程经验范围的数据、缺失数据和重复数据。鉴于原始数据集的规模,直接删除这些数据不失为一种简单的好方法。清洗后,为将数据转换为基于井深的时序数据,需要将井深调整为等距间隔。通过设定最大井深、最小井深及采样间隔,将井深数据处理为每0.30 m一个间隔的有序序列,然而,对井深特征进行时序处理会导致其他特征丢失。为了解决这个问题,使用机器学习中的随机森林回归算法来补偿丢失的值,具体方法是以缺失值为预测值,使用现有特征作为输入特征,并使用该算法进行迭代补偿。
然后,对数据进行基于井深的标准化处理。由于钻探过程中不同阶段的深度范围和数据特征存在差异,若不考虑这些差异直接进行标准化,可能会造成不同阶段数据特征的混淆,影响标准化处理结果的准确性。为了避免这一问题,采用了分段处理井深的方法,每50 m作为一段,对每个分段内的数据分别进行标准化。这种方法确保了不同钻井阶段的数据特征都能得到合理的标准化处理,提高了标准化处理结果的准确性。标准化处理的公式为:
z=x−ˉxσ (7) 式中:
x 为原始数据;ˉx 为平均值;σ 为标准偏差;z 为标准化值。3.2 评价指标
采用均方根误差(RMSE)、平均绝对误差(MAE)、均方误差(MSE)和决定系数(
R2 )等指标评估所提出的模型的性能。RMSE是回归模型的一个典型指标,用于指示模型预测中会出现多少误差,对于较大的误差,权重较高大,因此RMSE越小越好。MAE用于测量预测值和真实值之间的平均绝对误差,MAE越小,表示模型越好;MSE代表了预测值和真实值之间的差异。R2 是基于基准模型残差来测量现有模型残差的相对度量,R2 越大,模型的性能越好。3.3 单预测模型和混合模型预测结果对比
为了验证混合模型的有效性,选择Bi-LSTM、Bi-RNN和Bi-GRU模型进行对比,并在这3个模型上添加了三层卷积神经网络及最大池化层,分别对这2组模型进行拟合试验。2组单模型和混合模型的钻压拟合结果如图5所示,模型各项性能的评价结果如表2所示。
模型 均方误差 平均绝对误差 决定系数 均方根误差 耗时/s Bi-RNN 0.000 499 0.010 320 0.999 551 0.017 317 1.36 Bi-GRU 0.000 347 0.007 540 0.999 779 0.012 139 1.33 Bi-LSTM 0.000 414 0.012 473 0.999 514 0.018 012 1.38 CNN-Bi-RNN 0.000 381 0.011 461 0.989 398 0.019 535 1.66 CNN-Bi-GRU 0.006 694 0.060 429 0.989 452 0.081 818 1.51 CNN-Bi-LSTM 0.000 322 0.014 398 0.996 958 0.019 691 1.98 从表2可以看出,尽管单模型的评价指标取得了令人满意的结果,然而,通过图5(a)可以看出,单模型对数据集1进行钻压拟合的准确性较差。这可能是由于这3个单模型无法捕捉数据集中潜在的数据模式。引入CNN卷积神经网络后,模型性能显著提高,能够更好地拟合钻压。从表2还可以看出,CNN-Bi-LSTM模型的性能是第二组模型中最优的,引入CNN网络后,虽然模型的计算时间有所增长,但这是由于模型的复杂性增强导致计算时间增长,这种计算效率是可以接受的。
3.4 基于TDCSO优化算法的模型预测对比
在验证CNN-Bi-LSTM模型有效性的基础上,引入TDCSO优化算法,以找到模型的学习率、隐藏层大小、滑动窗口大小和网络层数的最优超参数,进一步提高模型的准确性。根据前一章优化算法有效性的验证结果,得到模型的最优组合参数:隐藏层神经元为103个,隐藏层为2层,滑动窗口大小为599,学习率为0.008 864。将上述组合参数代入模型中进行训练和拟合,拟合结果如图6所示,3个优化模型的性能评价指标如表3所示。
模型 均方误差 平均绝对误差 决定系数 均方根误差 耗时/s TDCSO-CNN-Bi-RNN 0.000 321 0.0124 6320.982 398 0.019 932 2.34 TDCSO-CNN-Bi-GRU 0.000 869 0.048 492 0.943 452 0.039 028 2.98 TDCSO-CNN-Bi-LSTM 0.000 292 0.011 398 0.989 953 0.021 698 2.39 从图6可以看出,与CNN-Bi-LSTM模型相比,采用TDCSO算法的模型在各项指标上更稳定,预测精度更高,与真实值的趋势更相符。此外,该模型预测的序列长度从500增至599,增加了20%。从表3可以看出:在相同参数条件下,3个模型的预测结果表现出相似的波动特性;与TDCSO-CNN-Bi-LSTM模型相比,基于CNN-Bi-RNN和CNN-Bi-GRU优化模型的稳定性和鲁棒性略差,表明所提出的混合模型及改进的优化算法能够准确捕获钻压的趋势和走向。
4. 结论与建议
1)针对复杂的井底钻压预测问题,提出了一种基于TDCSO优化CNN-Bi-LSTM的井底钻压预测方法。
2)通过在粒子群算法中加入非线性变化惯性权重和模拟正余弦函数的周期,可以使TDCSO算法拥有更强的全局寻优能力和收敛速度,避免了粒子陷入局部最优的风险。
3)通过与CNN和LSTM结合,提升了模型的性能,尤其在处理非线性数据时表现出较强的学习能力。此外,采用粒子群优化算法可以避免人工选择CNN-Bi-LSTM模型参数带来的不利影响。相比之下,TDCSO算法具有更强的自适应性,能够更有效地搜索到更优的模型参数,从而进一步提升预测效果。
4)提出的TDCSO-CNN-Bi-LSTM预测模型在预测井底钻压时具有较高的精度和稳定性,对其他预测领域也有很好的借鉴意义,但由于影响因素不同,实际应用中需进一步研究和分析其影响因素。
-
表 1 CNN-Bi-LSTM模型组件和参数设置
Table 1 Components and parameter configuration of CNN-Bi-LSTM model
模型组件 含义 输出维度 卷积核/填充大小 激活函数 Conv1d 一维卷积层 6 559×103×299 3/1 ReLU MaxPool 最大池化层 3/0 Conv1d 一维卷积层 6 559×103×149 3/1 ReLU MaxPool 最大池化层 3/0 Conv1d 一维卷积层 6 559×103×74 3/1 ReLU MaxPool 最大池化层 3/0 Bi-LSTM 双向循环神经网络 74×6 559×206 ReLU Linear 线性层 6 559×1 表 2 单模型与混合模型的性能评价结果
Table 2 Performance evaluation results of single models and hybrid models
模型 均方误差 平均绝对误差 决定系数 均方根误差 耗时/s Bi-RNN 0.000 499 0.010 320 0.999 551 0.017 317 1.36 Bi-GRU 0.000 347 0.007 540 0.999 779 0.012 139 1.33 Bi-LSTM 0.000 414 0.012 473 0.999 514 0.018 012 1.38 CNN-Bi-RNN 0.000 381 0.011 461 0.989 398 0.019 535 1.66 CNN-Bi-GRU 0.006 694 0.060 429 0.989 452 0.081 818 1.51 CNN-Bi-LSTM 0.000 322 0.014 398 0.996 958 0.019 691 1.98 表 3 基于TDCSO算法的模型性能评价结果
Table 3 Evaluation results of model performance based on TDCSO algorithm
模型 均方误差 平均绝对误差 决定系数 均方根误差 耗时/s TDCSO-CNN-Bi-RNN 0.000 321 0.0124 6320.982 398 0.019 932 2.34 TDCSO-CNN-Bi-GRU 0.000 869 0.048 492 0.943 452 0.039 028 2.98 TDCSO-CNN-Bi-LSTM 0.000 292 0.011 398 0.989 953 0.021 698 2.39 -
[1] FU Jianhong, REN Zhipeng, BAI Jing, et al. The friction-reducing principle and application of the drill string with a hydroos-cillator[J]. Journal of Petroleum Science & Engineering, 2018, 165: 453–461.
[2] XU Baolong, LIU Songyong, LI Hongsheng. Drill string’s axial force transfer law in slide directional drilling in underground coal mine[J]. Tunnelling and Underground Space Technology, 2022, 130: 104701. doi: 10.1016/j.tust.2022.104701
[3] WANG Chao, LIU Gonghui, LI Jun, et al. New methods of eliminating downhole WOB measurement error owing to temperature variation and well pressure differential[J]. Journal of Petroleum Science & Engineering, 2018, 171: 1420–1432.
[4] 吴泽兵,谷亚冰,姜雯,等. 基于遗传优化算法的井底钻压智能预测模型[J]. 石油钻采工艺,2023,45(2):151–159. WU Zebing, GU Yabing, JIANG Wen, et al. Intelligent prediction models of downhole weight on bit based on genetic optimization algorithm[J]. Oil Drilling & Production Technology, 2023, 45(2): 151–159.
[5] 李臻,宋先知,李根生,等. 基于双输入序列到序列模型的井眼轨迹实时智能预测方法[J]. 石油钻采工艺,2023,45(4):393–403. LI Zhen, SONG Xianzhi, LI Gensheng, et al. Real-time intelligent prediction of well trajectory based on dual-input sequence-to-sequence model[J]. Oil Drilling & Production Technology, 2023, 45(4): 393–403.
[6] 王海涛,王建华,邱晨,等. 基于双向长短期记忆循环神经网络和条件随机场的钻井工况识别方法[J]. 石油钻采工艺,2023,45(5):540–547. WANG Haitao, WANG Jianhua, QIU Chen, et al. Recognition method of drilling conditions based on bi-directional long-short term memory recurrent neural network and conditional random field[J]. Oil Drilling & Production Technology, 2023, 45(5): 540–547.
[7] 张矿生,宫臣兴,陆红军,等. 基于集成学习的井漏智能预警模型及智能推理方法[J]. 石油钻采工艺,2023,45(1):47–54. ZHANG Kuangsheng, GONG Chenxing, LU Hongjun, et al. Intelligent early warning model and intelligent reasoning method based on integrated learning for loss circulation[J]. Oil Drilling & Production Technology, 2023, 45(1): 47–54.
[8] OYEDERE M, GRAY K. Torque-on-bit (TOB) prediction and optimization using machine learning algorithms[J]. Journal of Natural Gas Science and Engineering, 2020, 84: 103623. doi: 10.1016/j.jngse.2020.103623
[9] 徐海萍. 基于ARIMA-GRNN模型的油井产量动态预测[J]. 世界石油工业,2022,29(1):64–69. XU Haiping. Dynamic prediction of oil well yield based on the ARIMA-GRNN model[J]. World Oil Industry, 2022, 29(1): 64–69.
[10] 陈宇光. 基于组合模型的天然气管道短期负荷预测[J]. 石油化工自动化,2024,60(2):20–24. CHEN Yuguang. Short-term load forecasting of natural gas pipeline based on the combined model[J]. Petrochemical Industry Automation, 2024, 60(2): 20–24.
[11] 黄小龙,刘东涛,宋吉明,等. 基于大数据及人工智能的钻速实时优化技术[J]. 石油钻采工艺,2021,43(4):442–448. HUANG Xiaolong, LIU Dongtao, SONG Jiming, et al. Real-time ROP optimization technology based on big data and artificial intelligence[J]. Oil Drilling & Production Technology, 2021, 43(4): 442–448.
[12] 樊冬艳,杨灿,孙海,等. 基于时间序列相似性与机器学习方法的页岩气井产量预测[J]. 中国石油大学学报(自然科学版),2024,48(3):119–126. doi: 10.3969/j.issn.1673-5005.2024.03.013 FAN Dongyan, YANG Can, SUN Hai, et al. Shale gas well production forecasting based on time sequence similarity and machine learning methods[J]. Journal of China University of Petroleum (Edition of Natural Science), 2024, 48(3): 119–126. doi: 10.3969/j.issn.1673-5005.2024.03.013
[13] 肖京男,汪志明,魏建光,等. 改进LSSVM在水平井产能预测中的应用[J]. 石油钻探技术,2010,38(6):95–98. doi: 10.3969/j.issn.1001-0890.2010.06.021 XIAO Jingnan, WANG Zhiming, WEI Jianguang, et al. Application of LSSVM improved horizontal well productivity prediction[J]. Petroleum Drilling Techniques, 2010, 38(6): 95–98. doi: 10.3969/j.issn.1001-0890.2010.06.021
[14] PAN Shaowei, BO Yang, WANG Shukai, et al. Oil well production prediction based on CNN-LSTM model with self-attention mechanism[J]. Energy, 2023, 284: 128701. doi: 10.1016/j.energy.2023.128701
[15] HOCHREITER S, SCHMIDHUBER J. Long short-term memory[J]. Neural Computation, 1997, 9(8): 1735–1780. doi: 10.1162/neco.1997.9.8.1735
[16] O’SHEA K, NASH R. An introduction to convolutional neural networks[DB/OL]. (2015-12-02)[2024-06-10]. https://arxiv.org/abs/1511.08458. O’SHEA K,NASH R. An introduction to convolutional neural networks[DB/OL]. (2015-12-02)[2024-06-10]. https://arxiv.org/abs/1511.08458.
[17] ELMAZ F, EYCKERMAN R, CASTEELS W, et al. CNN-LSTM architecture for predictive indoor temperature modeling[J]. Building and Environment, 2021, 206: 108327. doi: 10.1016/j.buildenv.2021.108327
[18] 孙伟峰,冯剑寒,张德志,等. 结合LSTM自编码器与集成学习的井漏智能识别方法[J]. 石油钻探技术,2024,52(3):61–67. doi: 10.11911/syztjs.2024006 SUN Weifeng, FENG Jianhan, ZHANG Dezhi, et al. An intelligent lost circulation recognition method using LSTM-autoencoder and ensemble learning[J]. Petroleum Drilling Techniques, 2024, 52(3): 61–67. doi: 10.11911/syztjs.2024006
[19] 韩克宁,王伟,樊冬艳,等. 基于产量递减与LSTM耦合的常压页岩气井产量预测[J]. 油气藏评价与开发,2023,13(5):647–656. HAN Kening, WANG Wei, FAN Dongyan, et al. Production forecasting for normal pressure shale gas wells based on coupling of production decline method and LSTM model[J]. Petroleum Reservoir Evaluation and Development, 2023, 13(5): 647–656.
[20] CHEN Zhiming, PENG Dong, WANG Tianyi, et al. Pressure transient analysis in shale wells with heterogeneous fractures by using a deep learning based surrogate model[R]. IPTC 22333, 2022.
[21] RHANOUI M, MIKRAM M, YOUSFI S, et al. A CNN-BiLSTM model for document-level sentiment analysis[J]. Machine Learning and Knowledge Extraction, 2019, 1(3): 832–847. doi: 10.3390/make1030048
[22] KENNEDY J, EBERHART R. Particle swarm optimization[C]//Proceedings of ICNN’95-International Conference on Neural Networks. Piscataway, NJ: IEEE Press, 1995: 1942-1948.
[23] JANG J S R, SUN C T, MIZUTANI E. Neuro-fuzzy and soft computing-a computational approach to learning and machine intelligence [J]. IEEE Transactions on Automatic Control, 1997, 42(10): 1482–1484. doi: 10.1109/TAC.1997.633847
[24] MOAYEDI H, RAFTARI M, SHARIFI A, et al. Optimization of ANFIS with GA and PSO estimating α ratio in driven piles[J]. Engineering with Computers, 2020, 36(1): 227–238. doi: 10.1007/s00366-018-00694-w
[25] 周俊,陈璟华,刘国祥,等. 粒子群优化算法中惯性权重综述[J]. 广东电力,2013,26(7):6–12. ZHOU Jun, CHEN Jinghua, LIU Guoxiang, et al. Review of inertia weight in particle swarm optimization algorithm[J]. Guangdong Electric Power, 2013, 26(7): 6–12.
[26] 王鹏飞,任丽佳,高燕. 基于改进收缩因子的粒子群优化算法[J]. 电子科技,2022,35(5):14–18. WANG Pengfei, REN Lijia, GAO Yan. PSO algorithm based on improved contraction factor[J]. Electronic Science and Technology, 2022, 35(5): 14–18.
[27] 王俊伟,汪定伟. 粒子群算法中惯性权重的实验与分析[J]. 系统工程学报,2005,20(2):194–198. WANG Junwei, WANG Dingwei. Experiment and analysis of inertia weight in particle swarm optimization[J]. Journal of Systems Engineering, 2005, 20(2): 194–198.
[28] MIRJALILI S. SCA: a sine cosine algorithm for solving optimization problems[J]. Knowledge-Based Systems, 2016, 96: 120-133.
[29] NASH G, MOORE J. Utah FORGE: logs and data from deep well 58-32 (MU-ESW1): 1006[R]. Salt Lake City: Energy and Geoscience Institute at the University of Utah, 2018.