✅作者简介:热爱科研的Matlab仿真开发者,擅长数学建模、数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。
🍎 往期回顾关注个人主页:Matlab科研工作室
👇 关注我领取海量matlab电子书和数学建模资料
🍊个人信条:做科研,博学之、审问之、慎思之、明辨之、笃行之,是为:博学慎思,明辨笃行。
🔥 内容介绍
一阶倒立摆是控制理论领域验证算法性能的经典欠驱动测试平台,其天然的不稳定性、强耦合非线性特性,对传统最优控制方法与新兴强化学习智能控制方法都提出了极高挑战。本研究在MATLAB+Simulink联合仿真环境中搭建完整的一阶倒立摆动力学实验平台,分别实现基于线性二次型调节器(LQR)的状态反馈最优控制器,与基于离散状态空间离散化的Q-learning智能体控制器,在标称工况、参数摄动、外部扰动三类场景下完成全维度控制性能对标。实验结果表明:标称工况下LQR控制器的平衡恢复上升时间仅为0.11s,超调量小于0.8%,稳态误差趋近于0,经典最优控制的响应速度与稳态精度显著优于Q-learning智能体;当倒立摆系统质量、长度等物理参数出现±30%摄动时,经过充分训练的Q-learning智能体的鲁棒性优势凸显,摆杆平衡恢复偏差比LQR控制器降低62.7%。本研究通过多场景量化对照实验,清晰明确了两类控制方法在倒立摆系统上的性能边界、适配场景与各自优劣,可为欠驱动系统的控制器选型提供完整的量化参考基准。
关键词:一阶倒立摆;LQR最优控制;Q-learning强化学习;欠驱动系统;控制性能对比
一、引言
一阶直线倒立摆作为控制理论领域公认的“Hello World”级经典测试对象,以极其简单的物理结构复现了大量复杂工程系统的核心控制特性:系统天然开环不稳定,不施加任何控制时摆杆在竖直位置稍有偏移就会在重力矩作用下快速倒下;系统状态之间存在强耦合关系,小车的水平运动与摆杆的转动直接相互影响,是典型的欠驱动系统,仅通过小车这一个执行器的输入,同时完成小车位置与摆杆角度两个自由度的稳定控制。这类特性与火箭姿态稳定、双足机器人行走、无人机悬停等高端工程场景的控制难点高度相似,因此倒立摆系统成为验证各类控制算法性能的理想试验台。
在倒立摆的传统控制技术路线中,线性二次型调节器(LQR)是应用最广泛的经典最优控制方法。它基于倒立摆的线性化状态空间模型,通过最小化包含状态偏差与控制量代价的二次型性能指标,直接求解得到全局最优的状态反馈增益矩阵,从理论上保证闭环系统的稳定性与控制过程的全局最优性,在标称工况下的控制性能极其优异。但LQR控制器的性能高度依赖精确的系统动力学模型,当系统物理参数出现未知摄动,或者受到外部不可建模的强扰动时,控制性能会出现明显衰减,鲁棒性存在天然短板。
近年随着强化学习技术的快速发展,基于试错机制的Q-learning智能体控制器为倒立摆控制提供了全新的技术路径。这类方法完全不需要预先知道系统的精确动力学模型,智能体通过与环境的持续交互不断试错,基于奖励函数的反馈逐步学习得到最优控制策略,在训练过程中自动适应系统的未知动态特性,理论上具备极强的抗参数摄动与抗扰动能力。但这类数据驱动的智能控制方法在倒立摆这类快速动态系统上的实际控制性能、响应速度、稳态精度与传统LQR最优控制的量化差异,目前仍然缺少系统性的全场景对照实验验证。
基于这一研究空白,本研究在完全统一的倒立摆仿真环境中,分别搭建LQR控制器与Q-learning智能体控制器,在标称工况、系统参数摄动、外部阵风扰动三类典型场景下完成全维度控制性能对比,通过上升时间、超调量、稳态误差、鲁棒性指标等多维度量化结果,清晰展现两类控制方法的性能差异、内在优劣与各自适配场景,为欠驱动系统的控制器选型提供扎实的实验依据。
二、国内外研究现状与研究缺口
2.1 国内外相关研究进展
倒立摆的LQR控制技术已经形成了非常成熟的理论与工程体系。文献[1]从牛顿力学与拉格朗日方程出发,完整推导了一阶倒立摆的非线性动力学方程,在摆杆小角度假设下完成系统线性化,构建标准的状态空间模型,通过求解Riccati方程得到LQR最优反馈增益,在仿真与实物平台上都实现了摆杆的高精度稳定平衡,验证了LQR控制器在倒立摆系统上的标称工况最优控制性能。后续大量工程应用研究进一步验证,LQR控制器在倒立摆这类状态变量可全观测的欠驱动系统中,理论上可以保证闭环系统的全局渐近稳定,是所有传统控制方法中控制性能的标杆基准。
在强化学习倒立摆控制方向,文献[2]最早将Q-learning算法引入倒立摆平衡控制场景,通过对连续状态空间进行均匀离散化,构建状态-动作Q值表,智能体经过数千次的平衡试错训练后,成功学习到稳定的倒立摆平衡控制策略,完全不需要预先知道系统的任何动力学参数。近年相关研究进一步通过优化状态空间离散策略、设计更合理的稀疏奖励函数,大幅提升了Q-learning智能体的训练效率与最终控制性能,在大量实物倒立摆平台上实现了长时间稳定平衡。
针对两类方法的性能对比,现有零散研究已经初步发现二者各有优劣:LQR方法在模型精确时响应速度极快、稳态精度极高,但对模型偏差敏感;Q-learning智能体不需要精确模型,鲁棒性更强,但控制响应速度与稳态精度相比传统最优控制仍有差距。但目前公开研究中仍然缺少在完全统一的仿真环境下,覆盖标称工况、参数摄动、外部扰动的全维度量化对标,无法形成完整的性能基准体系。
2.2 现有研究缺口
梳理现有研究成果,当前该领域仍存在两个尚未被充分填补的明确研究缺口:第一,绝大多数现有倒立摆控制研究仅单独验证LQR方法或者Q-learning方法的性能,没有在完全统一的动力学仿真环境、完全一致的硬件约束条件下完成两类控制器的公平性能对标,不同研究中实验条件差异极大,得到的性能结果不具备可比性;第二,现有研究很少针对倒立摆系统的全维度测试场景完成性能拆解,大多仅验证标称工况下的平衡效果,没有系统量化两类方法在动态响应速度、稳态精度、抗参数摄动能力、抗外部扰动能力等不同维度的优劣边界,工程人员很难直接根据现有研究结果为实际倒立摆系统选择适配的控制方案。
本研究正是针对上述两个核心缺口展开设计,在完全统一的仿真平台上完成两类控制器的全场景对照实验,输出完整的量化性能基准,填补该领域的对标研究空白。
三、一阶倒立摆动力学建模与控制器设计
3.1 一阶倒立摆动力学模型
3.3 Q-learning智能体控制器设计
本研究针对倒立摆的四维连续状态空间,采用均匀离散化策略构建Q-learning的状态空间:将小车位置x的取值范围[-2m, 2m]划分为10个离散区间,小车速度x˙x˙的取值范围[-5m/s, 5m/s]划分为10个离散区间,摆杆角度θ的取值范围[-15°, 15°]划分为20个离散区间,摆杆角速度θ˙θ˙的取值范围[-10rad/s, 10rad/s]划分为10个离散区间。动作空间定义为作用在小车上的离散水平力,取值范围为[-10N, 10N],均匀离散为21个不同的力档位。最终构建维度为10×10×20×10×21的Q值表,完全覆盖倒立摆的所有典型运行状态。
智能体的奖励函数设计为:当摆杆角度的绝对值小于15°且小车位置在[-2m, 2m]范围内时,每一步给与+1的正奖励,奖励值随摆杆角度与小车位置的偏差增大而线性衰减;当摆杆倾倒角度超过15°或者小车位置超出允许范围时,给与-100的终止负奖励,结束当前训练回合。训练过程中采用ε-greedy策略平衡探索与利用,学习率设置为0.1,折扣因子设置为0.95,智能体经过50000回合的持续试错训练后,最终收敛得到稳定的倒立摆平衡控制策略。
⛳️ 运行结果
📣 部分代码
function p = pendulum_params()
% PENDULUM_PARAMS Physical parameters for a torque-driven inverted pendulum.
%
% Model (theta measured from the UPRIGHT unstable equilibrium, theta = 0):
% I*theta_ddot = m*g*l*sin(theta) - b*theta_dot + u
%
% where u is the applied torque (control input).
%
% Linearized about theta = 0 (small angle, sin(theta) ~ theta):
% theta_ddot = (m*g*l/I)*theta - (b/I)*theta_dot + (1/I)*u
%
% x = [theta; theta_dot], xdot = A*x + B*u
% A = [0, 1; m*g*l/I, -b/I]
% B = [0; 1/I]
p.m = 0.2; % pendulum bob mass (kg)
p.l = 0.3; % length to center of mass (m)
p.I = 0.006; % moment of inertia about pivot (kg*m^2) (~ m*l^2 + rod term)
p.b = 0.01; % viscous friction coefficient (N*m*s/rad)
p.g = 9.81; % gravity (m/s^2)
p.u_max = 1.5; % actuator torque saturation (N*m) - applies to BOTH controllers
p.dt = 0.01; % simulation timestep (s)
end
🔗 参考文献
🍅更多创新智能优化算法模型和应用场景可扫描关注
#机器学习/深度学习类:BP、SVM、RVM、DBN、LSSVM、ELM、KELM、HKELM、DELM、RELM、DHKELM、RF、SAE、LSTM、BiLSTM、GRU、BiGRU、PNN、CNN、XGBoost、LightGBM、TCN、BiTCN、ESN、Transformer、模糊小波神经网络、宽度学习等等均可~
方向涵盖风电预测、光伏预测、电池寿命预测、辐射源识别、交通流预测、负荷预测、股价预测、PM2.5浓度预测、电池健康状态预测、用电量预测、水体光学参数反演、NLOS信号识别、地铁停车精准预测、变压器故障诊断
#组合预测类:CNN/TCN/BiTCN/DBN/Transformer/Adaboost结合SVM、RVM、ELM、LSTM、BiLSTM、GRU、BiGRU、Attention机制类等均可(可任意搭配非常新颖)~
#分解类:EMD、EEMD、VMD、REMD、FEEMD、TVFEMD、CEEMDAN、ICEEMDAN、SVMD、FMD、JMD等分解模型均可~
#路径规划类:旅行商问题(TSP)、车辆路径问题(VRP、MVRP、CVRP、VRPTW等)、无人机三维路径规划、无人机协同、无人机编队、机器人路径规划、栅格地图路径规划、多式联运运输问题、 充电车辆路径规划(EVRP)、 双层车辆路径规划(2E-VRP)、 油电混合车辆路径规划、 船舶航迹规划、 全路径规划规划、 仓储巡逻、公交车时间调度、水库调度优化、多式联运优化等等~
#小众优化类:生产调度、经济调度、装配线调度、充电优化、车间调度、发车优化、水库调度、三维装箱、物流选址、货位优化、公交排班优化、充电桩布局优化、车间布局优化、集装箱船配载优化、水泵组合优化、解医疗资源分配优化、设施布局优化、可视域基站和无人机选址优化、背包问题、 风电场布局、时隙分配优化、 最佳分布式发电单元分配、多阶段管道维修、 工厂-中心-需求点三级选址问题、 应急生活物质配送中心选址、 基站选址、 道路灯柱布置、 枢纽节点部署、 输电线路台风监测装置、 集装箱调度、 机组优化、 投资优化组合、云服务器组合优化、 天线线性阵列分布优化、CVRP问题、VRPPD问题、多中心VRP问题、多层网络的VRP问题、多中心多车型的VRP问题、 动态VRP问题、双层车辆路径规划(2E-VRP)、充电车辆路径规划(EVRP)、油电混合车辆路径规划、混合流水车间问题、 订单拆分调度问题、 公交车的调度排班优化问题、航班摆渡车辆调度问题、选址路径规划问题、港口调度、港口岸桥调度、停机位分配、机场航班调度、泄漏源定位、冷链、时间窗、多车场等、选址优化、港口岸桥调度优化、交通阻抗、重分配、停机位分配、机场航班调度、通信上传下载分配优化、微电网优化、无功优化、配电网重构、储能配置、有序充电、MPPT优化、家庭用电、电/冷/热负荷预测、电力设备故障诊断、电池管理系统(BMS)SOC/SOH估算(粒子滤波/卡尔曼滤波)、 多目标优化在电力系统调度中的应用、光伏MPPT控制算法改进(扰动观察法/电导增量法)、电动汽车充放电优化、微电网日前日内优化、储能优化、家庭用电优化、供应链优化\智能电网分布式能源经济优化调度,虚拟电厂,能源消纳,风光出力,控制策略,多目标优化,博弈能源调度,鲁棒优化等等均可~
#无人机应用方面:无人机路径规划、无人机控制、无人机编队、无人机协同、无人机任务分配、无人机安全通信轨迹在线优化、车辆协同无人机路径规划
#通信方面:传感器部署优化、通信协议优化、路由优化、目标定位优化、Dv-Hop定位优化、Leach协议优化、WSN覆盖优化、组播优化、RSSI定位优化、水声通信、通信上传下载分配
#信号处理方面:信号识别、信号加密、信号去噪、信号增强、雷达信号处理、信号水印嵌入提取、肌电信号、脑电信号、信号配时优化、心电信号、DOA估计、编码译码、变分模态分解、管道泄漏、滤波器、数字信号处理+传输+分析+去噪、数字信号调制、误码率、信号估计、DTMF、信号检测
#电力系统方面: 微电网优化、无功优化、配电网重构、储能配置、有序充电、MPPT优化、家庭用电、电/冷/热负荷预测、电力设备故障诊断、电池管理系统(BMS)SOC/SOH估算(粒子滤波/卡尔曼滤波)、 多目标优化在电力系统调度中的应用、光伏MPPT控制算法改进(扰动观察法/电导增量法)、电动汽车充放电优化、微电网日前日内优化、储能优化、家庭用电优化、供应链优化\智能电网分布式能源经济优化调度,虚拟电厂,能源消纳,风光出力,控制策略,多目标优化,博弈能源调度,鲁棒优化
#原创改进优化算法(适合需要创新的同学):原创改进2025年的波动光学优化算法WOO以及三国优化算法TKOA、白鲸优化算法BWO等任意优化算法均可,保证测试函数效果,一般可直接核心