LAR(最小角回归)算法原理和示意图_lar算法-程序员宅基地

技术标签: 算法  LAR系统辨识  

LAR(最小角回归)算法原理和示意图

LAR算法原理描述

LAR(Least Angle Regression)算法

对于一个参数线性化(linear-in-the-parameters)模型,其回归目标向量为若干组回归变量乘以系数的线性组合,通过逐步选择特征向量,每次选择一个特征向量来作为模型的回归变量,最终使得与所有回归变量的相关性均相同且最大的残差向量最小。

此算法的关键在于回归变量的选择顺序和其系数的计算规则。

具体步骤:
(解析角度)
1)选择与初始残差(即为系统响应)相关度最大的特征向量作为回归向量,并为其选择合适的回归系数,计算当前辨识模型残差,使残差与此回归向量以及另一个与残差相关度最大的特征向量的相关度相等;
2)选择上一步中与残差相关度最大的特征向量作为第二个回归系数,并为其选择合适的回归系数,计算当前辨识模型残差,使此残差与所有回归变量以及另一个与残差相关度最大的特征向量的相关度都相等。
3)重复步骤2)继续选择下一个回归变量及其参数,直到无多余特征向量或选择的模型符合所需的残差要求。

反映到几何图像上:(几何角度)
1)选择与初始残差向量(即系统的响应向量)夹角最小的特征向量作为回归变量,然后在此向量的方向上选择合适的步长作为其回归系数,使得此时残差与回归变量以及另一个与残差夹角最小的特征向量的夹角相等,也就是说使残差位于回归变量和此与残差夹角最小的特征向量的角平分线上;
2)选择上一步中与残差夹角最小的特征向量作为第二个回归系数,并沿着上一步中的残差方向选择合适步长作为其回归参数,使得此时残差与所有回归变量以及另一个与残差夹角最小的特征向量的夹角相等,也就是说使残差位于这些回归变量和此与残差夹角最小的特征向量的角平分线上;
3)重复步骤2),继续选择下一个回归变量及其参数,直到无多余特征向量或选择的模型符合所需的残差要求。

LAR算法原理示例图

示例图如下:

以模型有三个特征向量为例:
图中三个特征向量 Φ 1 \Phi_1 Φ1 Φ 2 \Phi_2 Φ2 Φ 3 \Phi_3 Φ3(特征向量可能是由以系统输入输出和固定的非线性参数为自变量的非线性函数构成的复杂向量)和一个系统输出向量 y y y均由实线画出。在第一步中,由于相较 Φ 2 \Phi_2 Φ2 Φ 3 \Phi_3 Φ3

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/Fairy_fox777/article/details/114598824

智能推荐

Java多线程-马士兵高并发视频教程笔记-程序员宅基地

文章浏览阅读2.7k次。Java多线程基础基础创建线程Java中创建线程主要有三种方式:继承Thread类创建线程类定义Thread类的子类,并重写该类的run方法,该run方法的方法体就代表了线程要完成的任务。因此把run()方法称为执行体创建Thread子类的实例,即创建了线程对象调用线程对象的start()方法来启动该线程通过Runnable接口创建线程类定义runnable接口..._java多线程高并发教程视频

pureftpd 应用-程序员宅基地

文章浏览阅读525次。pureftp 应用_pureftpd

SQL Server数据库有三种恢复模式:简单恢复模式、完整恢复模式和大容量日志恢复模式_数据库为简单模式和完整模式的区别-程序员宅基地

文章浏览阅读2.8k次。SQL Server数据库有三种恢复模式:简单恢复模式、完整恢复模式和大容量日志恢复模式: 1.Simple 简单恢复模式,Simple模式的旧称叫”Checkpoint with truncate log“,其实这个名字更形象,在Simple模式下,SQL Server会在每次checkpoint或backup之后自动截断log,也就是丢弃所有的inactive log reco..._数据库为简单模式和完整模式的区别

开源存储:在小数据扩散时代推动智能化-程序员宅基地

文章浏览阅读205次。开源存储正在兴起——数据存储软件是在允许自由使用、分发和修改源代码的许可下以公开、协作的方式开发的。 组织现在正在处理大量的数据(PB级),并且所有这些数据都需要..._数据扩散

python--pandas分组聚合_pandas根据某一列聚合-程序员宅基地

文章浏览阅读7.5k次。分组聚合是数据处理中常见的场景,在pandas中用groupby方法实现分组操作,用agg方法实现聚合操作。环境python3.9win10 64bitpandas==1.2.1groupby方法是pandas中的分组方法,对数据框采用groupby方法后,返回的是DataFrameGroupBy对象,一般分组操作后会进行聚合操作。分组import pandas as pdimport numpy as nppd.set_option('display.notebook_repr_._pandas根据某一列聚合

Java开源企业信息化建设平台 O2OA V4.1540最版发布_o2oa 信息平台 发布信息-程序员宅基地

文章浏览阅读207次。O2OA是基于J2EE架构,集成移动办公、智能办公,支持私有化部署,自适应负载能力的,能够很大程度上节约企业软件开发成本的基于AGPL协议开放源代码的企业信息化系统需求定制开发解决方案,对外提供专业的开发运维等技术服务。O2OA平台主要能力介绍:流程管理:全功能流程引擎。基于任务驱动,开放式服务驱动,高灵活性、扩展性,事件定义丰富。包含人工、自动、拆分、合并、并行、定时、服..._o2oa 信息平台 发布信息

随便推点

【LSTM时间序列预测】基于matlab贝叶斯网络优化LSTM时间序列预测【含Matlab源码 1329期】-程序员宅基地

文章浏览阅读3.8k次,点赞3次,收藏37次。贝叶斯网络优化LSTM时间序列预测完整代码,直接运行,适合小白!可提供运行操作视频!

shell 编程:if判断字符串是否相等_shell脚本if判断字符串相等怎么写-程序员宅基地

文章浏览阅读1.6w次,点赞4次,收藏13次。使用if中使用= 与==是一样的效果,但是两边要留有空格,不然会是赋值!#! /bin/bashmodule="admock"echo "$module"=="adauto"if [ "$module"x == "adauto"x ]then module_name="dddd"else module_name="tttt"fiecho $module_name最后打印:MVAD: [yxx@svn2ss] ~$ ./test2.shadmock==adauto_shell脚本if判断字符串相等怎么写

c3p0连接数据库报错-程序员宅基地

文章浏览阅读105次。Exception in thread "AWT-EventQueue-0" java.lang.NoClassDefFoundError: com/mchange/v2/ser/Indirector at cn.itcast.jdbc.JdbcUtils.<clinit>(JdbcUtils.java:17) at dao.DataBase1.<..._eventdispatchthread.pumpevents

对话UNIX :正则表达式_unix 正则表达式 匹配-程序员宅基地

文章浏览阅读2.6k次。正则总结(转) 元字符 说明 . 匹配任意一个字符[abc] 匹配方括号中的任意一个字符。可以使用-表示字符范围, 如[a-z0-9]匹配小写字母和阿拉伯数字。[^abc] 在方括号内开头使用^符号,表示匹配除方括号中字符之外的任意字符。/d 匹配阿拉伯数字,等同于[0-9]。/D 匹配阿拉伯数字之外的任意字符,等同于[^0-9]。/x_unix 正则表达式 匹配

keepalived+MHA实现mysql主从高可用集群-程序员宅基地

文章浏览阅读278次。本节索引原理分析实验环境准备主从复制集群安装MHA包初始化MHA配置Keepalived故障出现故障恢复总结 一 原理分析1 MHA简介:MHA(Master High Availability)目前在MySQL高可用方面是一个相对成熟的解决方案,它由日本DeNA公司youshimaton(现就职于Facebook公司)开发,是一套优秀的作为MySQL高可用性环境下故障切换和..._mha高可用和keepalived的关系

Unity3D引擎之渲染技术系列三_unity z 值 越大 里摄像机近-程序员宅基地

文章浏览阅读2.5k次。笔者介绍:姜雪伟,IT公司技术合伙人,IT高级讲师,CSDN社区专家,特邀编辑,畅销书作者,国家专利发明人;已出版书籍:《手把手教你架构3D游戏引擎》电子工业出版社和《Unity3D实战核心技术详解》电子工业出版社等。CSDN视频网址:http://edu.csdn.net/lecturer/144_unity z 值 越大 里摄像机近