https://www.bilibili.com/video/bv1bb411H7JN/?p=8
2 x − y = 0 − x + y = 3 2x - y = 0\\ -x + y = 3\\ 2x−y=0−x+y=3
A = [ 2 − 1 − 1 2 ] X = [ x y ] b = [ 0 3 ] A X = b x [ 2 − 1 ] + y [ − 1 2 ] = [ 0 3 ] A = \left[ \begin{array}{cc} 2 & -1\\ -1 & 2 \end{array} \right] X = \left[ \begin{array}{c} x\\ y \end{array} \right] b = \left[ \begin{array}{c} 0\\ 3 \end{array} \right]\\ AX=b\\ x\left[\begin{array}{c}2\\-1\end{array}\right] + y\left[\begin{array}{c}-1\\2\end{array}\right] = \left[\begin{array}{c}0\\3\end{array}\right]\\ A=[2−1−12]X=[xy]b=[03]AX=bx[2−1]+y[−12]=[03]
将各列视作向量,做向量加法,得到右侧向量
[ A ∣ b ] 是 增 广 矩 阵 \left[A | b\right]是增广矩阵 [A∣b]是增广矩阵
核心是矩阵行变换,将系数矩阵变为上三角阵(U矩阵),每行第一个非零元素称为主元
A X = b ⇒ U X = c AX = b \Rightarrow UX = c AX=b⇒UX=c
行向量乘矩阵代表矩阵各行的线性组合
消 元 矩 阵 E ( 初 等 矩 阵 ) 左 乘 系 数 矩 阵 E 21 表 示 将 系 数 矩 阵 2 行 1 列 位 置 变 为 0 的 初 等 矩 阵 E = [ a 11 a 12 a 21 a 22 a 31 a 32 ] , A = [ r o w 1 r o w 2 ] E A = [ a 11 ∗ r o w 1 + a 12 ∗ r o w 2 a 21 ∗ r o w 1 + a 22 ∗ r o w 2 a 31 ∗ r o w 1 + a 32 ∗ r o w 2 ] 消元矩阵E(初等矩阵)左乘系数矩阵\\ E_{21}表示将系数矩阵2行1列位置变为0的初等矩阵\\ E=\left[\begin{array}{cc}a_{11} && a_{12}\\ a_{21} && a_{22}\\ a_{31} && a_{32}\end{array}\right], A=\left[\begin{array}{c}row_1\\row_2\end{array}\right]\\ EA=\left[\begin{array}{c} a_{11} * row_1 + a_{12} * row_2\\ a_{21} * row_1 + a_{22} * row_2\\ a_{31} * row_1 + a_{32} * row_2\end{array}\right] 消元矩阵E(初等矩阵)左乘系数矩阵E21表示将系数矩阵2行1列位置变为0的初等矩阵E=⎣⎡a11a21a31a12a22a32⎦⎤,A=[row1row2]EA=⎣⎡a11∗row1+a12∗row2a21∗row1+a22∗row2a31∗row1+a32∗row2⎦⎤
矩阵满足结合律(暴力运算可证)
左乘初等矩阵交换行,右乘初等矩阵交换列(每一列都是将被乘矩阵的列进行线性组合)
利用左乘矩阵进行消元得到主元
E − 1 称 为 E 的 逆 矩 阵 , E − 1 E = I E^{-1}称为E的逆矩阵,E^{-1}E = I E−1称为E的逆矩阵,E−1E=I
A B = C c i j = ∑ k a i k b k j AB = C\\ c_{ij} = \sum_k{a_{ik}b_{kj}}\\ AB=Ccij=k∑aikbkj
C c o l u m n _ 1 = A B c o l u m n _ 1 C 中 每 一 列 等 于 A 乘 以 B 中 对 应 列 等 于 A 中 各 列 的 线 性 组 合 C_{column\_1} = AB_{column\_1}\\ C中每一列等于A乘以B中对应列\\ 等于A中各列的线性组合\\ Ccolumn_1=ABcolumn_1C中每一列等于A乘以B中对应列等于A中各列的线性组合
C r o w _ 1 = A r o w _ 1 B C 中 每 一 行 等 于 A 中 对 应 行 乘 以 B 等 于 B 中 各 行 的 线 性 组 合 C_{row\_1} = A_{row\_1}B\\ C中每一行等于A中对应行乘以B\\ 等于B中各行的线性组合\\ Crow_1=Arow_1BC中每一行等于A中对应行乘以B等于B中各行的线性组合
C = ∑ ( c o l o f A ) ( r o w o f B ) c i j = a 第 1 列 第 i 行 b 第 1 行 第 j 列 + a 第 2 列 第 i 行 b 第 2 行 第 j 列 + ⋯ + a 第 n 列 第 i 行 b 第 n 行 第 j 列 = a i 1 b 1 j + a i 2 b 2 j + ⋯ + a i n b n j = ∑ k a i k b k j C=\sum{(col\ of \ A)}(row\ of \ B)\\ c_{ij}=a_{第1列第i行}b_{第1行第j列}+a_{第2列第i行}b_{第2行第j列}+\cdots+a_{第n列第i行}b_{第n行第j列}\\ =a_{i1}b_{1j}+a_{i2}b_{2j}+\cdots+a_{in}b_{nj}\\ =\sum_k{a_{ik}b_{kj}}\\ C=∑(col of A)(row of B)cij=a第1列第i行b第1行第j列+a第2列第i行b第2行第j列+⋯+a第n列第i行b第n行第j列=ai1b1j+ai2b2j+⋯+ainbnj=k∑aikbkj
分块计算
方阵如果有逆,左逆等于右逆,即
A − 1 A = A A − 1 = I 设 左 逆 为 A 1 , 右 逆 为 A 2 A 1 A = I A 1 A A 2 = A 2 由 结 合 律 A 1 A A 2 = A 1 ( A A 2 ) = A 1 I = A 1 = A 2 A^{-1}A = AA^{-1} = I\\ 设左逆为A_1,右逆为A_2\\ A_1A = I\\ A_1AA_2 = A_2\\ 由结合律A_1AA_2 = A_1(AA_2) = A_1I = A_1 = A_2 A−1A=AA−1=I设左逆为A1,右逆为A2A1A=IA1AA2=A2由结合律A1AA2=A1(AA2)=A1I=A1=A2
存在非零向量X使得方阵AX=0,则A为不可逆矩阵(奇异矩阵),否则若A可逆,左乘A逆可得X=0,矛盾
方阵A若有逆,则可通过如下变换求得
[ A ∣ I ] ⇒ [ I ∣ A − 1 ] [A | I] \Rightarrow [I | A^{-1}]\\ [A∣I]⇒[I∣A−1]
求解 AX=I 即通过左乘初等矩阵将左式变为 IX,这些初等矩阵的乘积即为右式,即A的逆
或者用分块的思想看,消元的过程即做行变换,将初等矩阵的乘积记作E,则 E [ A I ] = [ I E ] , 则 E = A − 1 E\left[\begin{array}{cc}A&I\end{array}\right] = \left[\begin{array}{cc}I&E\end{array}\right],则E = A^{-1} E[AI]=[IE],则E=A−1
A A − 1 = I ( A A − 1 ) T = I ( A − 1 ) T A T = I ( A T ) − 1 = ( A − 1 ) T AA^{-1} = I\\ (AA^{-1})^T = I\\ (A^{-1})^TA^T = I\\ (A^T)^{-1} = (A^{-1})^T AA−1=I(AA−1)T=I(A−1)TAT=I(AT)−1=(A−1)T
下三角阵(L矩阵,右上角是0)相乘仍是下三角阵,上三角阵(U矩阵,左下角是0)相乘仍是上三角阵。
L矩阵可以直接观察得到,消元所需要乘的系数(各行主元系数的比值)可以直接写入L中
n 阶 置 换 矩 阵 有 n ! 个 ( 左 乘 可 以 互 换 行 的 矩 阵 ) , 乘 法 运 算 封 闭 , 其 逆 和 其 转 置 相 等 P − 1 = P T n阶置换矩阵有 n! 个(左乘可以互换行的矩阵),乘法运算封闭,其逆和其转置相等\\ P^{-1} = P^T n阶置换矩阵有n!个(左乘可以互换行的矩阵),乘法运算封闭,其逆和其转置相等P−1=PT
对任意可逆矩阵,有PA=LU的分解
定 义 : A T = A 即 ( A ) i j = ( A ) j i 定义:A^T = A即(A)_{ij} = (A)_{ji} 定义:AT=A即(A)ij=(A)ji
对 任 意 矩 阵 R , R T R 为 对 称 矩 阵 ( R T R ) T = R T ( R T ) T = R T R 对任意矩阵R,R^TR为对称矩阵\\ (R^TR)^T = R^T(R^T)^T = R^TR 对任意矩阵R,RTR为对称矩阵(RTR)T=RT(RT)T=RTR
空间中的向量对于加法和数乘(线性组合)封闭
必须包含零向量
R 2 的 3 个 子 空 间 : 1. R 2 2. 穿 过 原 点 的 直 线 3. { [ 0 0 ] } R^2的3个子空间:\\ 1.R^2\\ 2.穿过原点的直线\\ 3.\left\{\left[\begin{array}{c}0 \\ 0\end{array}\right]\right\} R2的3个子空间:1.R22.穿过原点的直线3.{
[00]}
任意两个子空间S和T,则S和T的交集仍然是子空间
矩阵A的列空间C(A)为A中各列的线性组合
Ax=b有解当且仅当b属于A的列空间
矩阵A的零空间为Ax=0的所有向量x的集合
rank(A)=消元之后主元的个数=有主元的行的个数=线性无关的行的个数=线性无关的列的个数(将A化作RREF形式可知这些定义等价),而主元各占一列,因此rank(A)=有主元的列的个数,行秩=列秩
主元所在的列叫主列(pivot column),其他列称自由列(free column)
自由列对应的变量为自由变量,可任意取值,主元的值由自由变量表示
零空间是Ax=0的特解的线性组合(数乘系数c并相加),特解的数量等于自由变量的个数(自由变量分别取1,其余取0,通过线性组合可以得到所有可能值)。以下针对Ax=0
RREF(reduced row echelon form) 简化行阶梯形式,即主元系数化为1,且使得其他行的该主元系数为0
将RREF的主列提前,自由列往后,得到
R = [ I F 0 0 ] F 为 自 由 变 量 所 在 的 列 , A 为 m 行 n 列 , 秩 为 r , 则 I 为 r 阶 , F 为 n − r 阶 R=\left[\begin{array}{cc}I&F\\0&0\end{array}\right]\\ F为自由变量所在的列,A为m行n列,秩为r,则I为r阶,F为n-r阶 R=[I0F0]F为自由变量所在的列,A为m行n列,秩为r,则I为r阶,F为n−r阶
零空间矩阵N(null space matrix),它的各列由Rx=0的特解组成,RN=0
R x = 0 [ I F ] [ x p i v o t x f r e e ] = 0 x p i v o t + F x f r e e = 0 x p i v o t = − F x f r e e 用 消 元 法 回 代 , 得 到 方 程 的 解 最 终 会 呈 现 这 种 形 式 将 x f r e e 的 n − r 个 元 素 轮 流 取 1 , 其 他 取 0 , 即 得 到 R x = 0 的 各 个 特 解 , 即 − F 中 的 各 个 列 ( 第 1 个 元 素 取 1 对 应 第 1 列 ) 即 N n ∗ ( n − r ) = [ − F I ] , 注 意 此 处 每 一 列 中 变 量 的 位 置 跟 原 始 的 [ x 1 , x 2 , … , x n ] T 位 置 不 同 Rx=0\\ [I \ F]\left[\begin{array}{c}x_{pivot}\\x_{free}\end{array}\right]=0\\ x_{pivot} + Fx_{free} = 0\\ x_{pivot} = -Fx_{free}\\ 用消元法回代,得到方程的解最终会呈现这种形式\\ 将x_{free}的n-r个元素轮流取1,其他取0,即得到Rx=0的各个特解,即-F中的各个列(第1个元素取1对应第1列)\\ 即N_{n*(n-r)}=\left[\begin{array}{c}-F\\I\end{array}\right],注意此处每一列中变量的位置跟原始的[x_1,x_2,…,x_n]^T位置不同\\ Rx=0[I F][xpivotxfree]=0xpivot+Fxfree=0xpivot=−Fxfree用消元法回代,得到方程的解最终会呈现这种形式将xfree的n−r个元素轮流取1,其他取0,即得到Rx=0的各个特解,即−F中的各个列(第1个元素取1对应第1列)即Nn∗(n−r)=[−FI],注意此处每一列中变量的位置跟原始的[x1,x2,…,xn]T位置不同
仅当b属于A的列空间C(A)时,Ax=b有解,即b为A各列的线性组合,不会出现零行左侧为0右侧不为0的情况。
A x = b Ax=b Ax=b的特解只需要求一个
假 设 有 不 同 的 特 解 x p 1 , x p 2 , A x p 1 = b , A x p 2 = b A ( x p 1 − x p 2 ) = 0 ( x p 1 − x p 2 ) ∈ N 即 x p 2 可 通 过 x p 1 与 N 中 向 量 的 线 性 组 合 得 到 , 所 有 解 ( 通 解 ) 的 形 式 不 变 假设有不同的特解x_{p_1},x_{p_2},Ax_{p_1}=b,Ax_{p_2}=b\\ A(x_{p_1} - x_{p_2}) = 0\\ (x_{p_1} - x_{p_2}) \in N\\ 即x_{p_2}可通过x_{p_1}与N中向量的线性组合得到,所有解(通解)的形式不变 假设有不同的特解xp1,xp2,Axp1=b,Axp2=bA(xp1−xp2)=0(xp1−xp2)∈N即xp2可通过xp1与N中向量的线性组合得到,所有解(通解)的形式不变
每一列都有主元(意味着RREF必定可以化为 [ I O ] \left[\begin{array}{c}I\\O\end{array}\right] [IO]的形式,若行满秩则没有O),没有自由变量可以赋值,N中只有零向量,Ax=b若有解则有唯一解(只有0或1个解)。
意味着消元时不会出现零行( 0 = b i , b i ≠ 0 0=b_i,b_i≠0 0=bi,bi=0),因此对任意b,Ax=b有解。主元有 m = r m=r m=r个,自由变量有 n − r = n − m n-r=n-m n−r=n−m个。
对于 r = m < n r=m<n r=m<n,RREF必定可与化为 [ I F ] \left[\begin{array}{cc}I & F\end{array}\right] [IF]的形式(可能需要交换行),F将构成零空间的特殊解。
对于 r = m = n , R R E F ( A ) = I , A 可 逆 , A x = b r=m=n,RREF(A)=I,A可逆,Ax=b r=m=n,RREF(A)=I,A可逆,Ax=b 必定有唯一解。N中只有零向量。
R R E F ( A ) = [ I F O O ] RREF(A)=\left[\begin{array}{cc}I&F\\O&O\end{array}\right] RREF(A)=[IOFO](可能需要行交换),要么无解 ( 0 = b i , b i ≠ 0 ) (0=b_i,b_i≠0) (0=bi,bi=0),要么有无穷多解(若 x 1 x_1 x1为 A x = b Ax=b Ax=b的解,设 x n x_n xn是 A x = 0 Ax=0 Ax=0的非零解( x n x_n xn必定存在否则没有自由变量),则 x = x 1 + c x n x=x_1+cx_n x=x1+cxn均为 A x = b Ax=b Ax=b的解)。
向量组 x 1 , x 2 , ⋯ , x n , c 1 x 1 + c 2 x 2 + ⋯ + c n x n = 0 x_1,x_2,\cdots,x_n,c_1x_1+c_2x_2+\cdots+c_nx_n=0 x1,x2,⋯,xn,c1x1+c2x2+⋯+cnxn=0,仅当 c i c_i ci全为 0 0 0时成立,则向量组线性无关,否则线性相关。
向量组里有零向量则必定线性相关。
在一个m维空间里,n>m个向量必定相关。将它们放进矩阵里,Ac=0有非零解,由定义得证。
A的零空间中存在非零向量,则A中各列线性相关,否则线性无关。
从自由变量的角度考虑,则rank(A)=n ⇔ \Leftrightarrow ⇔列向量线性无关;rank(A)<n ⇔ \Leftrightarrow ⇔线性相关。
向量空间的基是指一组向量满足2个性质:1、线性无关;2、生成整个空间。
方阵的列能组成 R n R^n Rn的基 ⇔ \Leftrightarrow ⇔方阵可逆。
对于给定空间,基向量的数量相等。
基向量的个数称为空间的维数。
rank(A)=线性无关的列的个数=主列的个数=列空间的维数
任意n个n维线性无关的向量构成一组基,生成同样的n维空间(若向量的维度大于n,则生成的空间不同;若向量维度小于n,则代入Ax=b,不是线性无关;取n维空间任意b,Ax=b有解,所以生成的空间一定相同。)
零空间的维数=自由变量的数量=n-r
列空间C(A),零空间N(A),行空间 C ( A T ) C(A^T) C(AT),A的左零空间( A T A^T AT的零空间) N ( A T ) N(A^T) N(AT)
C(A)的一组基是主列,维数为r,是 R m R^m Rm的子空间
主元所在行数=主元所在列数,因此 C ( A T ) C(A^T) C(AT)的维数是r,基是RREF的前r行,是 R n R^n Rn的子空间
N(A)的一组基是Ax=0的特解,维数是n-r,是 R n R^n Rn的子空间
N ( A T ) N(A^T) N(AT)的维数是m-r,是 R m R^m Rm的子空间。求A的左零空间就是试着寻找一个产生零行向量的行组合,行初等变化可以做到这一点。对于 A m ∗ n A_{m*n} Am∗n,构造 [ A m ∗ n I m ∗ m ] \left[\begin{array}{cc}A_{m*n}&I_{m*m}\end{array}\right] [Am∗nIm∗m],用Gauss-Jordan消元法变为 [ R m ∗ n E m ∗ m ] \left[\begin{array}{cc}R_{m*n}&E_{m*m}\end{array}\right] [Rm∗nEm∗m],即通过左乘E进行行变换,EA=R,A和R的秩为r,R中的零行有m-r个(注意 N ( A T ) N(A^T) N(AT)的维数是m-r),此时R中的零行对应的E中的行就是要找的 N ( A T ) N(A^T) N(AT)的基。(行初等变换不改变秩,I的秩为m,所以E的秩为m,E中各行线性无关,所以R中的零行对应的E中的行可以作为基。)
d i m ( S ) + d i m ( U ) = d i m ( S ∩ U ) + d i m ( S + U ) dim(S) + dim(U) = dim(S \cap U) + dim(S + U) dim(S)+dim(U)=dim(S∩U)+dim(S+U)
此处空间(集合)的加法定义是从S任取一个元素与U任一个元素相加
秩为1的矩阵全部可以表示为一个列向量乘一个行向量
rank(A + B) <= rank(A) + rank(B)
设 A ( a 1 , a 2 , ⋯ , a n ) , B ( b 1 , b 2 , ⋯ , b n ) , A 的 秩 为 s , B 的 秩 为 t A 的 极 大 线 性 无 关 组 ( 最 多 的 线 性 无 关 的 列 ) 为 ( a i 1 , a i 2 , ⋯ , a i s ) B 的 极 大 线 性 无 关 组 为 ( b j 1 , b j 2 , ⋯ , b j t ) 构 造 C ( a i 1 , a i 2 , ⋯ , a i s , b j 1 , b j 2 , ⋯ , b j t ) 则 A + B 可 以 由 C 中 的 列 线 性 组 合 得 到 所 以 r a n k ( A + B ) ≤ r a n k ( C ) ≤ s + t = r a n k ( A ) + r a n k ( B ) 设A(a_1,a_2,\cdots,a_n),B(b_1,b_2,\cdots,b_n),A的秩为s,B的秩为t\\ A的极大线性无关组(最多的线性无关的列)为(a_{i_1},a_{i_2},\cdots,a_{i_s})\\ B的极大线性无关组为(b_{j_1},b_{j_2},\cdots,b_{j_t})\\ 构造C(a_{i_1},a_{i_2},\cdots,a_{i_s},b_{j_1},b_{j_2},\cdots,b_{j_t})\\ 则A+B可以由C中的列线性组合得到\\ 所以rank(A+B) \le rank(C) \le s+t = rank(A) + rank(B)\\ 设A(a1,a2,⋯,an),B(b1,b2,⋯,bn),A的秩为s,B的秩为tA的极大线性无关组(最多的线性无关的列)为(ai1,ai2,⋯,ais)B的极大线性无关组为(bj1,bj2,⋯,bjt)构造C(ai1,ai2,⋯,ais,bj1,bj2,⋯,bjt)则A+B可以由C中的列线性组合得到所以rank(A+B)≤rank(C)≤s+t=rank(A)+rank(B)
秩为 r r r 的矩阵可以分解成 r r r 个秩为 1 1 1的矩阵(每个一主列)
r a n k ( A T A ) ≤ r a n k ( A ) , r a n k ( A A T ) ≤ r a n k ( A ) rank(A^TA)≤rank(A),rank(AA^T)≤rank(A) rank(ATA)≤rank(A),rank(AAT)≤rank(A),第一个左边每一行是 A A A的行的线性组合,第二个左边每一列是 A A A的列的线性组合,得证。
不说了,牛逼
复习课
向量正交的定义 x T y = 0 x^Ty=0 xTy=0
空间S和T正交的定义是每个S中的向量都与T中的每个向量正交
行空间正交于零空间。x为零空间向量,A中每一行与x点乘都为0,而行空间是由A的各行生成的。
列空间正交于A转置的零空间。
零空间是行空间的正交补,即零空间包含所有与行空间垂直的向量。
任 意 x ∈ N ( A ) 有 A x = 0 A T A x = 0 所 以 x ∈ N ( A T A ) 所 以 N ( A ) ⊂ N ( A T A ) 对 任 意 x ∈ N ( A T A ) 有 0 = x T 0 = x T A T A x = ( A x ) T A x 注 意 A x 为 列 向 量 , 所 以 A x = 0 所 以 x ∈ N ( A ) 所 以 N ( A T A ) ⊂ N ( A ) 得 证 N ( A T A ) = N ( A ) 任意x \in N(A)有Ax=0\\ A^TAx=0\\ 所以x \in N(A^TA)\\ 所以N(A) \subset N(A^TA)\\ 对任意 x \in N(A^TA)有\\ \begin{aligned} 0 &= x^T0\\ &=x^TA^TAx\\ &=(Ax)^TAx\\ \end{aligned}\\ 注意Ax为列向量,所以Ax=0\\ 所以x \in N(A)\\ 所以N(A^TA) \subset N(A)\\ 得证N(A^TA)=N(A)\\ 任意x∈N(A)有Ax=0ATAx=0所以x∈N(ATA)所以N(A)⊂N(ATA)对任意x∈N(ATA)有0=xT0=xTATAx=(Ax)TAx注意Ax为列向量,所以Ax=0所以x∈N(A)所以N(ATA)⊂N(A)得证N(ATA)=N(A)
N ( A T A ) = N ( A ) , r a n k ( A T A ) = r a n k ( A ) N(A^TA)=N(A),rank(A^TA)=rank(A) N(ATA)=N(A),rank(ATA)=rank(A)
A T A A^TA ATA可逆 ⇔ \Leftrightarrow ⇔A的零空间内只有零向量 ⇔ \Leftrightarrow ⇔A的各列线性无关
n n n维空间中向量 b b b投影到向量 a a a,投影记作 p , p = x a , e = b − p 垂 直 于 a , a T ( b − x a ) = 0 , x = a T b a T a , p = a a T b a T a p,p=xa,e=b-p垂直于a,a^T(b-xa)=0,x=\frac{a^Tb}{a^Ta},p=a\frac{a^Tb}{a^Ta} p,p=xa,e=b−p垂直于a,aT(b−xa)=0,x=aTaaTb,p=aaTaaTb,投影矩阵 P = a a T a T a P=\frac{aa^T}{a^Ta} P=aTaaaT,投影为 p = P b p=Pb p=Pb
r a n k ( P ) = 1 rank(P)=1 rank(P)=1,P的列空间是通过a的一条线,基是a
P T = P P^T=P PT=P
P 2 = P P^2=P P2=P,对b连续投影2次,和投影1次结果一样
A x = b Ax=b Ax=b可能无解,而 A x Ax Ax总在 A A A的列空间中,找到列空间中与 b b b最接近的向量,即 b b b的投影 p p p,求解 A x ^ = p , x ^ A\widehat{x}=p,\widehat{x} Ax =p,x 就是最接近原问题的解。
对于 m m m维空间的 n n n维子空间,有基向量 a 1 , a 2 , ⋯ , a n a_1,a_2,\cdots,a_n a1,a2,⋯,an,空间外有向量 b b b,b在空间中的投影记作 p p p, e = b − p e=b-p e=b−p为b中垂直于空间的分量, p p p为基的线性组合,即 p = a 1 x 1 ^ + a 2 x 2 ^ + ⋯ + a n x n ^ p=a_1\hat{x_1}+a_2\hat{x_2}+\cdots+a_n\hat{x_n} p=a1x1^+a2x2^+⋯+anxn^,令 A = [ a 1 a 2 ⋯ a n ] , x ^ = [ x 1 ^ x 2 ^ ⋯ x n ^ ] , A x ^ = p A=\left[\begin{array}{cccc}a_1 & a_2 & \cdots & a_n\end{array}\right],\hat{x}=\left[\begin{array}{c}\hat{x_1}\\\hat{x_2}\\ \cdots \\\hat{x_n}\end{array}\right],A\hat{x}=p A=[a1a2⋯an],x^=⎣⎢⎢⎡x1^x2^⋯xn^⎦⎥⎥⎤,Ax^=p,由 a i ⊥ e a_i \perp e ai⊥e,得以下方程:
{ a 1 T ( b − A x ^ ) = 0 a 2 T ( b − A x ^ ) = 0 ⋯ a n T ( b − A x ^ ) = 0 即 [ a 1 T a 2 T ⋯ a n T ] ( b − A x ^ ) = [ 0 0 ⋯ 0 ] 即 A T ( b − A x ^ ) = 0 \left\{ \begin{aligned} &{a_1}^T(b-A\hat{x})=0\\ &{a_2}^T(b-A\hat{x})=0\\ &\cdots \\ &{a_n}^T(b-A\hat{x})=0\\ \end{aligned} \right.\\ 即\left[\begin{array}{c}{a_1}^T \\ {a_2}^T \\ \cdots \\ {a_n}^T\end{array}\right](b-A\hat{x})=\left[\begin{array}{c}0 \\ 0 \\ \cdots \\ 0\end{array}\right]\\ 即A^T(b-A\hat{x})=0\\ ⎩⎪⎪⎪⎪⎨⎪⎪⎪⎪⎧a1T(b−Ax^)=0a2T(b−Ax^)=0⋯anT(b−Ax^)=0即⎣⎢⎢⎡a1Ta2T⋯anT⎦⎥⎥⎤(b−Ax^)=⎣⎢⎢⎡00⋯0⎦⎥⎥⎤即AT(b−Ax^)=0
e = ( b − A x ^ ) , e ∈ N ( A T ) , N ( A T ) 与 A 的 列 空 间 正 交 , 所 以 e ⊥ C ( A ) e=(b-A\hat{x}),e \in N(A^T),N(A^T)与A的列空间正交,所以e \perp C(A) e=(b−Ax^),e∈N(AT),N(AT)与A的列空间正交,所以e⊥C(A)
解上述方程,由 r a n k ( A T A ) = r a n k ( A ) , A T A rank(A^TA)=rank(A),A^TA rank(ATA)=rank(A),ATA列满秩可逆,得 x ^ = ( A T A ) − 1 A T b , p = A ( A T A ) − 1 A T b , 投 影 矩 阵 P = A ( A T A ) − 1 A T \hat{x}=(A^TA)^{-1}A^Tb,p=A(A^TA)^{-1}A^Tb,投影矩阵P=A(A^TA)^{-1}A^T x^=(ATA)−1ATb,p=A(ATA)−1ATb,投影矩阵P=A(ATA)−1AT,此处注意A不是方阵,所以逆不能化简。A如果是方阵,则 C ( A ) = R n , P = I C(A)=R^n,P=I C(A)=Rn,P=I,b就不在空间外,b的投影就是它本身。
对 于 可 逆 矩 阵 M , ( M M − 1 ) T = ( M − 1 ) T M T = I , 得 到 ( M T ) − 1 = ( M − 1 ) T P T = ( A ( A T A ) − 1 A T ) T = A ( ( A T A ) − 1 ) T A T = A ( ( A T A ) T ) − 1 A T = A ( A T A ) − 1 A T = P P 2 = A ( A T A ) − 1 A T A ( A T A ) − 1 A T = A ( A T A ) − 1 A T = P 对于可逆矩阵M,(MM^{-1})^T=(M^{-1})^TM^T=I,得到\\ (M^T)^{-1}=(M^{-1})^T\\ \begin{aligned} P^T&=(A(A^TA)^{-1}A^T)^T\\ &=A((A^TA)^{-1})^TA^T\\ &=A((A^TA)^T)^{-1}A^T\\ &=A(A^TA)^{-1}A^T\\ &=P\\ P^2&=A(A^TA)^{-1}A^TA(A^TA)^{-1}A^T\\ &=A(A^TA)^{-1}A^T\\ &=P \end{aligned} 对于可逆矩阵M,(MM−1)T=(M−1)TMT=I,得到(MT)−1=(M−1)TPTP2=(A(ATA)−1AT)T=A((ATA)−1)TAT=A((ATA)T)−1AT=A(ATA)−1AT=P=A(ATA)−1ATA(ATA)−1AT=A(ATA)−1A
文章浏览阅读1.6k次。安装配置gi、安装数据库软件、dbca建库见下:http://blog.csdn.net/kadwf123/article/details/784299611、检查集群节点及状态:[root@rac2 ~]# olsnodes -srac1 Activerac2 Activerac3 Activerac4 Active[root@rac2 ~]_12c查看crs状态
文章浏览阅读1.3w次,点赞45次,收藏99次。我个人用的是anaconda3的一个python集成环境,自带jupyter notebook,但在我打开jupyter notebook界面后,却找不到对应的虚拟环境,原来是jupyter notebook只是通用于下载anaconda时自带的环境,其他环境要想使用必须手动下载一些库:1.首先进入到自己创建的虚拟环境(pytorch是虚拟环境的名字)activate pytorch2.在该环境下下载这个库conda install ipykernelconda install nb__jupyter没有pytorch环境
文章浏览阅读5.2k次,点赞19次,收藏28次。选择scoop纯属意外,也是无奈,因为电脑用户被锁了管理员权限,所有exe安装程序都无法安装,只可以用绿色软件,最后被我发现scoop,省去了到处下载XXX绿色版的烦恼,当然scoop里需要管理员权限的软件也跟我无缘了(譬如everything)。推荐添加dorado这个bucket镜像,里面很多中文软件,但是部分国外的软件下载地址在github,可能无法下载。以上两个是官方bucket的国内镜像,所有软件建议优先从这里下载。上面可以看到很多bucket以及软件数。如果官网登陆不了可以试一下以下方式。_scoop-cn
文章浏览阅读4.5k次,点赞2次,收藏3次。首先要有一个color-picker组件 <el-color-picker v-model="headcolor"></el-color-picker>在data里面data() { return {headcolor: ’ #278add ’ //这里可以选择一个默认的颜色} }然后在你想要改变颜色的地方用v-bind绑定就好了,例如:这里的:sty..._vue el-color-picker
文章浏览阅读640次。基于芯片日益增长的问题,所以内核开发者们引入了新的方法,就是在内核中只保留函数,而数据则不包含,由用户(应用程序员)自己把数据按照规定的格式编写,并放在约定的地方,为了不占用过多的内存,还要求数据以根精简的方式编写。boot启动时,传参给内核,告诉内核设备树文件和kernel的位置,内核启动时根据地址去找到设备树文件,再利用专用的编译器去反编译dtb文件,将dtb还原成数据结构,以供驱动的函数去调用。firmware是三星的一个固件的设备信息,因为找不到固件,所以内核启动不成功。_exynos 4412 刷机
文章浏览阅读2w次,点赞24次,收藏42次。Linux系统配置jdkLinux学习教程,Linux入门教程(超详细)_linux配置jdk
文章浏览阅读3.3k次,点赞5次,收藏19次。xlabel('\delta');ylabel('AUC');具体符号的对照表参照下图:_matlab微米怎么输入
文章浏览阅读119次。顺序读写指的是按照文件中数据的顺序进行读取或写入。对于文本文件,可以使用fgets、fputs、fscanf、fprintf等函数进行顺序读写。在C语言中,对文件的操作通常涉及文件的打开、读写以及关闭。文件的打开使用fopen函数,而关闭则使用fclose函数。在C语言中,可以使用fread和fwrite函数进行二进制读写。 Biaoge 于2024-03-09 23:51发布 阅读量:7 ️文章类型:【 C语言程序设计 】在C语言中,用于打开文件的函数是____,用于关闭文件的函数是____。
文章浏览阅读3.4k次,点赞2次,收藏13次。跟随鼠标移动的粒子以grid(SOP)为partical(SOP)的资源模板,调整后连接【Geo组合+point spirit(MAT)】,在连接【feedback组合】适当调整。影响粒子动态的节点【metaball(SOP)+force(SOP)】添加mouse in(CHOP)鼠标位置到metaball的坐标,实现鼠标影响。..._touchdesigner怎么让一个模型跟着鼠标移动
文章浏览阅读178次。项目运行环境配置:Jdk1.8 + Tomcat7.0 + Mysql + HBuilderX(Webstorm也行)+ Eclispe(IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持)。项目技术:Springboot + mybatis + Maven +mysql5.7或8.0+html+css+js等等组成,B/S模式 + Maven管理等等。环境需要1.运行环境:最好是java jdk 1.8,我们在这个平台上运行的。其他版本理论上也可以。_基于java技术的停车场管理系统实现与设计
文章浏览阅读3.5k次。前言对于MediaPlayer播放器的源码分析内容相对来说比较多,会从Java-&amp;gt;Jni-&amp;gt;C/C++慢慢分析,后面会慢慢更新。另外,博客只作为自己学习记录的一种方式,对于其他的不过多的评论。MediaPlayerDemopublic class MainActivity extends AppCompatActivity implements SurfaceHolder.Cal..._android多媒体播放源码分析 时序图
文章浏览阅读2.4k次,点赞41次,收藏13次。java 数据结构与算法 ——快速排序法_快速排序法