[Linear algebra] 22. Diagonalization and powers of A

Lecture

https://ocw.mit.edu/courses/18-06-linear-algebra-spring-2010/resources/lecture-22-diagonalization-and-powers-of-a/

Lecture 22: Diagonalization and powers of A | Linear Algebra | Mathematics | MIT OpenCourseWare

 

Note

• Ax=λx 를 만족하는 eigenvector x 들을 matrix로 표현했을 때 S라고 하자. (S는 n independent eigenvector로 이루어져 있다고 가정한다.)
• 이 때 AS를 정리해보면 위 사진과 같이 AS=[λ1x1, λ2x2, λ3x3 ... ] = SΛ 로 정리할 수 있다. AS=SΛ.
  
  

• 최종적으로 경우, A=SΛS.inv 형태를 띄는데 이런 형태는 특히나 A의 k승을 다룰 때 유용하다.
• 예를 들어 위 사진처럼 제곱을 다룰 때, A^2는 eigenvector는 동일하고 eigenvalue만 제곱이 된 형태이며 식은 여전히 간단하다는 것을 한 눈에 볼 수 있다.
• 만약 A=LU 혹은 A=QR과 같은 형태를 사용했다면 A^k= LULULULU.... 혹은 =QRQRQRQR...과 같은 분석 불가능한 형태가 되었을 것이다. 
  
  

• 여기서 한가지 발견할 수 있는 therem은 위와 같다. 모든 eigenvalue가 크기 1 이하일 때 해당 matrix A는 제곱을 반복할 때 결국 0으로 수렴하는 형태를 보인다는 사실이다. 즉, matrix가 stable한지 평가할 수 있다. 
  
  

• 한 가지 다시 기억해야할 점은 n x n matrix A에 대해서 n independent eigenvector를 갖고 있을 때만 위와 같이 diagonalize할 수 있다.
• 즉 모든 eigenvalue가 서로 다를 때 diagonalize할 수 있다. (위 사진에서 30 repeated 가 아니라 no repeated다.)
  
  

• (A가 diagonalizalbe할 때) A^k system을 손쉽게 풀 수 있다는 특징은 굉장히 powerful한데, 특히 differential equation을 풀 때도 활용할 여지가 생긴다.
• 위와 같은 식은 differential equation을 풀 때 자주 보게 되는데 이 경우 우측 사진과 같이 초기 값 u0가 eigenvector의 조합이기만 하면 (혹은 eigenvector의 조합으로 표현하기만 하면) A^k u0 값은 아주 손쉽게 구할 수 있게 된다. 
  
  

• 피보나치 수열 또한 eigenvalue를 이용하여 분석하면 쉽다. 위와 같이 u_k를 trick을 써서 하나의 matrix로 표현했을 때 피보나치 수열은 우측 사진의 A matrix가 연속으로 곱해지는 상황과 같다고 할 수 있다.
• 이 상황으로부터 eigenvalue를 뽑아낼 수 있는데 이 값을 알면 피보나치 수열의 F_n 을 계산하는 것이 쉬워진다.
• 대략 이전 값 대비 eigenvalue배 증가한다는 경향성도 파악할 수 있을 뿐만 아니라 정확한 값도 계산할 수 있다.