케일리-해밀턴 정리
본문행렬 \(A = \begin{pmatrix}2 & 1\\ 1 & 2\end{pmatrix}\)의 10제곱 \(A^{10}\)을 구하려면 행렬을 아홉 번 곱해야 할 것 같다. 그런데 \(A^2\)을 계산해 보면 \(\begin{pmatrix}5 & 4\\ 4 & 5\end{pmatrix}\)이고, 이것은 \(4A - 3I\)와 정확히 같다. 그렇다면 \(A^3 = A\cdot A^2 = 4A^2 - 3A\)이고, 다시 \(A^2\)을 \(4A - 3I\)로 바꾸면 \(A^3\)도 \(A\)와 \(I\)만으로 쓸 수 있다. \(A^2 = 4A - 3I\)라는 관계는 어디서 나왔을까? 이 관계로 \(A^{10}\)을 빨리 구할 수 있을까?
3.2.1행렬도 자기 특성방정식을 만족한다
\(2\times2\) 행렬 \(A\)의 특성방정식은 \(\lambda^2 - (\mathrm{tr}\,A)\lambda + \det A = 0\)이다. 여기서 \(\lambda\) 자리에 행렬 \(A\)를 넣고 상수항에 단위행렬을 붙이면 \(A^2 - (\mathrm{tr}\,A)A + (\det A)I\)가 되는데, 이 행렬은 언제나 영행렬이다. 이것이 케일리–해밀턴 정리이다. \(A = \begin{pmatrix}a & b\\ c & d\end{pmatrix}\)에 직접 넣어 성분을 계산하면 모든 항이 지워져 확인할 수 있다. 처음 질문의 행렬은 \(\mathrm{tr}\,A = 4\), \(\det A = 3\)이어서 \(A^2 - 4A + 3I = O\)이다.
\(2\times2\) 행렬 \(A\)에 대하여 \[A^2 - (\mathrm{tr}\,A)A + (\det A)I = O\]이다. 그래서 모든 자연수 \(n\)에 대해 \(A^n = p_nA + q_nI\)인 수 \(p_n\), \(q_n\)이 있고, \(A\)의 서로 다른 고윳값 \(\lambda_1\), \(\lambda_2\)에 대해 \(\lambda_i^n = p_n\lambda_i + q_n\)을 만족한다.
\(A^2\)을 \(A\)와 \(I\)로 쓸 수 있으면, \(A^3 = A\cdot A^2\)에 다시 \(A^2\)을 바꿔 넣어 \(A^3\)도 \(A\)와 \(I\)로 쓸 수 있다. 이것을 되풀이하면 모든 거듭제곱이 \(p_nA + q_nI\) 꼴이 된다. 계수는 고윳값으로 바로 구한다. 고유벡터 \(\vec v\)에 \(A^n = p_nA + q_nI\)를 곱하면 \(\lambda^n\vec v = (p_n\lambda + q_n)\vec v\)이므로, 두 고윳값에서 각각 \(\lambda^n = p_n\lambda + q_n\)이라는 일차방정식이 생긴다. 이 둘을 연립하면 \(p_n\), \(q_n\)이 나온다.1
3.2.2점화식으로 보기
\(A^{n+1} = A\cdot A^n = p_nA^2 + q_nA = p_n(4A - 3I) + q_nA\)이므로 \(p_{n+1} = 4p_n + q_n\), \(q_{n+1} = -3p_n\)이다. 그래서 \(p_n\)은 \(p_{n+1} = 4p_n - 3p_{n-1}\)이라는 점화식을 따른다. 이 점화식의 특성방정식이 바로 \(A\)의 특성방정식 \(x^2 - 4x + 3 = 0\)이고, 그 근 3과 1이 일반항 \(p_n = \dfrac{3^n - 1}{2}\)을 정한다. 행렬의 거듭제곱 문제가 수열의 점화식 문제로 바뀐 것이다.
3.2.3예제 풀이
처음 질문의 행렬에서 케일리–해밀턴 정리를 성분으로 확인하고, \(A^{10}\)을 구하여라. 또 \(A^{-1}\)을 케일리–해밀턴 정리로 구하여라.
\(A^2 = \begin{pmatrix}5 & 4\\ 4 & 5\end{pmatrix}\), \(4A = \begin{pmatrix}8 & 4\\ 4 & 8\end{pmatrix}\), \(3I = \begin{pmatrix}3 & 0\\ 0 & 3\end{pmatrix}\)이므로 \(A^2 - 4A + 3I = O\)이다. 그림 2의 연립방정식에서 \(p = 29524\), \(q = -29523\)이므로 \(A^{10} = 29524A - 29523I = \begin{pmatrix}29525 & 29524\\ 29524 & 29525\end{pmatrix}\)이다.
\(A^2 - 4A + 3I = O\)을 \(A(4I - A) = 3I\)로 고쳐 쓰면 \(A^{-1} = \dfrac13(4I - A) = \dfrac13\begin{pmatrix}2 & -1\\ -1 & 2\end{pmatrix}\)이다. 확인하면 \(A\cdot\dfrac13\begin{pmatrix}2 & -1\\ -1 & 2\end{pmatrix} = \dfrac13\begin{pmatrix}3 & 0\\ 0 & 3\end{pmatrix} = I\)이다. 즉 행렬은 자기 특성방정식을 만족하므로 높은 거듭제곱과 역행렬을 모두 \(A\)와 \(I\)의 일차결합으로 낮출 수 있고, 그 계수는 고윳값에서 세운 연립방정식으로 바로 구한다.
아래 탐구 카드에서 \(A^2 + pA + qI = O\)이 되는 \(p\), \(q\)를 찾아보고, 행렬 곱셈을 거듭하지 않고 높은 거듭제곱을 구해 보자.
- 영국의 케일리는 1858년 \(2\times2\)와 \(3\times3\) 행렬에서 이 정리를 확인하고 일반적인 경우도 성립한다고 주장했다. 아일랜드의 해밀턴은 그보다 앞서 사원수를 연구하며 특별한 경우를 보였고, 일반적인 증명은 1878년 독일의 프로베니우스가 했다.
케일리–해밀턴 정리에 따라 \(2\times2\) 행렬은 자기 특성방정식 \(A^2 - (\mathrm{tr}\,A)A + (\det A)I = O\)을 만족하므로, 모든 거듭제곱은 \(A^n = p_nA + q_nI\)로 낮아진다. 계수는 두 고윳값에서 \(\lambda^n = p_n\lambda + q_n\)을 연립해 구하고, 같은 식을 고쳐 쓰면 역행렬도 구한다. 처음 질문의 \(A^2 = 4A - 3I\)는 이 정리에서 나왔고, \(A^{10} = 29524A - 29523I\)이다.