이차곡선의 표준형

방정식 \(2x^2 + 2xy + 2y^2 = 3\)과 \(x^2 + 4xy + y^2 = 3\)은 생김새가 비슷하지만, 그려 보면 하나는 비스듬히 누운 타원이고 다른 하나는 비스듬한 쌍곡선이다. \(xy\)항이 있으면 교과서에서 배운 표준형과 모양이 달라 바로 알아보기 어렵다. 좌표축을 알맞게 돌리면 \(xy\)항이 사라진다는데, 몇 도를 돌려야 할까? 그리고 돌리지 않고도 타원인지 쌍곡선인지 가려낼 수 있을까?

3.5.1이차식을 행렬로 쓰다

이차식 \(ax^2 + bxy + cy^2\)은 \(\vec x = (x, y)\)와 대칭행렬 \(A = \begin{pmatrix}a & b/2\\ b/2 & c\end{pmatrix}\)으로 \(\vec x^TA\vec x\)라 쓸 수 있다. \(xy\)의 계수를 반씩 나누어 두 자리에 넣어야 행렬이 대칭이 된다. 대칭행렬은 \(A = QDQ^T\)로 직교대각화되므로, 새 좌표 \(\vec X = Q^T\vec x\)를 쓰면 \(\vec x^TA\vec x = \vec X^TD\vec X = \lambda_1X^2 + \lambda_2Y^2\)이 된다. 직교행렬 \(Q\)는 회전이므로, 좌표축을 고유벡터 방향으로 돌리면 \(xy\)항이 사라진 표준형을 얻는다.

그래서 그래프를 그리거나 축을 돌리지 않고도, 행렬식의 부호만 보고 곡선의 종류를 안다. 행렬식이 양수이면 두 고윳값의 부호가 같고, 대각합이 양수이면 둘 다 양수여서 \(k > 0\)일 때 타원이다. 행렬식이 음수이면 부호가 달라 쌍곡선이고, 0이면 한 고윳값이 0이어서 평행한 두 직선 같은 퇴화한 경우가 된다. 축을 돌리는 각은 고유벡터의 방향이 정하며, \(a = c\)이면 고유벡터가 \((1, 1)\)과 \((1, -1)\)이어서 늘 45°이다.¹

3.5.2표준형에서 크기 읽기

표준형 \(\lambda_1X^2 + \lambda_2Y^2 = k\)에서 타원이면 반축의 길이는 \(\sqrt{k/\lambda_1}\)과 \(\sqrt{k/\lambda_2}\)이다. 고윳값이 클수록 그 방향의 반축이 짧다. 쌍곡선이면 양수 고윳값의 방향으로 꼭짓점이 놓이고, 점근선의 기울기는 고윳값의 비로 정해진다. 이렇게 행렬의 고윳값과 고유벡터만으로 곡선의 종류, 방향, 크기를 모두 알 수 있다.

3.5.3예제 풀이

행렬은 \(\begin{pmatrix}2 & 1\\ 1 & 2\end{pmatrix}\)이고 고윳값 3, 1에 단위 고유벡터 \(\tfrac{1}{\sqrt2}(1, 1)\), \(\tfrac{1}{\sqrt2}(1, -1)\)이다. 이 방향의 좌표 \(X\), \(Y\)로 \(3X^2 + Y^2 = 3\), 곧 \(X^2 + \dfrac{Y^2}{3} = 1\)이다. 반축은 \(y = x\) 방향으로 1, \(y = -x\) 방향으로 \(\sqrt3\)인 타원이다.

\(5x^2 - 4xy + 2y^2\)의 행렬은 \(\begin{pmatrix}5 & -2\\ -2 & 2\end{pmatrix}\)이고 행렬식은 \(10 - 4 = 6 > 0\), 대각합은 \(7 > 0\)이므로 두 고윳값이 모두 양수이다. 그래서 오른쪽이 6으로 양수인 이 곡선은 타원이다. 실제로 특성방정식 \(\lambda^2 - 7\lambda + 6 = 0\)에서 고윳값은 6과 1이고, 표준형은 \(6X^2 + Y^2 = 6\)이다. 즉 \(xy\)항이 있는 이차곡선은 계수로 만든 대칭행렬을 직교대각화해 좌표축을 고유벡터 방향으로 돌리면 표준형이 되고, 고윳값의 부호가 곡선의 종류를 정한다.

아래 탐구 카드에서 \(xy\)항이 있는 이차곡선의 좌표축을 돌려 표준형으로 바꾸어 보고, 그리지 않고 곡선의 모양을 판정해 보자.

1. 고윳값의 부호로 이차식의 모양을 가르는 방법은 함수의 극값 판정에도 쓰인다. 두 변수 함수의 이계도함수로 만든 대칭행렬의 고윳값이 모두 양수이면 극소, 모두 음수이면 극대, 부호가 다르면 말안장 모양의 안장점이다.