인수분해
본문\(x^3 - 2x^2 - 5x + 6\)은 어떤 식들을 곱해서 나온 것일까? 전개는 기계적으로 할 수 있지만, 거꾸로 곱하기 전의 식을 찾을 때는 무엇을 단서로 삼아야 할까?
1.3.1전개를 거꾸로 읽기
그림 1에서 한 변이 \(a = 5\)인 정사각형의 귀퉁이에서 한 변이 \(b\)인 정사각형을 떼어 내자. 남은 L자 도형의 넓이는 \(a^2 - b^2\)이다. 이제 '옮기기' 슬라이더를 끝까지 밀면 오른쪽 띠가 아래로 돌아 들어가 직사각형 하나가 된다. 가로는 \(a + b\), 세로는 \(a - b\)이므로 넓이는 \((a + b)(a - b)\)이다.
같은 도형의 넓이를 두 가지로 썼으니 \(a^2 - b^2 = (a + b)(a - b)\)이다. 이렇게 하나의 다항식을 두 개 이상의 다항식의 곱으로 나타내는 것을 인수분해라 하고, 곱해진 각 식을 인수라 한다. 다시 말해 인수분해는 전개를 거꾸로 하는 일이고, 그래서 곱셈 공식을 오른쪽에서 왼쪽으로 읽으면 그대로 인수분해 공식이 된다.
1.3.2세제곱이 들어간 공식
곱셈 공식 \((a + b)(a^2 - ab + b^2) = a^3 + b^3\)을 거꾸로 읽으면 세제곱의 합을 인수분해할 수 있다. 같은 방법으로 다음 공식들을 얻는다.
\[a^2 + b^2 + c^2 + 2ab + 2bc + 2ca = (a + b + c)^2\] \[a^3 \pm 3a^2b + 3ab^2 \pm b^3 = (a \pm b)^3\] \[a^3 + b^3 = (a + b)(a^2 - ab + b^2), \quad a^3 - b^3 = (a - b)(a^2 + ab + b^2)\] (복부호 동순)
공식을 쓸 때는 각 항을 어떤 식의 제곱이나 세제곱으로 볼지를 먼저 정한다. 가령 \(27x^3 - 8\)은 \((3x)^3 - 2^3\)이므로 \(a = 3x\), \(b = 2\)를 넣어 \((3x - 2)(9x^2 + 6x + 4)\)이다. 여기서 뒤의 인수 \(9x^2 + 6x + 4\)를 \((3x + 2)^2\)으로 착각하기 쉬운데, 가운데 항이 \(2ab = 12x\)가 아니라 \(ab = 6x\)이다.
식이 길면 같은 덩어리를 한 문자로 바꾸어 본다. \(x^4 - 5x^2 + 4\)에서 \(x^2 = X\)로 두면 \(X^2 - 5X + 4 = (X - 1)(X - 4)\)이다. 그러면 원래 식은 \((x^2 - 1)(x^2 - 4) = (x + 1)(x - 1)(x + 2)(x - 2)\)이다.
1.3.3공식에 맞지 않을 때는 인수정리로
처음 질문의 \(P(x) = x^3 - 2x^2 - 5x + 6\)은 어느 공식의 꼴과도 맞지 않는다. 이럴 때 쓰는 단서가 인수정리이다. \(P(a) = 0\)인 \(a\)를 하나 찾으면 \(x - a\)가 인수이므로, 조립제법으로 나누어 차수를 하나 낮출 수 있다.
그런데 \(a\)를 아무 수나 넣어 볼 수는 없다. 계수가 모두 정수일 때 \(P(a) = 0\)인 정수 \(a\)가 있다면, \(a\)는 상수항 6의 약수여야 한다.1 따라서 후보는 \(\pm 1, \pm 2, \pm 3, \pm 6\)뿐이다. 차례로 넣어 보면 \(P(1) = 1 - 2 - 5 + 6 = 0\)이다.
그림 2처럼 \(x - 1\)로 나누면 몫은 \(x^2 - x - 6\)이다. 이 이차식은 중학교에서 배운 방법으로 \((x + 2)(x - 3)\)이 된다. 즉 \(P(x) = (x - 1)(x + 2)(x - 3)\)이다.
1.3.4예제 풀이
\(2x^3 - 3x^2 - 11x + 6\)을 인수분해하여라.
최고차항 계수가 2이므로 정수만이 아니라 분수도 후보가 된다. 유리수 \(\tfrac{p}{q}\)를 넣어 0이 된다면 \(p\)는 상수항 6의 약수, \(q\)는 최고차항 계수 2의 약수이다. 따라서 후보는 \(\pm 1, \pm 2, \pm 3, \pm 6, \pm \tfrac{1}{2}, \pm \tfrac{3}{2}\)이다.
정수부터 넣어 보면 \(P(1) = -6\), \(P(-1) = 12\), \(P(3) = 54 - 27 - 33 + 6 = 0\)이다. 그러면 \(x - 3\)이 인수이다. 조립제법으로 계수 \(2, -3, -11, 6\)을 3으로 나누면 아래 줄이 \(2, 3, -2, 0\)이므로 몫은 \(2x^2 + 3x - 2\)이다.
남은 이차식은 \(2x^2 + 3x - 2 = (2x - 1)(x + 2)\)이다. 전개하면 \(2x^2 + 4x - x - 2\)이므로 맞는다. 따라서 \(2x^3 - 3x^2 - 11x + 6 = (x - 3)(2x - 1)(x + 2)\)이다. 결과에 \(x = 0\)을 넣어 확인하면 \((-3)(-1)(2) = 6\)으로 원래 식의 상수항과 같다.
후보 목록은 '유리수 인수가 있다면 이 안에 있다'는 뜻일 뿐, 반드시 하나가 맞는다는 보장은 아니다. \(x^2 + 2x + 3\)처럼 후보를 다 넣어도 0이 되지 않는 식은 계수가 유리수인 범위에서 더 쪼개지지 않는다. 아래 탐구 카드에서 넓이와 부피 모형을 움직이며 공식의 조각들이 어떻게 모이는지 직접 확인해 보자.
- \(P(a) = a^3 - 2a^2 - 5a + 6 = 0\)이면 \(6 = -a^3 + 2a^2 + 5a = a(-a^2 + 2a + 5)\)이다. 오른쪽은 \(a\)의 배수이므로 정수 \(a\)는 6의 약수여야 한다.
인수분해는 전개를 거꾸로 읽는 일이므로, 곱셈 공식이 첫 번째 단서이다. 공식에 맞지 않는 삼차 이상의 식은 상수항과 최고차항 계수의 약수로 만든 후보 가운데 \(P(a) = 0\)인 값을 찾고, 조립제법으로 차수를 낮추어 간다. 그래서 처음 질문의 식은 \((x - 1)(x + 2)(x - 3)\)을 곱해서 나온 것이다.