복소해석학

복소해석학은 복소수에 대한 미적분입니다. 복소변수 $z = x + iy$의 함수를 다루며, 미분, 멱급수, 적분 같은 개념이 언제 그대로 성립하는지를 묻습니다.

핵심은 복소미분 가능성이 보통의 실수 미분 가능성보다 훨씬 더 엄격하다는 점입니다. 어떤 함수가 열린집합에서 복소미분 가능하면 그 함수를 정칙(holomorphic) 이라고 하며, 이 한 가지 조건만으로도 강력한 결과가 따라옵니다. 즉, 그 함수는 매끄럽고 국소적으로 멱급수 전개를 가집니다.

복소해석학이 다루는 것

복소해석학에서 함수는 복소수를 입력받아 복소수를 출력합니다:

$$f(z)$$

대표적인 예로는 $f(z) = z^2 + 1$ 같은 다항식, 지수함수 $e^z$, 그리고 복소수 입력으로 확장된 삼각함수가 있습니다.

주요 질문은 다음과 같습니다:

• $f(z)$는 언제 복소도함수를 가지는가?
• 그 도함수는 함수에 대해 무엇을 말해 주는가?
• 평면 위의 곡선을 따라 복소함수를 적분하면 어떤 성질이 나타나는가?
• 함수가 정칙일 때 어떤 추가 정리들을 사용할 수 있는가?

복소미분 가능성이 다른 이유

점 $z_0$에서 복소도함수는 다음과 같이 정의됩니다.

$$f'(z_0) = \lim_{h \to 0} \frac{f(z_0 + h) - f(z_0)}{h}$$

겉보기에는 보통의 도함수와 비슷하지만, 결정적인 차이가 하나 있습니다. $h$는 한 직선 위에서 왼쪽이나 오른쪽으로만 $0$에 가는 것이 아니라, 복소평면의 모든 방향에서 $0$으로 갈 수 있습니다.

바로 이 점이 복소해석학을 다르게 만듭니다. 어떤 함수가 $x$와 $y$에 대한 편도함수를 가져도 복소미분 가능하지 않을 수 있습니다. 위의 차분 몫이 접근 방향에 따라 달라질 수 있기 때문입니다.

함수가 열린집합에서 복소미분 가능하면, 그 집합에서 정칙이라고 합니다. 표준적인 복소해석학에서는 정칙함수가 핵심 연구 대상입니다.

정칙함수가 왜 그렇게 강력한가

실변수 미적분에서는 한 번 미분 가능하다고 해서 함수에 곧바로 많은 추가 구조가 생기지는 않습니다. 하지만 복소해석학에서 정칙성은 훨씬 더 강한 조건입니다.

$f$가 열린 영역에서 정칙이면, 국소적으로 다음과 같은 멱급수로 쓸 수 있습니다:

$$f(z) = a_0 + a_1(z-z_0) + a_2(z-z_0)^2 + \cdots$$

이 성질은 임의의 실수 미분 가능 함수에 대해서는 성립하지 않습니다. 그래서 복소해석학은 유난히 강한 제약을 가진 분야처럼 느껴집니다. 하나의 강한 조건이 한꺼번에 많은 결론을 이끌어 내기 때문입니다.

예제로 보기: 왜 $f(z) = \overline{z}$ 는 정칙이 아닌가

다음 함수를 생각해 봅시다.

$$f(z) = \overline{z}$$

겉보기에는 단순하지만, 이것은 정칙이 아닌 함수의 대표적인 예입니다. 정의에 따라,

$$\frac{f(z+h)-f(z)}{h} = \frac{\overline{z+h} - \overline{z}}{h} = \frac{\overline{h}}{h}$$

이제 두 방향을 확인해 봅시다:

$$\text{if } h \in \mathbb{R}, \quad \frac{\overline{h}}{h} = 1$$

하지만 $h = it$이고 실수 $t \neq 0$이면,

$$\frac{\overline{h}}{h} = \frac{-it}{it} = -1$$

극한값이 방향에 따라 달라지므로 복소도함수는 존재하지 않습니다. 이것이 바로 복소해석학이 중요하게 보는 문제입니다.

반대로 $f(z) = z^2$ 같은 다항식은 모든 곳에서 정칙입니다. 차이는 대수적으로 더 복잡하냐가 아닙니다. 모든 복소 방향에서 도함수가 같게 나오는지가 핵심입니다.

실용적인 판정법: 코시-리만 방정식

다음을

$$f(z) = u(x,y) + iv(x,y)$$

처럼 쓰고, $z = x + iy$라고 하면, 정칙성을 판정하는 표준적인 방법으로 코시-리만 방정식이 있습니다:

$$u_x = v_y, \qquad u_y = -v_x$$

이 방정식은 유용하지만, 조건을 함께 봐야 합니다. 흔히 쓰는 충분조건은 다음과 같습니다. $u$와 $v$의 1차 편도함수들이 어떤 근방에서 연속이고, 그곳에서 코시-리만 방정식이 성립하면 $f$는 그곳에서 정칙입니다.

따라서 이 방정식은 실용적인 도구이지, 가정을 확인하지 않고 기계적으로 적용하는 구호가 아닙니다.

복소해석학에서 흔한 실수

• 복소미분 가능성을 이변수 함수의 보통 미분 가능성과 같은 것으로 취급하는 것. 복소미분은 모든 방향에서 극한이 일치해야 하므로 더 엄격합니다.
• 편도함수만 있으면 충분하다고 생각하는 것. 편도함수의 존재만으로는 충분하지 않습니다.
• 정의역의 중요성을 놓치는 것. 뚫린 원판에서 정칙이라는 것과 전체 원판에서 정칙이라는 것은 다릅니다.
• $f(z) = \overline{z}$ 같은 켤레 연산이 $z$의 다항식처럼 행동할 것이라고 기대하는 것. 그렇지 않습니다.

복소해석학은 어디에 쓰이는가

복소해석학은 순수수학과 응용수학 모두에서 등장합니다.

• 기하와 해석학에서는 경로적분과 유수법을 이용해 어려운 실적분을 다루기 쉬운 계산으로 바꿀 수 있습니다.
• 물리와 공학에서는 정칙함수가 2차원 퍼텐셜 유동과 정전기학의 일부를 모델링하며, 여기서 조화함수가 중심 역할을 합니다.
• 순수수학에서는 이 분야가 정수론, 미분방정식, 푸리에 해석과 연결됩니다.

여기서도 설정이 중요합니다. 예를 들어 유수법은 피적분함수와 경로가 올바른 해석적 조건을 만족할 때 적용됩니다.

기억해야 할 것

복소해석학은 복소변수의 복소값 함수를 연구하며, 그 핵심 아이디어는 복소미분 가능성이 매우 강한 제약이라는 점입니다.

이 한 가지 생각만으로도 왜 이 과목이 보통의 미적분과 다르게 느껴지는지 설명할 수 있습니다. 함수가 정칙이 되는 순간, 많은 강력한 도구를 사용할 수 있게 됩니다.

직접 비슷한 문제를 해보세요

비슷한 문제를 직접 풀어 보세요. 극한의 정의로 $f(z) = z^3$의 도함수를 계산한 뒤, 그 결과를 $f(z) = \overline{z}$와 비교해 보세요. 하나는 왜 되고 다른 하나는 왜 실패하는지 직접 확인해 보면 개념이 훨씬 잘 남습니다.