함수를 벡터로 보는 직관에서 출발해, 함수들이 이루는 벡터 공간, 제곱 적분 가능 함수, 내적과 노름, 완비성까지를 살펴 힐베르트 공간을 소개하고, 푸리에 급수와 양자역학에서의 응용을 간단히 설명한다.
선형대수의 도구들은 유클리드 공간(예: )에서 작업할 때 매우 유용하다. 이러한 도구를 함수나 수열 같은 추가적인 수학적 구성물에도 적용할 수 있다면 얼마나 좋을까? _힐베르트 공간_은 바로 이를 가능하게 해 준다 — 선형대수를 함수에 적용할 수 있게 한다.
벡터를 바라보는 방법은 여러 가지가 있다; 표준적인 해석은 수들의 순서 있는 목록이다. 을 예로 들어 보자:
이는 세 개의 수로 이루어진 목록이며, 각 수에는 인덱스가 붙어 있다. 는 1.4, 는 4.2, 등등. 벡터를 생각하는 또 다른 방법은 _함수_이다(엄밀한 수학적 의미에서). 의 벡터는 정의역(인덱스) 이고 공역이
인 함수이며, 즉:
이제 우리의 벡터가 N차원이라고 상상해 보자: . 함수 표기법을 쓰면 라고 쓸 수 있다. 이는 어떤 N에 대해서도 작동하며, 사실 무한한 N에도 작동한다. 그러면 우리의 벡터는 자연수에서 실수로 가는 함수, 즉 가 된다.
하지만 더 나아갈 수도 있다; 인덱스로 임의의 실수를 허용하면 어떨까? 그러면 우리의 벡터는 이고, 좀 더 익숙한 이름으로 바꿔 부를 수도 있다: . 이 “벡터”는 단지 실수에서 실수로 가는 함수다.
비록 모든 원소를 명시적으로 적을 수는 없지만(무한히 많고, 대부분의 인덱스는 유리수가 아니어서 유한한 표기가 불가능하다), 대신 인덱스를 원소에 대응시키는 규칙을 생각해 낼 수 있다. 예를 들어, 는 그런 규칙이다. 주어진 임의의 인덱스 _x_에 대해 값을 로 대응시킨다. 우리는 함수를 벡터로 생각하는 데 익숙하지 않지만, 정의 몇 가지를 주의 깊게 확장하면 충분히 가능하다!
따라서 함수는 무한 차원의 벡터로 볼 수 있다. 다음 단계는 함수에 대해 _벡터 공간_을 어떻게 정의할 수 있는지 보는 것이다.
함수들은 표준적인 덧셈과 스칼라 곱셈 연산과 함께 벡터 공간을 이룬다.
완전한 일반성을 위해,
를 임의의 집합으로, 를(실수 또는 복소수)로 두자.
를 를 대응시키는 모든 함수의 집합이라 하자. 와 수 에 대해, 함수의 덧셈과 스칼라 곱셈을 다음과 같이 정의한다:
그러면
는 이 연산들과 함께 에 대한 벡터 공간을 이룬다. 증명은 부록 A를 보라.
벡터 공간은 유용하지만, 힐베르트 공간으로 나아가 함수에 대해 더 흥미로운 연산들을 하려면 추가적인 구조가 필요하다.
이제부터는 값이 복소수인 함수로 전환하겠다(실수값 함수는 그 특수한 경우일 뿐이다). 함수 가 _제곱 적분 가능_이라고 불리려면 다음을 만족해야 한다:
이러한 함수들의 집합은 보통 로 표기되며, 앞 절에서 논의한 함수 벡터 공간의 _부분공간_을 이룬다(증명은 부록 B).
함수의 제곱에 대한 적분은 벡터의 유클리드 노름과 동일하다; 직관적으로는 벡터에서 말하는 _길이_의 척도로 작용한다. 함수의 경우에는 보통 _에너지_라고 부른다[1].
선형대수 도구상자에서 더 많은 도구를 끌어오려면, 에서의 내적을 다음과 같이 정의하자:
왜 이렇게 정의할까? 다음은 복소수값을 갖는 N차원 벡터 두 개 사이의 내적 정의이다:
익숙한가? 함수 버전은 이 합을 무한한 구간(말하자면 전체 x-축)에 대해 적분으로 일반화한 것이다.
다음 단계로, 위에서 정의한 내적 연산과 함께 를 취하면 이 _내적 공간_이 됨을 보이고자 한다. 이를 위해 무엇보다 먼저 해야 할 일은, 에 있는 임의의 함수 쌍에 대해 내적이 유한함을 보이는 것이다(적분이 수렴하지 않으면 다룰 수 없다). 이는 코시-슈바르츠 부등식의 적분형을 사용하여 할 수 있다:
이므로, 우변은 유한하고 따라서 내적도 유한하다. 여기에서 가 제곱 적분 가능하다는 조건이 등장한다 — 제곱 적분 가능하지 않다면 내적을 정의할 수 없다.
내적의 다른 성질들도 쉽게 보일 수 있으며, 이를 보여 주는 자료는 온라인에 풍부하다[2].
따라서 는 여기서 보인 내적 연산과 함께 내적 공간을 이룬다.
이 내적을 이용해 우리의 공간에서의 _노름_을 다음과 같이 정의할 수 있다:
다시 말해, 에 있는 함수들이 제곱 적분 가능하므로 노름이 존재하고, 노름의 통상적인 요구사항들을 모두 만족함을 쉽게 보일 수 있다.
제곱 적분 가능 함수들의 집합이 적절한 벡터 공간을 이루며, 내적 연산과 함께 내적 공간도 이루고 노름도 가진다는 것을 보았다. 그렇다면 선형대수에 필요한 모든 것을 갖춘 것일까?
아직은 아니다. 이 공간은 또한 완비(complete)해야 한다. “complete”라는 용어는 수학에서 지나치게 과부하되어 있으므로, 여기서 무엇을 의미하는지 분명히 하자: 간단히 말해, 집합에 “구멍”이 없어야 한다 — 집합 안의 원소로 이루어진 어떤 수열도 집합 밖의 원소로 수렴하지 않아야 한다[3]. 좀 더 정확히 말해, 이 공간의 모든 코시 수열이 수렴하면 그 공간은 완비이다.
이는 우리를 방대한 고급 주제인 실해석학으로 깊이 이끈다. 리스-피셔 정리는 가 완비임을 보여 준다.
여기에 의 성질로서 완비성을 추가하면, 는 _힐베르트 공간_이 된다.

이 문맥에서 바나흐 공간이라는 용어도 들을 수 있다. 바나흐 공간은 힐베르트 공간보다 더 일반적이다: 노름이 주어진 완비 공간은 바나흐 공간이다(이 노름이 내적에서 유도될 필요는 없다). 완비인 내적 공간은 힐베르트 공간이다 — 힐베르트 공간의 노름은 우리가 위에서 본 것처럼 그 내적으로 정의된다.
푸리에 급수는 수학에서 가장 빛나고 영향력이 큰 아이디어 중 하나다. 이 주제를 더 깊이 파고들고 싶지만, 그러려면 글 하나(아니면 책 한 권)가 더 필요할 것이다.
간단히 말해, 는 힐베르트 공간을 이루므로 그 위에서 푸리에 급수를 정의할 수 있다. 특히, 함수에 대한 내적은 에서 _직교성_과 _기저 벡터_의 개념을 정의하게 해 준다. 그런 다음 이는 임의의 함수를, 그 공간을 생성(spanning)하는 일련의 기저 함수의 가중합으로 표현하는 데 사용된다. 더 나아가, 공간의 완비성은 푸리에 급수가 실제로 그 공간 안의 함수들로 수렴함을 보장한다.
흥미로운 점은, 푸리에는 해석학이 성숙하고 힐베르트 공간이 정의되기 몇십 년 전에 자신의 아이디어를 제시했다는 것이다. 이 때문에 그 당시 많은 수학자들(가장 유명하게는 라그랑주)이 푸리에 이론이 충분히 엄밀하지 않다고 반대했다. 그러나 이 이론은 많은 유용한 상황에서 훌륭하게 작동했고, 이후 함수해석학의 발전이 그것을 더 견고한 이론적 토대 위에 올려놓는 데 도움을 주었다.
또 하나 관련된, 내가 아주 멋지다고 생각하는 예: 이 이론이 어떻게 선형대수의 도구를 함수에 적용하도록 도와주는지 언급했는데, 일반화된 푸리에 급수는 이를 훌륭히 보여 준다.
대부분의 사람들은 삼각함수 푸리에 급수에 익숙하지만, 이 이론은 더 일반적이며 벡터 공간의 기저를 이루는 상호 직교 함수 집합이라면 어떤 것이든 적용된다. 다항식 푸리에 급수도 있을까? 그렇다. 그리고 이는 선형대수의 고전적 도구 중 하나인 그람-슈미트 과정을 사용해 유도할 수 있다. 그 결과가 바로 르장드르 다항식이다.
이 모든 것은 정말 흥미롭고, 앞으로 이 주제에 대해 더 많이 쓸 수 있기를 바란다.
양자역학에서 입자의 상태는 힐베르트 공간의 파동함수로 기술된다. 내적은 확률로 해석될 수 있다. 양자역학의 연산자들은 그 공간 위의 선형 변환으로 볼 수 있다. 이는 무한 차원에서 선형대수를 적용하게 해 주며, 유용한 수학적 도구의 보물 상자를 열어 준다.
상기한 바와 같이, 우리는 함수들의 집합 를 다루고 있으며, 여기서
는 임의의 집합이고 는
또는 이다. 이 집합
는, 원소들 사이의 덧셈과 스칼라 곱셈과 함께 벡터 공간을 이룬다. 이를 보이기 위해, 벡터 공간의 모든 공리를 증명한다:
벡터 덧셈의 결합법칙:
이는 실수나 복소수에서의 덧셈이 결합법칙, 교환법칙 등을 만족함에 따라 매우 매끄럽게 진행된다.
벡터 덧셈의 교환법칙:
벡터 덧셈의 항등원:
함수 는 가법 항등원 역할을 한다:
벡터 덧셈의 역원:
을 가법 역원으로 정의하면, 앞과 같이:
스칼라 곱셈의 결합법칙:
스칼라 에 대해:
스칼라 곱셈의 항등원:
스칼라 1을 스칼라 곱셈의 항등원으로 쓰자.
의 결과는 실수 또는 복소수 스칼라이므로, 다음이 자명하게 성립한다:
스칼라 곱셈의 벡터 덧셈에 대한 분배법칙:
스칼라 곱셈의 스칼라 덧셈에 대한 분배법칙:
스칼라 와 에 대해:
가 함수 벡터 공간의 부분공간임을 보이려면, 다음 성질들을 증명해야 한다:
영(0) 원소
영 원소 는 에 속한다:
덧셈에 대한 닫힘성
우리의 함수들은 복소수값 함수임을 기억하자. 임의의 두 복소수에 대해(이 글 참조):
와 임을 보이는 것은 매우 쉽고, 또한 도 성립한다. 따라서:
이를 바탕으로,
와 의 합이 제곱 적분 가능한지 확인해 보자:
값
와 은 단지 복소수이므로, 위에 보인 부등식을 사용해 다음과 같이 쓸 수 있다:
우변의 두 적분은 유한하므로, 좌변도 유한하다.
스칼라 곱셈에 대한 닫힘성
와 스칼라 가 주어졌을 때:
[1]우리는 총 에너지가 유한한 함수들을 다루고자 한다. 이는 꽤 강한 제한임에 유의하자! 푸리에 해석에서는 보통 제곱 적분 가능성 요구를 유한한 구간으로 바꾸는데 — 그 경우에도 모든 도구가 잘 작동하며 — 주기를 갖는 함수들을 다룬다.
[2]여기서는 증명을 포함하지 않았는데, 일부는 약간 기술적이고 실해석학의 용어를 필요로 하기 때문이다.
[3]이 조건을 만족하지 않는 고전적인 예는 — 유리수 집합 이다; 유리수의 무한 합이 무리수가 될 수 있다: . 무한합은 까다롭다!