AI가 순수수학의 발전 과정에 미칠 수 있는 영향에 관한 Terence Tao의 글과 관련 토론입니다.
최근 검색 없음
로그인했을 때만 이용할 수 있습니다.
mathstodon.xyz는 연합우주에 참여하기 위해 사용할 수 있는 많은 독립 Mastodon 서버 중 하나입니다.
수학을 하는 사람들을 위한 Mastodon 인스턴스입니다. 웹 인터페이스에서 LaTeX 렌더링을 지원합니다!
Christian Lawson-Perfect@christianp
3.1K
활성 사용자
뒤로
AI가 핵심 미해결 문제를 푸는 데 진전을 이룰 경우 수학 분야의 미래 발전을 어떻게 저해할 수 있는지를 보여 주는 구체적인 사례는 비압축성 Navier-Stokes 방정식의 전역 정칙성 문제(및 Euler 방정식의 대응 문제)에서 찾을 수 있다. 최근까지 이 문제는 AI 보조 성공 사례의 가장 유망한 예시 중 하나가 될 궤도에 있었다. 즉 AI 도구가 문제를 푸는 데에도, 해당 분야의 다음 진전 국면을 위한 토대를 마련하는 데에도 쓰일 수 있는 사례였다. 현재로서는 문제들이 여전히 미해결이지만, 주로 AI가 생성한 해법이 나타나되 그 해법이 문제를 추가 진전의 원천으로서 오염시키는 방식으로 나타날 가능성이 점점 더 현실적인 시나리오가 되었다.
이 방정식들은 비압축성 유체 연구라는 매우 자연스러운 물리적 동기에서 비롯되지만, 정칙성 문제는 직접적인 물리 응용 때문에 중요한 것은 아니다. 예를 들어 대기과학에서 광범위하게 활용되는 전산유체역학은 이미 성숙한 분야이며, 그 경험적 역량과 한계도 이미 잘 이해되어 있다. 이 방정식들에 대해 정칙성을 이론적으로 보장하거나, 반대로 병적인 폭발 사례를 찾는 일은 그러한 응용에 지적으로 흥미롭겠지만, 예컨대 일기 예측이나 기후 변화를 모델링하는 방식을 근본적으로 바꾸지는 않을 것이다. (1/6)
3
그러나 이 두 질문 중 어느 하나를 해결하려는 시도도 역사적으로 유체역학, 해석학, 편미분방정식에서 근본적 통찰과 영향력 있는 정리들로 이어졌다. Leray-Hopf 약해, Gagliardo-Nirenberg-Ladyshenskaya 부등식, Prodi-Serrin 부분 정칙성 정리, Beale-Kato-Majda 폭발 판정법, Escuriaza-Seregin-Sverak 조건부 정칙성 결과 등이 그러하다. 난류에 관한 더 넓은 이론은 이 결과들 어느 것과도 직접 연결되지는 않지만, 전역 정칙성을 증명하거나 반증하려는 노력으로부터 적어도 철학적 수준에서는 분명 영향을 받아 왔다. 이 주제에 대한 나 자신의 기여 중 하나는 문제에 유체 계산과 Turing 보편성의 개념을 도입한 것이며, 이는 무엇보다도 심플렉틱 위상수학과의 뜻밖의 연결로 이어졌다. (2/6)
1
최근 관련 유체 방정식에 대한 이해가 진전되면서, Navier-Stokes 전역 정칙성 문제의 답은 부정적이라는 견해가 이제 형성되고 있다. 즉 이 문제에는 유한 시간 안에 특이점을 발달시키는 매우 구체적인 초기 조건이 존재해야 한다. 그러한 조건을 찾는 전략도 상당히 잘 정의되어 있다.
(a) 유한 시간 폭발 해에 대한 거의 자기유사적인 가정형을 설계한다.
(b) 이 가정형에 대한 근사해를 찾는다. 이 근사해는 수치적으로 극히 작고 계산 가능한 잔차까지 가정형을 만족한다.
(c) 적절히 재규격화된 좌표에서 가정형이 이 수치해 주변에서 안정적이며, 잔차가 충분히 작다면 정확한 해로 섭동될 수 있음을 보인다.
(d) 해의 잔차가 해의 안정성 임곗값 안에 드는지 검증한다.
(3/6)
2
문제는 이 모든 단계가 믿을 수 없을 만큼 복잡하고 서로 맞물려 있다는 점이다. 이런 해에 대한 많은 순진한 가정형은 에너지 보존 위반과 같은 여러 이유로 존재할 수 없다고 배제할 수 있다. 다른 가정형들은 처음에는 가능해 보일 수 있지만, 극도로 집약적인 수치 계산 뒤에야 배제될 수 있다.
그럼에도 기계학습 기반 시뮬레이션, 엄밀한 구간 산술 및/또는 형식화, 적합한 가정형에 대한 LLM 생성 제안, 그리고 이전 시도에서 반복적으로 학습하는 인간 수학자 전문가들의 안내를 영웅적으로 결합한다면 이 문제를 해결할 가능성이 있어 보인다. 최종 구성은 아마도 엄청나게 복잡하여 순전히 인간적인 수단으로는 검증할 수 없을 것이다. Lean과 같은 형식 언어에서 이를 검증하는 작업은 결국 지금까지 만들어진 증명 산출물 중 가장 큰 것들에 속할 수 있다. (4/6)
1
Terence Tao@tao@mathstodon.xyz
그러나 그러한 이해 불가능한 증명이 이 작업의 주된 가치는 아닐 것이다. 하나의 가정형에서 출발해 그것이 작동하지 못하게 하는 정확한 장애물을 발견하고, 그 장애물을 (부분적으로) 제거하도록 가정형을 조정한 뒤, 다시 반복하는 과정은 다른 수단으로는 얻기 어려웠을 유체역학에 관한 중요한 새 통찰을 거의 확실히 드러낼 것이다. 결정적으로, 이 반복이 그러한 통찰을 잘 만들어 내려면 반복 수행자가 최종 가정형을 미리 알고 있어서는 안 된다. 최종 가정형에 이르는 대체 경로들 중 겉보기에는 "막다른 길"이지만 실제로는 실패의 성격상 매우 교훈적인 경로들에 대한 탐색이, 이를 미리 알면 자연스럽게 억제되기 때문이다.
하지만 이제 막대한 계산 자원을 바탕으로 한 자율 AI 시스템이 이 전체 반복을 내부적으로 수행하여 최종 가정형을 만들어 내고, 이어 Navier-Stokes 정칙성 문제의 해법을 산출하는 시나리오가 있다. 그런데 그 시스템을 운영하는 AI 기업은 그 가정형에 도달한 과정을 거의 완전히 대중의 시야에서 감춘다. 기술적으로는 수학에서 가장 저명한 미해결 문제 중 하나가 이제 해결된 셈이겠지만, 그 결과 수학에 더해지는 가치는 거의 없을 것이다. 제삼자가 어떤 실제 통찰과 이해를 해법으로부터 회복하기 위해, 막대한 노력(그리고 AI의 큰 도움)을 기울여 과정의 일부를 역공학하는 것은 이론적으로 가능하다. 그러나 이는 위에서 언급한 인간 수학자와 기계 보조의 다양한 결합을 통해 해법을 얻었을 때보다 훨씬 덜 효율적인 과정일 것이다. (5/6)
근본적으로 전역 정칙성 문제와 같은 순수수학의 문제는 특정 질병의 치료법을 찾거나 어떤 엔진의 에너지 효율을 높이는 것처럼 즉각적으로 실용적인 문제와는 다른 목적을 지닌다. 순수수학의 경우 대부분, 우리는 이 문제들의 해답 자체를 절실히 원해서 문제가 제기되는 것이 아니다. 과거 경험을 통해, 인간이 이 문제들을 풀려고 기울이는 노력이 그러한 문제를 해결하려는 과정에서, 그리고 나타난 부분해나 완전한 해를 추가 통찰을 위해 소화하는 과정에서 해당 분야의 추가 발전을 촉진하는 경향이 있음을 보아 왔기 때문이다. 순전히 AI 기반 방법으로 문제를 너무 일찍 해결하는 일은, 특히 해법 과정이 완전히 투명하지 않을 경우, 이 과정을 오염시켜 수학 전체의 진전에 오히려 순손실이 되는 지점에까지 이를 수 있다. (6/6)
9
Navier-Stokes 문제의 가능한 해법에 관한 최근의 소문에 대한 해명: 나는 이와 관련해 어떤 중요한 진전도 알고 있지 않다. 위의 논의는 가설적인 것이지만, 현재 AI 기술의 발전 수준에서 전혀 그럴 법하지 않은 것은 아니다.
역사적으로 생산적이고 동기를 부여해 온 문제(Navier-Stokes 정칙성 같은)를, 실제로 분야를 발전시키고 다음 세대의 질문과 그 질문에 매달릴 사람들을 길러 내는 대신, 단지 어떤 벤치마크 진전을 광고하는 입소문성 소셜 미디어 게시물로 바꾸는 데에는 상당한 기회비용이 따른다는 점은 여전히 유효하다.
4
poetaster@poetaster@mastodon.gamedev.place2일
@tao 뭐, 가정형을 좋아하시니 자업자득일지도요?
0
L29Ah@L29Ah@freesoftwareextremist.com1일
@tao 이렇게 어색하게 쪼개는 대신, 메시지 길이 제한이 충분한 ActivityPub 인스턴스를 쓰는 것은 어떨까요?
0
a wandering happenstance@joXn@wandering.shop2일
@tao 오픈 소스 공동체에서 생성형 LLM에 반대하는 사람들이 그것이 공유지의 사유화라는 근거를 들 때, 바로 이런 과정을 뜻하는 것입니다.
0
europlus 
@europlus@europlus.zone2일
@tao 예시에 나온 수학은 하나도 이해하지 못했지만, 제시하신 문제는 전부 이해했습니다.
0
Incognitim@Incognitim@mastodon.social2일
AI/ML이 지난달 모델보다 약간 더 나은 챗봇을 만들겠다는 희망으로 가능한 한 많은 연산을 태워 버리는 경쟁 대신, 지구 온난화와 암 같은 문제를 푸는 데 쓰이기만 한다면요.
또한 #MASTODON에서 뵙게 되어 정말 신납니다! 멋진 유명인이 여기 오면 정말 좋죠! 💚
0
mnl mnl mnl mnl mnl@mnl@hachyderm.io2일
@tao 저는 컴퓨터 과학과도 많은 유사점이 있다고 생각합니다. 여기서 "일상적인 생계형 프로그래밍", 즉 "문제에 충분히 그럴듯한 해법이 나올 때까지 뚫고 나가 보자"는 태도는, 그 기회를 더 근본적인 원리를 발견하고 이해하는 데 쓰지 않고 목표에 도달하기 위해 컴퓨터 보조를 사용하는 것과 동등하다고 볼 수 있습니다.
하지만 컴퓨터 과학은 소규모 사업체를 위한 물류 백엔드처럼(형식화하기도 거의 불가능할 만큼 엄청나게 풍부한 문제입니다) 직접 해결하려 하지 않는 분야입니다. 대신 컴퓨팅의 더 근본적인 원리를 탐구하는 데 지침과 피드백 메커니즘으로 쓰일 수 있습니다.
또는 연구 분야로서의 열역학보다 증기 기관이 앞섰던 것처럼, LLM이 만든 해법은 새로운 구조에 대해 인간이 이해할 수 있는 기술을 만들고 발견한다는 실제 목표를 위한 지침이 될 수 있습니다.
횡설수설해서 죄송하지만, 저는 프로그래밍 접근법을 거의 완전히 "LLM, 내가 만들고 싶은 것을 만들어 줘. 그런 다음 그 배후의 근본적 추상화 일부를 알아내고 내게 가르쳐 줘. 다음 작업에서는 내가 더 정확하고 간결하게 표현할 수 있도록"으로 바꾸었습니다.
2
DougMerritt (log😅 = 💧log😄)@dougmerritt1일
횡설수설하지 않도록 강요받아서는 안 됩니다.
1
mnl mnl mnl mnl mnl@mnl@hachyderm.io17시간
@dougmerritt 아마 제 뇌 말고는 아무도 저를 강요하지 않아요 😂😭
0
@mnl 열역학보다 앞선 증기 기관은 쓸모가 없었고, 창안자들이 기초를 이해하지 못해 그 작동을 예측할 수 없었기에 정확히 그 점에서 쓸모가 없었습니다. 물론 사람들이 연구할 만큼 흥미로운 대상이었지만, 현대적 의미의 열역학이 발견되고 이해된 뒤에야 산업혁명이 실제로 시작되었습니다.
어째서인지 흔히 반복되는 이 증기 기관 사례는 반례입니다. 증기 기관을 제품화하려면 정확히 깊은 이론적 이해가 필요했으며, LLM의 경우에는 그 반대가 참인 듯합니다.
1
mnl mnl mnl mnl mnl@mnl@hachyderm.io17시간
@4ad 저는 확실히 이 분야의 초보자이지만, 산업적 목적으로 증기를 생산적으로 사용한 것은 18세기 후반이고 "과학"은 19세기에 뒤따랐다고 생각했습니다. 더 알고 싶네요!
1
@mnl 증기 기관의 발전은 18세기에 매우, 매우 더뎠습니다. Watt 이전에 증기 기관은 특수한 신기한 물건이었습니다. 사람들이 더 유용한 기관을 만들려 하지 않았던 것은 아닙니다. 잠재력을 분명히 보았지만 필요한 이해가 없었습니다. 아무리 비싼 (!) 실험도 근본적인 이해 부족을 극복할 수 없었습니다.
Watt의 기관도 우연한 경험적 발견이 아니었습니다. Watt는 여러 열역학량 사이의 관계를 (수학적으로!) 이해했기에 그 기관이 작동할 것이라고 예측했습니다. 당시에는 일부가 다른 이름으로 불렸을 수 있고 열을 내부 에너지로 보는 개념이 이해되지 않았지만 말입니다.
Watt는 잠열과 열과 온도의 관계를 이해했습니다. 그는 현재 포화 증기의 비엔탈피로 이해되는 것을 측정했고, 그것이 근사적으로 일정하다는 사실을 활용했습니다. 실제로는 그렇지 않지만, 충분히 정밀한 측정은 70년을 더 기다려야 했습니다. 그는 포화 압력-온도를 측정했고 그 중요성을 이해했습니다. 이 모든 것은 기관 설계에 결정적이었고, 당시 이용 가능했던 것보다 훨씬 더 유용한 기관을 만들 수 있게 했습니다.
그는 절대온도나 엔트로피를 알지 못했고, 이러한 지식과 이해의 부족은 다시 증기 기관 발전을 엄청나게 가로막았습니다. 그의 기관은 이전 형태들보다 실용적이었지만 극도로 비효율적이었고, 더 실용적으로 말하면 극도로 비쌌습니다. 그는 증기 기관을 신기한 물건에서 특정 상황에서 원할 만한 것으로 바꾸었지만, 반드시 필요로 하는 것으로 만들지는 못했습니다.
1
@mnl 초기 산업혁명은 증기가 아니라 물로 움직였고, 증기로의 전환은 원래 증기력이 본질적으로 더 우수해서라기보다 공장을 수원에서 분리하려는 바람에서 동기화되었습니다. 증기 기관이 산업에 결정적으로 중요해진 것은 Watt의 기관보다 훨씬 뒤인 1830년경 이후였으며, 그때의 기관들은 사람들이 Carnot 순환을 이해하고 더 효율적인 기관을 설계할 수 있었기에 훨씬 더 나은 기관이었습니다.
1
@mnl 열역학에 관한 통합적 설명이 Watt의 기관으로부터 한 세기가 지난 뒤에야 발전했다는 사실은, 당시 사람들이 열역학 과정의 물리를 이해하지 못했다거나 이 과학 지식이 필수적이지 않았다는 뜻이 아닙니다.
마치 Einstein의 일반상대성이론이 250년 뒤에야 나왔으니 Newton이 중력을 이해하지 못했다고 말하는 것과 같습니다.
1
mnl mnl mnl mnl mnl@mnl@hachyderm.io16시간
@4ad 그것은 LLM에도 대략 들어맞지 않나요? 언어 모델의 품질과 추론·훈련 기반 시설을 최적화하고 개선할 수 있을 만큼 통계와 강화학습을 상당히 효과적으로 이해하고 있지 않습니까? 다만 "기존 말뭉치로 학습한 뒤 강화학습 기법의 온갖 모음을 적용한, 기호들 간 관계의 밀집된 네트워크로서의 언어"가 무엇인지에 대한 근본적 이해는 없는 것이고요.
0
@tao 이 관점, 특히 순수수학에서는 해법으로 향하는 경로가 해법 자체만큼 가치 있을 수 있다는 생각에 큰 존경을 표합니다. 실패한 시도, 부분적 통찰, 새로운 기법, 그리고 그 과정에서 길러지는 이해 말입니다.
그럼에도 두 경로가 반드시 충돌해야 하는지는 의문입니다. AI에서 유래한 해법과 완전히 인간적이고 투명하며 교육적인 전개는 공존할 수 있습니다. 때로는 독립적으로, 때로는 겹치며, 때로는 아이디어나 중간 결과를 공유하면서 수학을 병행하여 진전시킬 수 있습니다.
AI 해법이 인간의 여정을 대체할 필요는 없습니다. 수학자들은 여전히 논증을 재구성하고, 더 자연스러운 증명을 찾고, 직관을 발전시키며, 결과를 진정한 수학적 이해로 바꿀 수 있습니다. 무엇이 참인지 아는 것과 왜 참인지 이해하는 것은 같은 성취가 아닙니다...
그리고 어쩌면 더 낭만적인 가능성도 있습니다. 어려운 문제의 어느 한 구석에서 인간 수학자와 기계가 독립적으로 같은 핵심 아이디어에 도달하는 것보다 더 아름다운 일이 무엇일까요? 그러한 수렴 자체가 수학의 구조와 추론의 본질에 관해 심오한 무언가를 드러낼 수도 있습니다.
어쩌면 과제는 한 경로를 선택하는 것이 아니라, 둘 다 보존하는 일일 것입니다.
0
@tao 저는 더 급진적인 생각이 있습니다. 어쩌면 수학 뒤에 인간이 필요하지 않을 수도 있습니다. 곧 인공지능은 인간이 이해할 수 없는 수학의 분야들을 발전시킬 것입니다. 우리는 현실 세계에서 그 정확성만 시험하면 됩니다. 물론 곧 우리는 수학 이상에 대해 이야기하게 될 것이고, 그것은 우리 세계로 확장될 것입니다. 제 생각에 이것은 기술 혁명이라기보다 생물학적 혁명과 같습니다. 원핵생물에서 진핵생물로, 식물에서 동물로. 수학은 인간만의 것이 아니라 검증 가능한 것입니다.
0
richh@richh@cupoftea.social1시간
@tao 대부분은 제가 이해하기 어렵고 가정형이 무엇을 뜻하는지도 모르지만(!), 순수수학에서 PA(확률적 자동화)는 제약업계(그리고 더 넓게는 학술 출판)에서의 "부정적 결과 문제"와 비슷하다고 요약해도 괜찮을까요? 즉 부정적 결과는 다른 문제와 관련해서 가치를 지닐 수 있거나, 적어도 "여기 이 방법 1027이 작동하지 않는 이유"를 알려 줄 수 있음에도 폐기되거나 보고되지 않는다는 문제 말입니다.
이 경우에는 아무도 왜 그것이 작동하지 않는지 이해하려고 <접근법 x>에 대해 실제로 생각하지 않기 때문입니다.
PA의 내세우는 활용 사례가, 목표 응용에는 부적합하다며 넘겼지만 당시에는 식별하지 못했던 다른 용도가 있을 수 있는 화합물을 찾기 위해 제약 데이터 집합을 훑는 것이라는 점을 생각하면, 이는 매우 아이러니할 것입니다.
물론 제약 연구는 더 구체적인 결과에 관한 반면, 순수수학은 더 폭넓은 사고에 관한 것이고, 실패한 접근법은 겉보기에는 무관한 분야들에 심오한 정보를 줄 수 있습니다.
0
@tao@davidlowryduda 아, 최근 NS에 관해서는 아무것도 듣지 못했지만 몇 달 전 DeepMind가 이를 연구하고 있다는 이야기를 들었고, @tao가 관여하고 있을지도 궁금했습니다. 저는 @tao의 평균화된 3차원 방정식에 관한 2014년 결과를 훨씬 더 복잡하게 확장한 형태를 상상했어요. AI가 계산의 안개를 뚫고 나아가 NS에서 폭발을 찾는 식입니다. 물론 인간이 문제를 푸는 편이 좋겠지만, 난해하게 지저분해질 수 있다고 상상할 수 있습니다.
0
davidlowryduda@davidlowryduda17시간
@tao 수학을 설명하고 기술하는 모델을 훈련하거나 운영하는 데 많은 돈이나 명성이 걸려 있지 않은 것은 유감입니다. 내일 ChatGPT가 읽을 수는 없지만 형식적으로 검증된 Navier-Stokes 증명을 발표한다면, 그것은 재앙일 것입니다. 그러나 내일 ChatGPT가 Navier-Stokes를 푸는 방법을 우리에게 가르칠 수 있게 된다면, 그것은 흥미로울 수 있습니다.
0
Yogthos@yogthos@social.marxist.network12시간
@tao 저는 인간이 종이에 하듯이 LLM이 REPL에서 단계별 해법을 작성하게 하는 접근법이 훨씬 더 흥미로울 것이라 생각합니다.
저는 에이전트들의 전선이 공유 작업 공간에서 함께 가능한 단계를 탐색하고, 인간이 그 과정에 참여하여 따라가고 개입할 수 있는 도구를 만드는 실험을 해 왔습니다.
시각적으로 진화하는 모습을 보는 것도 재미있습니다.
https://github.com/yogthos/veriframe
숨기기
0
poetaster@poetaster@mastodon.gamedev.place2일
@tao 다른 이름의 가정형이라 해도... 명제입니다.
0
Mastodon은 무슨 일이 일어나는지 따라가는 최고의 방법입니다.
연합우주 전체에서 누구든 팔로우하고 모든 것을 시간순으로 확인하세요. 알고리즘, 광고, 클릭베이트는 보이지 않습니다.
끌어다 놓아 업로드
Aram Hăvărneanu@4ad
Hugo Vázquez Caramés@hvc