AI, 수학 난제 정복의 시대
인공지능의 비약적 발전, 범용인공지능(AGI)으로 가는 핵심 열쇠는 수학
불과 2년 전만 해도 인공지능(AI) 모델은 초등학교 수준의 산술 연산에 머물러 있었습니다. 하지만 오늘날 AI는 국제 수학 올림피아드 수준을 넘어, 최첨단 연구 수학 분야의 난제까지 해결하는 놀라운 발전을 보여주고 있습니다. 이러한 급진적 변화의 중심에는 바로 OpenAI의 선임 연구원인 세바스티안 부벡(Sebastian Bubeck)과 어니스트 류(Ernest Ryu)가 있습니다. 이들은 OpenAI 팟캐스트를 통해 수학이 범용인공지능(AGI)으로 가는 길에서 왜 핵심적인 시험대가 되었는지 심층적으로 설명했습니다.
4년 전만 해도 부벡 연구원은 구글(Google)의 미네르바(Minerva) 모델이 좌표 평면에 점들을 연결하여 선을 그리는 것을 보고 깊은 인상을 받았다고 회고합니다. 당시만 해도 추론 모델이라는 개념 자체가 존재하지 않았습니다. 그러나 현재의 AI 시스템들은 필즈상(Fields Medal) 수상자들의 일상적인 연구 작업을 돕는 수준에 이르렀습니다. 이는 AI의 발전 속도가 얼마나 경이로운지를 단적으로 보여주는 사례입니다. 부벡 연구원은 18개월 전 한 학회에서 참석한 수학자들 중 80%가 대규모 언어 모델(LLM)이 연구 문제를 해결하는 것은 불가능하다고 생각했었다는 점을 언급하며, 현재의 성과가 당시로서는 상상하기 어려웠던 일임을 강조했습니다.
실제로 UCLA 수학 교수 출신인 어니스트 류 연구원은 ChatGPT를 활용해 최적화 이론의 네스테로프(Nesterov) 방법에 관한 42년 묵은 미해결 문제를 단 12시간 만에 해결했습니다. AI의 도움 없이 이 문제에 40시간 이상을 매달렸음에도 실마리조차 찾지 못했던 것을 감안하면, AI가 문제 해결에 가져온 혁신적인 변화를 실감할 수 있습니다. 류 연구원은 이 과정에서 자신이 오류를 찾아내고 유망한 방향으로 대화를 이끌어가는 ‘검증자(verifier)’ 역할을 했다고 밝혔습니다. 이처럼 인간의 전문성과 AI의 추론 능력이 결합될 때, 상상 이상의 시너지를 발휘할 수 있음을 입증한 것입니다. 이러한 일련의 사건들은 AI가 단순한 정보 처리 도구를 넘어, 인간의 지적 탐구 영역을 확장하는 강력한 파트너로 진화하고 있음을 시사합니다.
수학: AGI 추론 능력의 최종 시험대
인간 교육 방식과 닮은 AI의 수학 훈련, ‘AGI 시간’의 확장과 새로운 지식 생성
부벡 연구원은 수학이 AGI 발전의 단순한 척도가 아니라, 범용적으로 지능적인 시스템이 갖춰야 할 역량을 정확히 요구하기 때문에 핵심적인 시험대가 된다고 설명합니다. 수학적 증명은 몇 시간, 며칠, 심지어 몇 년에 걸쳐 길고 일관된 추론 과정을 요구하며, 이 과정에서 단 하나의 실수라도 발생하면 나머지 부분이 아무리 옳더라도 전체 논증이 무너져 버립니다. 이러한 엄격한 조건을 다룰 수 있는 시스템은 스스로 오류를 찾아내고 수정할 수 있는 능력을 반드시 갖춰야 합니다. OpenAI 연구원들은 이러한 수학 훈련을 통해 얻은 역량을 생물학, 재료 과학 등 다른 분야로 확장하고자 합니다. 이는 수학이 단순히 문제를 푸는 도구를 넘어, 복잡한 문제 해결을 위한 근본적인 사고력을 길러주는 수단임을 의미합니다.
부벡 연구원은 이를 인간의 교육 방식과 유사하다고 비유합니다. 학생들이 수학을 배우는 것은 장차 수학 증명을 하기 위해서가 아니라, 논리적으로 사고하는 법을 강제하기 때문이라는 것입니다. 실제로 수학은 벤치마크로서 실용적인 이점도 많습니다. 문제의 진술이 명확하고, 답을 명확하게 확인할 수 있으며, 결과의 옳고 그름에 대해 논쟁할 여지가 없다는 점은 AI 모델의 추론 능력을 객관적으로 평가하기에 이상적인 환경을 제공합니다. 이러한 특성 덕분에 수학은 AI 모델이 얼마나 깊이 있는 추론과 자기 수정 능력을 갖추었는지 측정하는 데 가장 적합한 도구가 됩니다.
부벡 연구원은 또한 ‘AGI 시간’이라는 개념을 도입했습니다. 2년 전 AI 모델은 인간 학생의 사고 과정을 수 분 동안 시뮬레이션할 수 있는 수준이었습니다. 하지만 현재는 그 시간이 며칠, 심지어 일주일까지 늘어났습니다. 다음 목표는 몇 주, 몇 달 동안 지속적으로 사고하는 능력을 갖추는 것입니다. OpenAI의 훈련 방법은 수학에만 국한된 것이 아니라 일반적인 방식으로 설계되었기 때문에, 수학 분야에서의 진보는 다른 과학 분야에서도 유사한 발전을 이끌어낼 것으로 기대됩니다. 연구원들은 장시간 동안 스스로 문제를 해결할 수 있는 ‘자동화된 연구원(automated researcher)’을 구축하는 것을 목표로 하고 있습니다.
이러한 맥락에서 부벡과 류 연구원은 헝가리 출신 수학자 에르되시 팔(Paul Erdős)이 남긴 미해결 문제들을 살펴보았습니다. 부벡 연구원은 OpenAI의 내부 모델이 처음에는 주로 심층 문헌 검색을 통해 10개의 미해결 문제에 대한 해답을 찾아냈다고 밝혔습니다. 당시 이와 관련된 그의 트윗은 구글 CEO인 데미스 하사비스(Demis Hassabis)와의 공개적인 논쟁을 불러일으켰는데, 많은 사람들이 이를 OpenAI가 새로운 증명을 만들어냈다는 주장으로 오해했기 때문입니다. 그러나 부벡 연구원에 따르면, 현재 ChatGPT와 내부 모델들은 학술지에 게재될 만한 가치를 지닌 10개 이상의 진정으로 새로운 해법을 실제로 도출해냈습니다. 한때 비현실적인 주장처럼 들렸던 것이 이제 현실이 되었으며, 그 발전 속도는 더욱 빨라지고 있습니다. 부벡 연구원은 이를 모델이 기존 지식을 재조합하는 수준을 넘어, 새로운 수학적 지식을 생산하는 단계로 도약하고 있다는 증거로 보고 있습니다. 과학적 진보가 단순히 영리한 지식 재조합과 약간의 추론을 넘어선 것인지에 대한 철학적인 질문은 여전히 남아 있지만, AI가 지식 창조의 영역에 발을 들여놓았다는 사실은 부인할 수 없습니다.
AI 시대, 인간 전문가의 역할 재정의
기술의 발전만큼 중요해진 인간의 전문성, AI와 협력의 새로운 패러다임
두 연구원은 이러한 강력한 AI 도구를 피상적으로 사용하는 것에 대해 경고합니다. 이들은 오히려 전문성이 그 어느 때보다 중요해졌다고 주장하는데, 그 이유는 숙련된 수학자만이 AI 모델을 생산적으로 활용할 수 있기 때문입니다. 전문 지식 없이 AI가 생성한 긴 증명을 소셜 미디어에 올리는 비전문가들은 대개 틀린 내용을 게재할 뿐입니다. 류 연구원은 이러한 현상이 프로그래밍 분야에서도 나타난다고 지적합니다. 디버거(debugger) 사용 능력을 상실하는 새로운 세대의 프로그래머들이 생겨나고 있다는 것입니다. 이는 AI가 제공하는 편리함에만 의존하여 인간 본연의 문제 해결 능력이 저하될 수 있음을 시사합니다. 부벡 연구원은 따라서 과학자들이 더 이상 필요 없다는 주장은 매우 위험하다고 강조합니다. 학술 기관은 이러한 변화 속에서 자신들의 역할을 적극적으로 재정립하고, 인간 전문가의 역량을 강화하는 데 힘써야 합니다.
동시에 AI는 과학 연구의 효율성을 극대화하는 데 크게 기여할 수 있습니다. 예를 들어, 현재 몇 년이 걸리는 증명 검증 과정을 AI가 가속화하고, 이미 출판된 논문에서 문제점을 찾아내는 데 도움을 줄 수 있습니다. 이는 인간 연구자들이 더욱 복잡하고 창의적인 문제에 집중할 수 있도록 시간을 벌어주는 역할을 합니다. AI가 단순 반복 작업을 자동화하고, 인간의 인지적 한계를 보완함으로써 과학 발견의 속도를 획기적으로 높일 수 있는 것입니다. 궁극적으로는 AI가 인간 지능의 대체재가 아닌, 강력한 증폭제로서 기능하며 새로운 지식의 지평을 열어갈 것이라는 기대를 모으고 있습니다.
AI와 수학, 지능의 미래를 그리다
인간과 AI의 협업, 새로운 과학적 발견과 윤리적 과제에 대한 심층적 고찰
OpenAI 연구원들의 통찰은 수학이 단순한 학문 영역을 넘어, 범용인공지능(AGI)의 핵심 기반이자 발전 경로임을 명확히 보여줍니다. AI 모델이 초등 산술에서 올림피아드, 나아가 연구 수준의 수학 난제를 해결하는 능력은 AI가 단순한 패턴 인식기를 넘어, 복잡한 추론과 문제 해결 능력을 갖춘 지능 시스템으로 진화하고 있음을 증명합니다. 특히, 어니스트 류 연구원의 42년 묵은 난제 해결 사례는 인간 전문가의 검증 및 방향 제시와 AI의 강력한 연산 및 추론 능력이 결합될 때 어떤 혁신이 가능한지 잘 보여줍니다.
이러한 발전은 AI 산업계, 개발자, 기업, 소비자, 그리고 정부에 이르기까지 다양한 이해관계자들에게 지대한 파급효과를 미칠 것입니다. AI 개발자들에게는 더욱 견고하고 추론 가능한 모델 구축의 중요성을, 기업에게는 AI를 활용한 R&D 혁신 가능성을 제시합니다. 소비자는 AI를 통해 전에 없던 복잡한 문제를 해결하는 서비스를 경험할 수 있게 될 것입니다. 그러나 동시에 부벡과 류 연구원이 경고했듯이, AI 도구의 피상적인 사용은 오히려 역효과를 낳을 수 있으며, 인간 전문가의 역할과 전문 지식의 중요성은 더욱 부각될 것입니다. 학술 기관은 AI 시대에 맞는 새로운 교육 및 연구 패러다임을 정립하고, 인간의 창의성과 AI의 효율성을 조화시키는 방안을 모색해야 합니다.
앞으로 AI 기술 발전은 우리가 과학적 발견을 정의하고 수행하는 방식에 근본적인 변화를 가져올 것입니다. AI가 ‘새로운’ 지식을 창조하는 능력은 과학 철학적 질문을 던지며, 인간의 역할과 지능의 본질에 대한 깊은 성찰을 요구합니다. AI가 증명 검증을 가속화하고 오류를 찾아내는 등 긍정적인 역할을 수행하는 동시에, 인간의 비판적 사고와 문제 해결 능력을 잃지 않도록 균형 잡힌 접근이 필수적입니다. 결국, AGI로 가는 길은 AI의 기술적 진보뿐만 아니라, 인간과 AI가 어떻게 협력하여 지식의 한계를 확장하고 인류의 복잡한 문제들을 해결해 나갈 것인가에 대한 고민과 함께 이어질 것입니다.
참고
Maximilian Schreiner, OpenAI researchers explain why math is the road to AGI
About the Author
AI FOCUS에서 더 알아보기
구독을 신청하면 최신 게시물을 이메일로 받아볼 수 있습니다.
