ASAPAlphaEvolve 딥다이브: AI가 56년 수학 기록을 깬 방법
구글 딥마인드의 AlphaEvolve는 'AI가 새로운 알고리즘을 스스로 발견할 수 있는가'에 구체적인 답을 내놓은 사례입니다. Gemini가 코드를 제안하고 자동 평가자가 검증하는 진화 루프로, 1969년 이후 56년간 깨지지 않던 행렬 곱셈 기록을 갈아치웠습니다. 게다가 50개가 넘는 수학 난제에 도전해 일부를 개선했고, 구글의 데이터센터와 Gemini 학습까지 스스로 최적화했습니다. 이 글에서는 AlphaEvolve가 무엇인지, 어떻게 작동하는지, 무엇을 이뤘는지, 그리고 RSI와의 연결까지 정리합니다.
AlphaEvolve란 무엇인가
AlphaEvolve는 구글 딥마인드가 공개한 'Gemini 기반 진화형 코딩 에이전트'입니다. 범용 알고리즘을 발견·최적화하기 위해, 거대 언어모델의 창의적 제안과 자동 평가자의 검증을 진화 프레임워크로 결합한 시스템입니다.
핵심은 '사람이 정답을 알려 주지 않는다'는 점입니다. 문제와 평가 기준만 주면, AlphaEvolve가 후보 해법을 만들어 내고 스스로 점수를 매겨 더 나은 쪽으로 진화시킵니다.
어떻게 작동하나
작동 방식은 진화(evolution) 그 자체입니다. Gemini가 코드 변형(해법 후보)을 제안하면, 자동 평가자가 그 코드를 실제로 돌려 점수를 매기고, 점수가 높은 후보가 살아남아 다음 세대의 출발점이 됩니다.
이 '제안 → 검증 → 선택 → 반복'이 수천 번 돌면서 사람은 생각하기 어려운 해법까지 도달합니다. 핵심 전제는 '자동으로 검증 가능한 문제'라는 점이며, 그래서 답을 채점할 수 있는 알고리즘·수학 영역에서 특히 강합니다.
56년 기록을 깬 행렬 곱셈
가장 유명한 성과는 행렬 곱셈입니다. AlphaEvolve는 4×4 복소수 행렬을 48번의 스칼라 곱셈으로 계산하는 알고리즘을 찾아, 이 설정에서 최선으로 알려졌던 슈트라센(1969)의 방법을 처음으로 넘어섰습니다.
이는 무려 56년간 깨지지 않던 기록입니다. 행렬 곱셈은 AI 학습부터 그래픽스까지 거의 모든 계산의 바닥에 깔린 연산이라, 한 번의 개선이 광범위한 효율로 이어질 수 있습니다.
수학·인프라 성과
수학에서도 AlphaEvolve는 해석·기하·조합론·정수론의 미해결 문제 50여 개에 도전했습니다. 약 75%에서 기존 최고 수준과 동등한 해를 찾았고, 약 20%에서는 알려진 최선의 해를 개선했습니다.
현실 인프라 성과도 큽니다. 구글 데이터센터 스케줄링을 개선해 컴퓨팅 자원을 회수했고, Gemini 학습의 핵심 행렬 연산 커널을 23% 빠르게 만들어 전체 학습 시간을 1% 줄였습니다. Gemini 규모에서 1%는 수십만 GPU 시간에 해당합니다.
RSI와의 연결, 그리고 한계
주목할 점은 AlphaEvolve가 자신을 떠받치는 Gemini의 학습까지 최적화했다는 것입니다. AI가 AI의 인프라를 개선하는, 재귀적 자기개선(RSI)의 현실적 사례에 가깝습니다.
다만 만능은 아닙니다. AlphaEvolve의 힘은 '자동으로 채점 가능한 문제'에서 나오므로, 정답을 명확히 검증하기 어려운 영역에는 그대로 적용되지 않습니다. 즉 '검증 가능한 평가자'를 설계하는 것이 이 방식의 진짜 열쇠입니다.