[아이뉴스24 정종오 기자] “AI 기업들이 수학 문제 해결을 벤치마크로 삼으려는 움직임은 수학이라는 학문 자체와 수학계에 해로운 영향을 미친다. AI 기업의 목표와 수학계의 목표는 심하게 어긋나 있다.”
수학자들이 인공지능(AI) 기업의 행태를 비판하는 성명서를 내놓았다. 수학계 노벨상이라고 부르는 필즈상을 받은 25명의 학자는 최근 ‘A Severe Misalignment of AI in Mathematics(수학 분야에서 인공지능의 심각한 정렬 실패)’라는 성명을 발표했다.
수학자 테렌스 타오는 자신의 홈페이지와 Math and AI 웹페이지에 “지난 한 주 동안 논의를 통해 마련된 선언문에 최소 25명의 수상자 명단을 올리게 됐다”며 “상황의 시급성을 고려해 조속히 성명을 발표하기로 했다”라며 성명서를 공개했다.
이들은 최근 몇 달 동안 이뤄진 대형 언어 모델(LLM)의 수학적 능력 향상을 언급하며 “(수학) 문제 해결은 개념적 이해와 통찰력이라는 궁극적 목표를 달성하기 위한 도구이자 수단일 뿐 AI의 세계에서 이 점을 간과하면 도구가 본래의 목적을 저해할 수 있다”고 비판했다.
점점 더 빠른 속도로 참과 거짓 명제를 대량 생산하는 것은 새로운 아이디어에 생명을 불어넣기보다는 오히려 비옥한 토양을 파괴할 수 있다고 비판했다.
허준이 미국 프린스턴대 교수 등 필즈상 수상자 25명은 11일(현지시간) 인공지능(AI)과 수학 분야 사이에 심각한 불일치가 있다는 내용의 성명을 발표했다.
수학자들은 이 현상이 “다른 과학과 창의, 사회 전반에도 영향을 미치는 더 큰 불일치 문제의 일부”라며 “비슷한 문제에 직면할 사회 전체가 시급히 해결해야 할 과제”라고 강조했다.
엄상일 기초과학연구원(IBS) 이산수학그룹 CI는 이번 성명서를 두고 “이번에 나온 성명은 매우 시의적절하다”며 “LLM을 이용해 수학적 구조와 방법론을 좀 더 잘 이해해 수학 연구가 발전하는 데 도움이 되면 좋은데 일부 AI 업체들이나 일부 사람들은 단순히 미해결 문제를 LLM을 통해 해결했다는 것만 신경 쓰고 그것을 실제로 깊이 이해하고 발전시켜나가는 작업은 소홀히 하고 있다”고 분석했다.
엄 CI는 “수학자들의 원래 문화는 논문을 다 쓰더라도 서두르지 않고 깊게 생각해서 더 발전시키고, 논문을 완성하고 나면 강연을 통해 다른 사람들에게 잘 전달, 모두 함께 발전할 수 있게 하는 것”이라며 “LLM 활용한 수학 난제 해결 소식에서는 그런 것이 매우 부족했는데 이번 성명은 그런 문제점을 잘 지적했다”고 말했다.
나아가 엄 CI는 “수학적 내용은 전혀 모르면서 단순히 LLM을 통해 어떤 작은 문제의 반례를 작성했다는 식의 비수학 전공자들의 논문이 많이 늘어나는 형편”이라며 “이는 수학적 전문성은 전혀 없으며 내용도 이해하지 못하면서 문제를 해결했다고 하는 경우가 종종 있고 실제로 작성된 논문은 사람이 읽기가 매우 불편한 경우가 많다”고 전했다.
LLM을 활용해 대량의 문제를 동시에 도전해 그 중 몇 개를 해결했다는 식의 연구는 수학계의 새싹을 잘라 황무지로 만들지 않을까 걱정된다고 지적했다.
권현우 브라운대 응용수학과 박사과정은 “OpenAI가 학회장에 참석하며 연구에 대한 소문을 듣고 자신의 내부 머신으로 문제를 풀어 그 문제를 오래 고민해 온 저자에게 공저로 권위를 얻으려고 했다는 이야기도 들었다”며 “그 저자는 단칼에 거절한 것으로 안다”고 전했다.
권 박사과정은 “학부생, 대학원 초창기에 연습 문제를 풀며 좌절하면서 많은 어려움을 뚫고 새로운 아이디어로 문제를 해결하는 연습을 해야 하는 상황에 너무 강력한 유혹인 LLM이 곁에 있는 것”이라며 “LLM에 간단한 문제를 하나 대입하면 여러 가지 풀이가 있음에도 불구하고 하나의 답을 쉽게 얻을 수 있는 상황이니 다양한 관점으로 학생들이 문제를 바라볼 수 있는 기회를 앗아가고 있다”고 설명했다.
사람과 대화를 적극적으로 하는 시대가 멀어지고 기계와 대화하며 연구하며 LLM이 제시한 방향대로만 연구를 진행하는 미래가 되는 것에 대한 걱정이 앞선다고 우려했다. LLM 기반 연구는 다양한 생각이 하위계층에서 상위계층으로 상승하는 여유를 주지 못하고 진입단계에 있는 연구자들의 토양을 황폐화할 수 있다고 생각한다고 진단했다.
박한우 영남대 사회과학대 학장은 “(이번 성명서의 핵심은) 참과 거짓을 판별할 수 있는 명제를 AI가 점점 빠른 속도로 대량 생산하는 것이 반드시 수학의 발전을 의미하지 않으며 오히려 새로운 아이디어가 성장하는 토양을 훼손할 수도 있다고 경고하는 것”이라고 해석했다.
박 학장은 “이번 성명은 ‘반(反)AI 선언’이라기보다 AI가 수학 연구에 새로운 가능성을 제공한다는 사실을 인정하면서도 자동화 도구의 사용을 투명하게 공개하고, 결과의 정확성과 기존 연구에 대한 인용의 완전성은 인간 저자가 최종적으로 책임져야 한다고 강조하는 것”이라며 “저자성과 학문적 공로 역시 자동화 시스템이 아니라 인간에게 귀속돼야 한다는 원칙을 분명히 한다”고 설명했다.
수학과 AI에 대한 수학자들의 선언은 여러 번 있었다. 2015년 연구 평가 라이덴 선언이 ‘숫자가 학문을 대신하지 말라’는 경고였다면 2026년 수학 라이덴 선언은 ‘AI의 답이 인간의 학문적 판단과 책임을 대신하지 말라’는 경고였다고 박 학장은 해석했다. 이번 필즈상 수상자들의 성명은 여기에서 한 걸음 더 나아가 ‘속도와 정답의 대량 생산이 이해와 통찰을 대신하지 말라’고 말하는 것으로 박 학장은 해석했다.
박 학장은 “이러한 문제 제기가 AI를 학문에서 배제해야 한다는 결론으로 이어져서는 곤란하다”며 “연구자가 지켜야 할 것은 AI에 대한 단순한 ‘금지선’이 아니라 권한의 범위와 책임의 선”이라고 강조했다.
AI가 제안하거나 만든 결과라고 해도 인간이 검증·해석·수정하고 최종적으로 책임진다면 연구 과정의 일부가 될 수 있다고 박 학장은 주장했다.
박 학장은 “AI가 학문을 빠르게 만들 때 우리는 그 속도 때문에 학문의 목적을 잊고 있지는 않은가라는 질문”이라며 “AI 시대의 연구윤리는 AI 주변에 더 높은 장벽을 세우는 방향이 아니라 AI가 수행한 선택, 분석과 판단을 인간 연구자가 설명하고 검증하며 그 결과에 책임질 수 있는 구조를 만드는 방향으로 발전해야 한다”고 덧붙였다.
/정종오 기자(ikokid@inews24.com)