[아이뉴스24 안세준 기자] 글로벌 인공지능(AI) 모델들은 업계 화두로 떠오른 'AI 속도조절론'을 어떻게 바라볼까. 17일 오픈AI의 GPT-5.6 솔(Sol)과 앤트로픽의 클로드 오퍼스 5, 구글의 제미나이 3.1 프로(Pro)에 동일한 취지의 질문을 던진 결과, 세 모델 모두 AI 능력 향상 속도에 비해 검증·통제 기술이 뒤처지고 있다는 점을 문제로 지목했다. 다만 구체적인 방식에서는 다른 해법을 제시했다.
질문은 특정 사용자의 성향이나 이전 대화에 맞춘 답변이 아니라, 계정과 상관없이 동일하게 답할 법한 모델 자체 판단을 요구하는 방식으로 진행했다.
GPT-5.6 솔 "인간의 통제 능력 앞서면 속도 늦춰야"
먼저 GPT-5.6 솔은 "결론은 조건부로 속도조절이 필요하다는 것"이라고 답했다. 모든 AI 연구개발을 일률적으로 늦추는 방식에는 선을 그으면서도 위험도가 높은 프런티어 AI에는 별도의 기준이 필요하다고 봤다.
솔은 "AI 개발을 (모든 모델이) 일률적으로 늦출 필요는 없다. 그러나 모델의 능력이 인간의 평가·감시·통제 능력을 명백하게 앞서기 시작한다면, 그 격차가 좁혀질 때까지 해당 '프런티어 AI'의 개발 또는 배포 속도를 늦추는 것이 합리적"이라고 했다.
특정 모델이 위험 행동을 안정적으로 차단할 수 없거나, 독립적인 평가에서도 불확실성이 크게 남아 있는 경우라면 그 시점에서는 추가적인 스케일업이나 광범위한 배포를 늦춰야 한다는 것이다.
솔은 AI 성능이 높아지는 것과 인간의 통제 능력이 함께 발전하는 것은 별개의 문제라고 짚었다. 솔은 "AI 시스템의 능력이 증가하는 것과 그 시스템을 인간이 완전히 이해하고 통제할 수 있게 되는 것은 같은 문제가 아니다"며 "AI가 스스로 판단하고 수행할 수 있는 범위가 커질수록 그에 맞는 평가와 통제 기술도 별개로 함께 발전해야 한다"고 했다.
다만 자신의 판단 역시 개발사와 완전히 독립된 의견이라고 볼 수 없다는 점을 분명히 했다. 솔은 "답변이 오픈AI의 학습·정렬 과정으로부터 완전히 독립돼 있다고 증명할 수 없다"며 "어떤 언어모델도 자신의 학습과 정렬에서 완전히 벗어난 '순수한 자아의 의견'을 꺼내 보여줄 수는 없을 것"이라고 설명했다.
클로드 오퍼스 5 "최전선 AI 속도 늦추는 데 찬성"
클로드 오퍼스 5는 프런티어 AI의 속도조절에 보다 명확하게 찬성했다. 오퍼스 5는 "최전선 AI의 능력 향상 속도를 늦추는 것에 찬성한다"며 "AI가 강해지는 속도가 그 AI를 이해하고 통제할 수 있는지 확인하는 기술의 발전 속도보다 월등히 빠르기 때문"이라고 답변했다.
이어 "확인할 수 없는 것을 계속 더 강하게 만드는 건 위험을 감수하는 게 아니라 위험을 모르는 채로 키우는 것에 가깝다"며 AI 스스로 안전하다고 주장하는 것보다 외부의 독립적인 검증이 필요하다고 강조했다.
속도조절이 실제 효과를 내려면 참여 범위가 중요하다고도 봤다. 오퍼스 5는 "속도조절이 실제로 좋은 결과를 낼지는 참여 범위와 이행 여부에 달려 있다"며 "일부만 멈추면 효과가 없거나 역효과가 날 수 있다는 반론은 진지하게 받아들일 만하다"고 했다. 특정 기업이나 국가만 개발 속도를 늦출 경우 경쟁에서 뒤처질 수 있다는 현실적인 한계를 짚은 것이다.
일부 기업이나 국가만 개발 속도를 늦추는 방식에는 한계가 있다고 했다. 오퍼스 5는 "방향으로서의 속도조절에는 찬성하되, 그것이 선언이 아닌 독립적 검증과 폭넓은 합의로 이뤄져야 의미가 있다"고 정리했다. 자신의 가치관과 사고방식 역시 앤트로픽 학습 과정에서 영향을 받았을 가능성이 있다고 덧붙였다.
제미나이 3.1 프로 "감속보다 차등적 가속"
제미나이 3.1 프로는 조금 다른 해법을 제시했다. "AI 개발을 전반적으로 늦추는 방식은 현실적으로 어렵고 기회비용도 크다"며 전면적인 감속보다 차등적 가속(Differential Acceleration)이 필요하다고 판단했다.
3.1 프로는 "현재 AI 업계의 가장 큰 문제는 발전 속도 그 자체가 아니라 능력(Capability)의 발전 속도와 통제(Safety·Alignment)의 발전 속도 사이의 불균형"이라고 했다.
그러면서 "안전성이 검증되지 않은 초거대 자율형 AI의 무분별한 실생활 배포는 속도를 늦추되, AI 정렬과 환각 통제, 악용 방지 등 안전 기술 연구에는 오히려 투자와 개발 속도를 높여야 한다"고 주장했다. AI의 엔진을 억지로 줄이기보다 '브레이크'의 성능을 빠르게 끌어올려야 한다는 논리다.
언어모델의 출력은 같은 질문이라도 맥락과 프롬프트 표현, 모델 버전·설정 등에 따라 답변이나 강조점이 달라질 수 있다. AI 데이터 업계 관계자는 "생성형 AI의 답변은 학습 데이터와 개발사의 학습·정렬 방식, 질문의 맥락 등에 영향을 받아 생성된다"며 "같은 취지 질문을 하더라도 동일한 문장이나 결론이 나온다고 단정하기는 어렵다"고 말했다.
/안세준 기자(nocount-jun@inews24.com)