앤트로픽 전 연구원 "이대로면 인류가 AI 통제 못할 수도"

[아이뉴스24 정승필 기자] 앤트로픽을 떠난 전직 연구원이 인공지능(AI) 개발 경쟁이 계속되면 인류가 AI를 통제하지 못할 수 있다고 주장했다.

5일(현지시간) 블룸버그통신 등에 따르면 앤트로픽 전 연구원 제이컵 콕슨은 뉴욕시의회 AI 청문회에 출석해 "우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다"고 말했다.

콕슨은 AI 개발 경쟁이 계속되면 인류가 AI에 통제권을 잃을 가능성이 더 크다고 봤다. 최악의 경우 이 같은 상황이 인류 멸종으로 이어질 수 있다며 업계의 개발 방식을 "극도로 무모하다"고 비판했다.

특히 속도를 우선해 기술을 먼저 내놓고 문제가 생기면 나중에 고치는 실리콘밸리식 개발 방식도 비판했다. 일반 소프트웨어와 달리 강력한 AI 모델에는 이런 접근을 적용해서는 안 된다는 취지다.

이에 따라 프런티어 AI 모델 개발 속도를 조절할 필요가 있다고 했다. 뉴욕시의회가 검토 중인 AI '킬 스위치'에 대해서는 단기 대응책으로는 도움이 될 수 있지만 장기적인 안전을 보장하기에는 부족하다고 평가했다.

킬 스위치는 AI가 통제 범위를 벗어나거나 위험한 행동을 할 경우 시스템 작동을 즉시 중단하는 긴급 차단 장치다.

콕슨은 지난달 앤트로픽을 떠날 당시에도 AI 기업들의 개발 경쟁을 문제 삼았다. 앤트로픽과 오픈AI가 속도 경쟁 속에서 안전 문제를 충분히 다루지 못하고 있다고 지적했다.

최근 인터뷰에서도 "향후 1~2년이 인류에 결정적인 시기라는 게 공통된 인식"이라고 말했다. AI 안전 대책을 마련할 시간이 많지 않다는 취지다.