AI 안전 우려 커지는 미국…트럼프는 중국과 기술 경쟁 강조

미국 인공지능 업계에서 첨단 AI의 위험을 점검하고 안전장치를 강화해야 한다는 주장이 이어지는 가운데 도널드 트럼프 미국 대통령은 중국과의 기술 경쟁에서 미국의 우위를 유지해야 한다는 점을 강조했다. 앤트로픽과 오픈AI 등 주요 AI 기업 관계자들은 고성능 AI에 대한 안전 평가와 감독 필요성을 언급하고 있으며, 미국 정부에서는 AI 안전과 기술 경쟁력을 어떤 방식으로 함께 다룰지가 논의되고 있다.

논의의 중심에는 생성형 AI 서비스 ‘클로드’를 개발한 앤트로픽이 있다. 앤트로픽 최고경영자 다리오 아모데이는 첨단 AI의 성능이 빠르게 높아지는 상황에서 위험을 점검하고 안전장치를 마련할 필요가 있다는 취지의 입장을 밝혀왔다. 이는 AI 연구를 일률적으로 중단하자는 주장보다는 고성능 모델의 발전 과정에서 안전성 검증을 강화해야 한다는 문제 제기에 가깝다.

앤트로픽이 제기한 AI 안전 문제는

앤트로픽은 고성능 AI의 능력이 확대될수록 기존 소프트웨어와 다른 수준의 위험 관리가 필요할 수 있다는 입장을 제시해왔다. 모델의 성능이 높아질 경우 사이버 보안이나 생물학 등 민감한 영역에서 악용될 가능성을 비롯해 여러 위험 요소를 함께 평가할 필요가 있다는 취지다.

이와 관련해 AI 기업의 자체적인 안전 평가뿐 아니라 일정 수준 이상의 고성능 모델에 대해서는 외부 평가와 감독 장치를 마련해야 한다는 주장도 나오고 있다. 다만 구체적인 규제 방식이나 적용 대상, 기준을 어디에 둘 것인지를 놓고는 추가적인 논의가 필요한 영역이다.

다리오 아모데이는 AI 안전 문제에 대응하려면 개별 기업만의 노력보다 업계 차원의 협력이 필요하고, 더 넓게는 국제적인 협력도 필요하다는 취지로 언급했다. 기술 발전 속도가 빠른 만큼 위험을 평가하고 대응책을 마련하는 작업도 함께 진행해야 한다는 설명이다.

오픈AI에서도 감독 체계 필요성 언급

AI 안전 문제에 대한 논의는 앤트로픽에만 국한되지 않는다. 오픈AI에서도 첨단 AI의 위험을 평가하고 관리하기 위한 제도적 장치의 필요성이 언급돼왔다.

샘 올트먼 오픈AI 최고경영자는 독립적인 감독 기구를 포함한 규제 체계를 논의할 수 있다는 취지의 입장을 밝혀왔다. 기업 내부의 자율적인 안전 관리뿐 아니라 일정한 수준의 외부 감독을 병행하는 방안도 검토할 수 있다는 의미로 해석된다.

이에 따라 현재 미국 AI 업계에서 제기되는 문제를 단순히 ‘개발 중단’ 요구로 보는 것은 적절하지 않다. 논의의 상당 부분은 AI 개발을 이어가면서 고성능 모델에 어느 수준의 안전 평가와 감독을 적용할 것인지에 맞춰져 있다.

트럼프가 강조한 것은 중국과의 AI 경쟁

트럼프 대통령은 AI 기술과 관련해 미국이 중국보다 앞선 위치를 유지해야 한다는 점을 강조했다. 그는 미국이 AI 분야에서 중국을 앞서고 있으며 이러한 위치를 계속 유지하고 싶다는 취지로 말했다.

또 AI 분야에서 앞서는 국가가 전체적인 경쟁에서도 중요한 우위를 차지할 수 있다는 인식을 드러냈다. 이에 따라 AI의 위험을 이유로 미국의 개발 속도를 크게 낮추는 접근에는 신중한 태도를 보이고 있는 것으로 해석된다.

백악관과 여당에서도 AI 개발 경쟁을 국가안보와 연결해 바라보는 목소리가 나오고 있다. 미국의 개발 속도가 늦어지는 동안 경쟁국이 더 높은 성능의 AI를 먼저 확보하는 상황 역시 위험 요소가 될 수 있다는 논리다.

이러한 시각에서는 AI 자체가 가져올 수 있는 위험뿐 아니라 경쟁국이 첨단 AI 기술에서 우위를 확보했을 때 발생할 수 있는 안보상의 문제도 함께 고려해야 한다고 본다.

AI 안전과 중국 견제 사이에서 다른 강조점

AI 안전을 강조하는 기업과 미국 정부의 입장이 모든 부분에서 서로 반대되는 것은 아니다. AI 기업 관계자들 역시 미국을 비롯한 민주주의 국가들이 첨단 AI 분야의 경쟁력을 유지하는 문제를 중요하게 다뤄왔다.

차이가 나타나는 부분은 기술 경쟁과 안전 관리 가운데 어느 요소에 더 무게를 두고 정책을 설계할 것인지다. 앤트로픽 등은 AI의 능력이 더욱 높아지기 전에 위험 평가와 안전장치를 강화할 필요가 있다는 점을 강조하는 반면 트럼프 대통령은 중국과의 경쟁에서 미국의 우위를 유지해야 한다는 점을 앞세우고 있다.

따라서 현재 논쟁을 ‘AI 개발을 멈출 것인가 계속할 것인가’라는 양자택일로 설명하기에는 한계가 있다. 실제 쟁점은 개발을 지속하면서 어떤 모델에 어느 정도의 규제를 적용하고, 위험 평가 결과를 정책과 기업 운영에 어떻게 반영할 것인지에 더 가깝다.

고성능 AI 규제에서 중요한 것은 적용 기준

AI 안전 규제가 구체적인 제도로 이어질 경우 어떤 AI를 규제 대상으로 정할지도 중요한 문제다. 모든 AI 서비스에 동일한 기준을 적용하기보다 일정 수준 이상의 성능이나 위험성을 가진 첨단 모델을 별도로 관리하는 방식 등이 논의될 수 있다.

또 기업 자체 평가와 독립적인 외부 평가를 어떻게 조합할 것인지, 정부가 어느 단계에서 개입할 것인지도 함께 검토해야 할 사안이다. 규제가 지나치게 강하면 기술 개발과 산업 경쟁에 부담이 될 수 있다는 우려가 있는 반면 안전장치가 충분하지 않을 경우 고성능 AI에서 발생할 수 있는 위험에 적절히 대응하기 어렵다는 지적도 제기된다.

이 때문에 AI 안전 논의에서는 규제의 존재 여부만큼 구체적인 적용 범위와 방식이 중요하다. 기업이 자체적으로 마련하는 안전 기준과 정부의 감독 체계가 어떤 관계를 형성할지도 향후 정책 논의에서 확인해야 할 부분이다.

미중 AI 경쟁이 규제 논의의 주요 변수

미국에서 AI 안전 규제를 논의할 때 중국과의 기술 경쟁은 빼놓기 어려운 요소로 언급되고 있다. 미국이 자체적으로 개발 속도를 낮추거나 규제를 강화할 경우 중국 기업과 연구기관이 기술 격차를 좁힐 가능성을 우려하는 시각이 있기 때문이다.

반대로 국가 간 경쟁을 이유로 안전성 검증을 충분히 하지 않은 채 고성능 AI 개발을 서두르는 것 역시 위험할 수 있다는 것이 안전 규제를 강조하는 측의 문제의식이다. 결국 기술 경쟁력과 위험 관리 사이에서 어느 수준의 균형점을 찾을지가 논의의 중심에 놓여 있다.

AI 기술은 경제뿐 아니라 사이버 보안과 국방, 국가안보 문제와도 연결돼 있어 일반적인 산업 규제보다 고려해야 할 요소가 많다. 특히 미국과 중국이 첨단 반도체와 AI를 둘러싸고 경쟁하는 상황에서는 국내 규제 정책도 국제 기술 경쟁과 분리해 다루기 어렵다는 평가가 나온다.

미국 AI 정책, 규제 수준을 둘러싼 논의 이어질 듯

현재 미국에서 진행되는 AI 안전 논쟁은 기술 발전 자체를 막을 것인지에 대한 문제라기보다 빠르게 발전하는 첨단 AI를 어떤 방식으로 관리할 것인지에 초점이 맞춰져 있다.

앤트로픽을 비롯한 AI 업계 일각에서는 고성능 AI가 더욱 발전하기 전에 안전 평가와 감독 체계를 강화해야 한다는 주장이 제기되고 있다. 반면 트럼프 대통령과 백악관에서는 중국과의 경쟁에서 미국이 기술적 우위를 유지해야 한다는 점을 강조하고 있다.

두 입장이 반드시 완전히 배치되는 것은 아니지만 안전을 위해 어느 수준까지 규제를 강화할 수 있는지에서는 강조점의 차이가 나타난다. AI 기업이 요구하는 안전장치가 실제 정책에 어느 정도 반영될지, 미국 정부가 중국과의 경쟁을 고려해 어떤 규제 수준을 선택할지는 추가적인 정책 발표와 논의를 지켜볼 필요가 있다.

현재로서는 미국이 AI 개발 속도를 공식적으로 늦추기로 결정했다거나 반대로 안전 규제를 배제하기로 확정했다고 단정하기 어렵다. 확인되는 것은 AI 기업들이 고성능 모델의 위험 관리 필요성을 적극적으로 제기하고 있고, 트럼프 대통령은 동시에 미국이 중국보다 AI 분야에서 앞선 위치를 유지해야 한다는 입장을 강조하고 있다는 점이다.