인공지능(AI)이 너무 빠르게 달리고 있다. 불과 몇 년 전만 해도 AI는 질문에 답하고 그림을 그려주는 신기한 도구였다. 그러나 이제는 프로그램을 만들고 데이터를 분석하며, 로봇과 드론 같은 물리적 시스템까지 스스로 판단하고 움직이게 하는 단계로 진입하고 있다. AI가 인간의 지적 능력을 빠르게 따라오는 상황에서 이제 우리는 새로운 질문을 던져야 한다. 과연 이 속도를 그대로 두어도 되는가.
그렇다고 AI 개발을 멈추거나 인위적으로 크게 늦추는 것이 해답은 아니다. 자동차가 위험하다고 자동차 산업을 중단하지 않았듯 AI 역시 위험성이 있다고 기술개발 자체를 멈출 수는 없다. 문제는 기술의 발전 속도가 아니라 인류가 그 속도를 관리할 제도와 안전장치를 함께 준비하고 있느냐는 것이다.
AI는 이미 한 국가나 한 기업만의 문제가 아니다. 초거대 AI가 사이버 공격, 금융, 가짜뉴스, 자율무기, 로봇과 드론 등과 결합하면 그 영향은 순식간에 국경을 넘어간다. 한 국가가 강력하게 규제해도 다른 국가에서 제한 없이 개발한다면 위험을 통제하기 어렵다. 반대로 특정 국가만 개발 속도를 늦춘다면 AI 산업과 국가경쟁력에서 뒤처질 수 있다. 결국 개별 국가의 규제만으로 해결하기 어려운 문제가 된 것이다.
따라서 국제사회가 AI의 안전한 발전 방향을 공동으로 논의할 상설 협력체계를 구축할 필요가 있다. 원자력 분야에 국제원자력기구(IAEA)가 있고 국제민간항공 분야에 국제민간항공기구(ICAO)가 있듯이 AI에도 각국 정부와 기업, 연구기관, 학계가 참여하는 국제적인 AI 안전 협의기구가 필요하다.
이 조직이 AI 기술개발을 통제하는 ‘AI 경찰’이 되어서는 안 된다. 고성능 AI의 위험 수준을 공동 평가하고 안전성 검증 기준을 마련하며, 사이버 공격과 자율무기 등 고위험 분야에 대한 최소한의 국제원칙을 만드는 역할이 중요하다. 일정 수준 이상의 프런티어 AI에 대해서는 독립적인 안전성 평가와 국가 간 상호검증체계를 마련하는 방안도 논의할 필요가 있다.
특히 AI 국제규범을 미국이나 중국 또는 몇몇 글로벌 빅테크기업만이 결정해서는 안 된다. AI·반도체·로봇·드론 분야에서 기술력을 갖춘 한국 역시 국제적인 AI 안전규범을 만드는 과정에 적극적으로 참여해야 한다. 더 나아가 한국이 가칭 ‘국제인공지능안전기구’ 설립을 국제사회에 선제적으로 제안하는 방안도 검토할 가치가 있다.
인류는 기술을 멈춰 안전을 확보한 것이 아니라 기술과 제도를 함께 발전시키며 위험을 관리해 왔다. AI도 마찬가지다. 무조건 가속하는 것도, 무조건 브레이크를 밟는 것도 해답이 아니다.
이제 질문을 바꿔야 한다. “AI를 얼마나 늦출 것인가”가 아니라 “인류가 감당할 수 있는 속도로 어떻게 함께 발전시킬 것인가”를 물어야 한다. AI라는 자동차는 이미 고속도로에 올라섰다. 지금 필요한 것은 자동차를 세우는 것이 아니라 세계가 함께 지켜야 할 교통법규와 안전장치를 만드는 일이다.
후원하기



























