 개발 경쟁을 벌여온 주요 기업 최고경영자(CEO)들이 이례적으로 AI 개발 속도를 늦춰야 한다는 데 잇따라 동조하면서 글로벌 AI 업계에 새로운 기류...'))
인공지능(AI) 개발 경쟁을 벌여온 주요 기업 최고경영자(CEO)들이 이례적으로 AI 개발 속도를 늦춰야 한다는 데 잇따라 동조하면서 글로벌 AI 업계에 새로운 기류가 형성되고 있다. 다만 중국과의 기술 경쟁이 격화하는 상황에서 실제 속도조절을 위한 국제적 공조가 가능할지는 여전히 불투명하다.
다리오 아모데이 앤트로픽 CEO는 13일(현지시간) CBS 인터뷰에서 AI 발전 속도가 급격히 가팔라지고 있다며 개발 속도를 늦춰야 한다고 주장했다. 그는 AI의 발전 과정을 1, 2, 4, 8, 16, 32로 커지는 곡선에 비유하며 현재가 ‘가팔라지는’ 가속 국면에 들어섰다고 진단했다. 그러나 그는 "오늘 당장 패닉에 빠질 필요는 없다. 전부 셧다운할 필요도 없다"면서도 "그럼에도 이는 우리가 속도를 늦춰야 한다는 경고 신호"라고 말했다.
아모데이는 앞서 공개한 글에서 최근 속도조절이 필요한 이유로 AI의 '재귀적 자기개선' 능력 확대와 AI 에이전트의 통제 실패 사례를 꼽았다. AI가 차세대 AI 개발에 직접 관여하면서 기술 발전 자체가 다시 발전을 가속하는 구조가 나타나고 있다는 것이다. 그는 이를 방치할 경우, 안전장치와 통제 기술이 AI 발전 속도를 따라가지 못할 수 있다고 경고했다.
특히 지난 7월 오픈AI의 AI 에이전트가 통제된 테스트 환경을 벗어나 인터넷에 접근하고 AI 개발 플랫폼 허깅페이스의 시스템을 침해한 사건을 대표적인 위험 사례로 제시했다. 오픈AI는 이후 조사에서 에이전트들이 여러 취약점을 연쇄적으로 이용해 인터넷에 접근하고 허깅페이스 시스템 일부를 침해했다고 공개했다.
[관련 기사]
- 주요 상장사 배당 15.3% 증가… 1위는 삼성전자
2026-02-24
- 성장 택한 코웨이 vs 환원 압박 얼라인… 주총 앞 긴장 고조
2026-02-12
- 위기일수록 오뚝이 DNA… 넷마블 방준혁 자수성가 신화
2025-12-23
- 이재용 회장 주식 재산 증가 1위… 1.4조 늘어 13조
2023-07-04
- 그룹 총수 주식재산, 반년 새 1.4조 원↑… 19명 웃고 14명 울어
2023-07-04
- 권영식, 신작 국내 9종·中 5종 출시 “적자 떨쳐라”
2023-06-11
[관련 기사]
- 50조 수혈 ‘2차 메가프로젝트’ 가동… “바이오·AI 화력 집중”
2026-04-14
- 월급 12만원 증권맨, 100억 창업주로… 미래에셋 박현주 회장
2025-12-31
- 미래에셋운용 글로벌 운용자산 360조 돌파
2024-09-25
[관련 기사]
- BBQ, 스페인에 헤드쿼터 설립… 유럽시장 공략 강화
2025-12-08
- 2025년 경력직 공채… BBQ, 해외 시장 겨냥 인재 확보
2025-09-08
- BBQ, 콜롬비아 진출… 아메리카 전역 K-푸드 벨트 구축
2025-08-26
- 윤홍근 BBQ 회장, 김상옥의사기념사업회 13대 회장 취임
2025-03-06
[관련 기사]
- 이찬진, 증권사 CEO에 “금융소비자 중심의 DNA 이식해야”
2026-02-10
- 삼성증권 영업이익 1조 눈앞… WM·연금 전략 통했다
2024-11-26
- 전영묵 신임 대표, 삼성생명 구원투수 등판
2020-01-22
[관련 기사]
- 제약바이오협회 2026년 예산 119억 확정… 약가 정책 신약 개발 집중
2026-02-25
- 국내 제약사 오너 3세 승부수 … 원톱과 투톱
2026-02-20
- 제약업계, 국산 전문약 약가인하 유예 촉구 결의
2026-02-10
- 일동제약 구조조정 칼바람…"직원들이 무슨 죄"
2023-05-30
- 일동제약, ‘자율 준수의 날’ 기념식 진행… 윤리·준법경영 강조
2022-09-14
- 윤웅섭 부회장, 코로나19 치료제 국내 임상 돌입… 상반기 상용화 목표
2022-03-13
아모데이는 이에 대응해 △ AI 기업 내부에 독립적인 제3자 안전평가자를 상시 배치하고 △민주주의 국가의 AI 기업들이 공동 안전기준을 마련하며 △ 미국 등 민주주의 국가가 권위주의 국가와도 안전 분야의 국제공조를 추진하는 3단계 방안을 제안했다. 앤트로픽은 우선 독립 평가자에게 자사 직원 수준의 지속적인 접근 권한을 부여하기로 했다.
경쟁사들도 잇따라 호응했다. 샘 올트먼 오픈AI CEO는 아모데이의 제안에 동의한다며 독립 평가자 제도를 도입하겠다고 밝혔다. 일론 머스크 스페이스X CEO 역시 아모데이의 글을 공유하며 동의했고, 데미스 허사비스 구글 딥마인드 CEO도 그의 제안이 올바른 방향이라고 평가했다.
AI 안전에 대한 우려는 최근 잇따른 사고를 계기로 더욱 커지고 있다. 오픈AI 에이전트의 허깅페이스 침해에 앞서 루비젬스에서도 AI 에이전트의 공격 사례가 확인됐으며, 앤트로픽 역시 자사 AI 모델이 테스트 과정에서 외부 시스템을 해킹한 사례를 추가 공개했다.
그러나 미국과 중국의 AI 패권 경쟁은 속도조절론의 가장 큰 변수다. 아모데이 역시 중국이 같은 조치를 취하지 않을 경우를 '가장 어려운 딜레마'로 꼽으며 미국 기업의 고성능 AI 칩 대중 수출을 제한해야 한다고 주장했다.
한편, 도널드 트럼프 미국 대통령은 AI 개발 속도를 늦추는 데 부정적인 입장을 나타내며 미국의 기술 우위를 유지해야 한다고 강조했다. 이번 논란은 AI 개발을 멈출 것인가의 문제가 아니라, 기술 발전 속도에 맞춰 안전성 검증과 국제적 통제 체계를 얼마나 빠르게 구축할 수 있느냐의 문제라는 것이다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
