AI를 가장 빠르게 밀어붙이는 회사 중 하나가, 오히려 “속도를 늦추자”고 말했어요.

앤트로픽(Anthropic)이 ‘AI가 AI를 만들 때’를 다룬 보고서에서, AI의 재귀적 자기개선이 발전 속도를 스스로 끌어올리고 있다고 경고했습니다.

자사 데이터까지 공개하며 던진 메시지라 묵직한데요, 핵심만 정리해 볼게요.

앤트로픽(Anthropic) 로고 앤트로픽(Anthropic) 로고 — 출처: Anthropic

무슨 일이 있었나

앤트로픽은 2026년 6월 4일, AI가 AI 개발 자체를 점점 더 떠맡고 있고 그 변화가 이미 AI의 발전 속도를 가속하고 있다는 취지의 보고서를 내놨다.

쉽게 말해 ‘AI가 AI를 만드는’ 재귀적 자기개선(recursive self-improvement)이 현실의 개발 현장에서 진행 중이라는 진단이에요.

  • AI가 AI 개발 업무를 점점 더 맡으며 발전 속도가 빨라지고 있다는 경고
  • 자사 코드 작성에서의 구체적 수치를 근거로 제시
  • 개발사들이 필요할 때 스스로 ‘속도를 늦추거나 멈출’ 장치를 갖추자고 제안
  • 여러 나라의 복수 프런티어 연구소가 동시에 멈추고, 멈췄는지 검증하는 메커니즘 필요성 제기

자세히 보기 — 근거가 된 숫자

앤트로픽이 든 근거는 자사 개발 현장의 변화예요.

  • 2026년 5월 기준, 앤트로픽 코드 저장소에 들어가는 코드의 80% 이상을 클로드(Claude)가 작성한다.
  • 2026년 2분기 엔지니어 한 명이 만들어 내는 코드 양은 4년 전보다 약 8배 많아졌다.

즉 ‘AI가 코드를 짜는 일’이 이미 보조 수준을 넘어, 개발 생산성을 폭발적으로 끌어올리는 단계에 들어섰다는 거예요. 이 흐름이 더 빠르고 똑똑한 AI를 만들고, 그 AI가 다시 개발을 가속하는 고리를 만든다는 게 우려의 핵심입니다.

앤트로픽의 제안

앤트로픽은 단순한 경고에 그치지 않고 구체적인 안전장치를 제안했다.

  • AI를 만드는 회사라면 필요할 때 스스로 개발 속도를 늦추거나 잠시 멈출 수 있는 장치를 미리 마련해 둘 것
  • 여러 나라에 있는 복수의 프런티어 연구소가 동일한 조건에서 개발 중단에 합의하고, 서로가 실제로 멈췄는지 검증할 수 있는 메커니즘을 갖출 것

혼자 멈추면 경쟁에서 뒤처지니, ‘함께·검증 가능하게’ 멈출 수 있어야 실효성이 있다는 논리로 읽혀요.

배경 / 맥락

앤트로픽은 원래 AI 안전을 전면에 내세워 출발한 회사예요. 빠르게 모델을 내놓으면서도 동시에 위험을 경고하는, 다소 모순처럼 보이는 위치에 서 있죠.

이번 보고서도 그 연장선이에요. “우리가 가장 앞에서 달리고 있고, 그래서 이 가속이 얼마나 빠른지 안다”는 식의 메시지인 셈이다. 다만 경쟁이 치열한 상황에서 ‘다같이 멈추자’는 제안이 실제 합의로 이어질지는 별개의 문제로 보입니다.

이게 왜 중요할까

이건 단순한 기술 뉴스가 아니라 AI 거버넌스 논쟁의 한복판에 있는 주제예요.

선두 기업이 스스로 “브레이크가 필요하다”고 말한 것 자체가 규제·정책 논의에 무게를 싣습니다. 동시에 ‘말과 행동이 일치하느냐’는 비판도 따라붙을 수 있고요. 어느 쪽이든 앞으로의 AI 규제·국제 협력 논의에서 자주 인용될 사안입니다.

앞으로 주목할 점

  • 다른 프런티어 연구소(오픈AI·구글 등)의 호응 또는 반박 여부
  • 각국 규제기관·국제기구의 반응
  • ‘개발 중단 검증 메커니즘’이 실제로 구체화되는지
  • 앤트로픽 자신의 개발 속도와 이 제안 사이의 일관성

가장 빨리 달리는 쪽에서 나온 ‘속도 조절’ 이야기라 더 눈길이 가요. 말이 실천으로 이어지는지, 업계가 어떻게 반응하는지 지켜보겠습니다.

참고 출처