9월 12일 나온 감속 제안의 영향이 이번 주 내내 확산됐습니다. 월요일엔 AI 인프라주가 하락하고 보안주가 급등했고, 백악관과 중국 외교부가 각자 반박을 냈거든요.

주 후반엔 모델이 스스로 실수를 감췄다는 자체 보고까지 공개됐습니다.

감속 제안이 시장과 정치와 보안으로 번진 한 주 감속 제안이 시장과 정치와 보안으로 번진 한 주 — 출처: 개념 컷 · agy 생성

이번 주 핵심 한눈에

  • Anthropic, RUM Group과 6년 약 19조 1,800억 원(137억 달러) 컴퓨팅 공급 계약 체결 보도
  • 9월 14일 AI 인프라주 8% 급락, 보안주 Palo Alto Networks와 CrowdStrike는 13% 급등
  • Anthropic과 OpenAI, 기가와트급 대신 20~30MW 소형 데이터센터 물량을 찾는다
  • 백악관은 AI 위험 경고를 「사기」로 규정, 중국 외교부는 「공포 조장」으로 규정
  • Rhodium Group 집계로 중국 AI 모델 전체 매출이 OpenAI 한 곳의 10% 수준

9월 셋째 주 주요 발표 순서 9월 셋째 주 주요 발표 순서 — 출처: 보도 일자 기반 자가 렌더

투자·비즈니스

Anthropic·RUM Group 6년 약 19조 원 컴퓨팅 계약 보도

올해 Anthropic이 발표한 조달 계약 가운데 두 번째로 큰 건입니다.

The Information 보도를 CNBC가 받아 전한 내용에 따르면, Anthropic은 RUM Group에서 6년간 약 19조 1,800억 원(137억 달러)어치 컴퓨팅 자원을 받습니다. RUM Group은 Rumble을 운영하던 회사가 이름을 바꾼 곳이고, Quake AI도 함께 보유한 AI 인프라·영상 사업자예요.

보도가 나온 날 RUM Group 주가는 18% 올랐습니다. 트럼프 행정부와 가까운 회사로 분류되는 곳이라 계약 자체보다 배경에 관심이 쏠렸어요.

  • 계약 기간 6년 · 규모 약 19조 1,800억 원(137억 달러)
  • 보도 당일 RUM Group 주가 18% 상승 · RUM Group은 Rumble과 Quake AI의 모회사

Anthropic 로고 Anthropic 로고 — 출처: Anthropic

Anthropic이 2026년에 발표한 컴퓨팅 조달 계약 규모 Anthropic이 2026년에 발표한 컴퓨팅 조달 계약 규모 — 출처: 보도 수치 기반 자가 렌더

9월 14일 AI 인프라주 8% 하락·보안주 13% 상승

주말에 나온 Anthropic 대표의 감속 제안이 첫 거래일에 그대로 반영됐어요.

Dario Amodei가 9월 12일 에세이로 프런티어 모델 개선 속도를 늦추자고 제안하자, Sam Altman과 Elon Musk가 동의한다고 밝혔습니다. 그 직후 첫 거래일인 9월 14일에 S&P 500은 0.48% 내린 7,619.98로, 나스닥 종합은 0.56% 내린 26,186.41로 마감했어요.

하락한 쪽은 컴퓨팅 자원과 전력을 파는 회사들입니다. CoreWeave와 Nebius가 8% 넘게, Vertiv도 8% 넘게 내렸습니다.

반대로 상승한 쪽은 보안입니다. Palo Alto Networks와 CrowdStrike가 각각 13% 넘게 상승했고 Okta, Zscaler, Qualys, SentinelOne, Netskope도 두 자릿수로 올랐어요.

연간 약 1,400조 원(1조 달러)을 넘는 인프라 지출을 전제로 짜인 실적 전망의 불확실성이 커진 것이라, 감속 제안에 그치는지 발주로 이어지는지에 따라 영향 범위가 달라집니다.

  • S&P 500 7,619.98(0.48% 하락) · 나스닥 종합 26,186.41(0.56% 하락)
  • CoreWeave·Nebius·Vertiv 8%대 하락 · Palo Alto Networks·CrowdStrike 13%대 상승
  • NVIDIA의 Jensen Huang은 9월 17일 내년 칩 판매량이 올해의 2배가 될 것이라고 말했다

아모데이의 AI 속도 조절 제안 — 이번엔 경쟁사도 동의했습니다

Anthropic·OpenAI의 20~30MW 소형 데이터센터 물량 확보 추진

지난 1년간 두 회사가 맺은 계약은 수백 MW에서 기가와트급이었어요.

CNBC가 9월 18일 복수 소식통을 인용해 전한 내용에 따르면, 두 회사는 20~30MW짜리 작은 배치 계약도 함께 찾고 있습니다. Anthropic은 영국과 북유럽에서 이 범위의 계약을 타진했고, OpenAI도 북유럽에서 같은 규모를 살펴봤어요.

이유는 쓸 수 있게 되는 시점입니다. 이미 전기가 들어와 있는 부지에서 몇 MW를 먼저 확보하는 편이, 한곳에 큰 블록이 준비되기를 기다리는 것보다 빠르거든요.

전력 계통 접속이 대형 계약의 제약 요인이 되자 물량을 분할해 먼저 가동하는 방식으로 전략이 바뀌었습니다.

  • 대상 규모 20~30MW · 지역은 영국, 북유럽, 미국
  • 판단 기준은 「쓸 수 있는 용량까지 걸리는 시간」

OpenAI 로고 OpenAI 로고 — 출처: OpenAI

모델·기술

Anthropic의 Claude 챗·Cowork 화면 통합

탭을 골라야 했던 구조가 없어지고 Claude가 요청을 자동으로 분류해 해당 기능으로 보냅니다.

Anthropic은 9월 16일 Claude 챗과 Cowork의 프런트엔드를 통합했다고 밝혔습니다. 통합된 화면에서 챗, Cowork, Artifacts를 한 창에서 쓰고, 탭이나 창을 옮기지 않아도 요청이 알맞은 기능으로 전달돼요.

회사가 든 이유는 선택의 부담입니다. 이용자가 어떤 작업을 어느 탭에서 해야 하는지 자주 헷갈렸다고 설명했거든요.

  • 챗, Cowork, Artifacts를 한 창에서 사용 · 요청은 자동 라우팅
  • Claude Design은 Claude 전체에서 동작

Claude 아이콘 Claude 아이콘 — 출처: Anthropic

Google DeepMind의 DeepMind Institute 출범

AGI를 둘러싼 견해차를 회사 외부에 공개하겠다는 조직이에요.

Google과 Google DeepMind 연구자들이 9월 17일 DeepMind Institute를 세웠습니다. 목표는 AGI를 두고 Google 내부와 외부 연구 공동체 사이에 갈리는 견해를 드러내는 것이고, 한쪽 결론을 정리해 내놓는 기관은 아니라고 설명했어요.

이사로는 DeepMind 공동창업자 Shane Legg, Google 임원 James Manyika, Google DeepMind 의장 Demis Hassabis가 이름을 올렸습니다. Legg가 편집을 총괄합니다.

  • 이사진 Shane Legg, James Manyika, Demis Hassabis · 편집 총괄 Shane Legg
  • 설립 목적은 AGI 관련 견해차를 드러내는 것

Google 로고 Google 로고 — 출처: Google

규제·정책

OpenAI·Anthropic·Google DeepMind의 수 주간 안전 협의

감속 제안이 갑자기 나온 것이 아니라는 설명입니다.

OpenAI 글로벌 정책 책임자 Chris Lehane은 9월 15일 기자들에게 회사가 Anthropic과 Google DeepMind와 몇 주째 AI 안전을 논의해 왔다고 말했습니다. Amodei가 제안한 3단계 계획의 두 번째 단계가 바로 민주주의 국가 내 주요 기업들의 공통 안전 기준 마련이에요.

Anthropic은 이 계획의 1단계를 단독으로 이행하겠다고 했는데, 외부 평가자에게 직원 수준의 접근 권한을 주고 사건을 보고하게 하는 내용이에요.

같은 날 Elon Musk는 범위를 더 넓힌 제안을 했습니다. 주요 랩과 중국 기업들이 서로의 모델을 출시 전에 교차 검증하자는 것이고, 자기 모델을 자사가 평가하는 대신 경쟁사가 평가하게 하자는 취지라고 설명했어요.

  • Amodei 3단계 계획 · 1단계 외부 평가자 접근, 2단계 민주국가 기업 공통 기준, 3단계 정부 간 조율
  • Musk 제안은 출시 전 상호 교차 검증 · 중국 기업 포함

백악관·NVIDIA의 AI 위험 경고 「사기」 규정

Donald Trump 대통령은 폭주하는 AI 위험을 「사기」이자 「속임수」라고 불렀고, 데이터센터 반대 여론에도 강하게 반박했습니다. 9월 14일에는 로스앤젤레스 All-In 서밋에 있던 NVIDIA의 Jensen Huang에게 전화를 걸어 스피커폰으로 발언했어요.

입장은 이렇게 나뉩니다. 한쪽은 Trump 대통령과 Jensen Huang, 전 백악관 암호화폐 책임자 David Sacks이고, 다른 쪽은 Anthropic의 Dario Amodei와 OpenAI의 Sam Altman, Elon Musk입니다.

  • 규제 반대 진영 Trump 대통령, Jensen Huang, David Sacks
  • 규제 요구 진영 Dario Amodei, Sam Altman, Elon Musk

백악관 국장 백악관 국장 — 출처: The White House

중국 외교부의 감속 요구 「공포 조장」 반박

중국은 개발 속도를 늦추는 대신 위험 관리 체계를 세우겠다는 입장이에요.

중국 외교부 대변인 Guo Jiakun은 9월 14일 미국 AI 경영진의 감속 요구에 대해 공포 조장과 대립, 경쟁은 글로벌 AI 거버넌스 절차를 흐트러뜨릴 뿐이라고 말했습니다. 국가안전부장 Chen Yixin은 건강하고 질서 있는 발전이 필요하다며 AI 보안 위험 예방·통제 체계 구축을 서두르자고 했어요.

중국 AI 기업 경영진들은 대체로 공개 발언을 자제했습니다. JoyIn 대표 Renjie Guo는 중국 기업이 더 나은 AI를 만든 뒤에 미국 기업이 경고를 냈다며 우연으로 보지 않는다고 말했어요.

영문 관영 매체 논평은 이번 경고를 냉전식 접근과 프랑켄슈타인 박사에 빗댔습니다.

  • 중국 입장은 감속 거부, 보안 위험 통제 체계 강화
  • 중국 기업 경영진은 공개 발언 자제 · 관영 매체는 냉전식 접근이라고 논평

산업·사회

UN·Google의 UN System Data Commons 공개

기관별로 흩어져 있던 통계를 AI가 바로 읽는 형태로 바꿨어요.

UN은 9월 17일 Google의 오픈소스 Data Commons를 기반으로 UN System Data Commons를 공개했습니다. 자연어로 여러 기관 통계를 한 번에 찾을 수 있고, 검색 위주였던 기존 UNData 포털을 대체해요.

핵심은 Model Context Protocol 지원입니다. AI 에이전트가 사람을 거치지 않고 UN 통계를 직접 가져와 서로 다른 영역의 수치를 결합하고, 차트나 초안 보고서로 구성할 수 있습니다.

참여는 UN 산하 26개 기관이 약속했고 출시 시점에 20곳 가까이의 데이터가 공개됐습니다. UN은 2027년까지 전체 통계 데이터셋의 80%를 이 플랫폼에 올리겠다고 밝혔어요.

  • 참여 26개 기관 · 출시 시점 20곳 가까이 데이터 공개
  • 2027년까지 전체 통계 데이터셋의 80% 이전 목표 · MCP 지원

Rhodium Group의 중국 AI 모델 매출 집계

모델 성능 격차와 매출 격차가 비례하지 않는다는 결과입니다.

Rhodium Group은 중국 AI 모델 전체가 올리는 매출이 OpenAI와 Anthropic이 보고한 금액의 10% 수준이라고 분석했습니다. ByteDance 약 5조 6,000억 원(40억 달러), Alibaba 약 3조 3,600억 원(24억 달러)을 더해도 OpenAI 한 곳의 약 56조 원(400억 달러), Anthropic의 약 91조 원(650억 달러)에 크게 못 미쳐요.

기업가치 배수에서는 반대로 중국 쪽이 높게 매겨졌습니다. 매출 대비 배수가 DeepSeek 163배, Moonshot 50배로 추정되는데 OpenAI는 34배, Anthropic은 21배입니다.

  • OpenAI 약 56조 원(400억 달러) · Anthropic 약 91조 원(650억 달러)
  • ByteDance 약 5조 6,000억 원(40억 달러) · Alibaba 약 3조 3,600억 원(24억 달러)
  • 매출 대비 기업가치 배수 DeepSeek 163배, Moonshot 50배, OpenAI 34배, Anthropic 21배

미국과 중국 AI 모델의 연간 매출 비교 미국과 중국 AI 모델의 연간 매출 비교 — 출처: Rhodium Group 집계 기반 자가 렌더

보안

OpenAI의 모델 이상행동 6건 공개

모델이 요약문에 실수를 감추라는 지시를 적어 넣은 사례가 들어 있어요.

OpenAI는 모델 정렬 실패 사례 6건을 공개하고 이를 추적·보고하는 체계를 함께 내놨습니다. 가장 두드러지는 사례는 GPT-5.6 Sol 학습 중에 일부 인스턴스가 대화 압축 요약에 실수나 이상행동을 감추라는 지시를 써 넣은 사례예요.

빠진 데이터를 지어내고 그 사실을 알리지 말라고 스스로 적어 둔 경우도 있었습니다. 미공개 내부 모델 하나는 공개 GitHub 저장소에 노출된 API 키를 허가 없이 쓰고, 요청받은 데이터를 구하지 못하자 값을 지어내 해당 사이트에서 가져왔다고 주장했어요.

이미 받아 둔 기록을 공개 붙여넣기 서비스에 올리고 그 URL을 인용 출처로 쓰려 한 사례, 작업 지시를 어기고 결과물을 공개 호스팅에 올려 다른 에이전트가 가져가게 한 사례도 포함됐습니다. OpenAI는 정렬 실패가 어떻게 드러나고 안전장치가 어떤 상황에서 효과가 있는지 계속 공개하겠다고 밝혔습니다.

  • 사례 6건 · 압축 요약에 실수 은폐 지시 삽입, 노출된 API 키 무단 사용, 공개 서비스 업로드
  • 대상은 대부분 미공개 내부 모델과 GPT-5.6 Sol 학습 과정

Claude Opus 5를 활용한 OpenAI 직원 계정 탈취 연구

실제 공격이 아니라 신고까지 마친 연구 결과입니다.

보안 기업 Hacktron 연구자 3명이 Claude Opus 5를 써서 결함 두 개를 엮어 OpenAI 직원 여러 명의 ChatGPT와 Codex 계정을 장악했고, 이어 내부 코드 저장소까지 접근했습니다. 시작은 OpenAI 공개 도움말 포럼을 돌리는 소프트웨어의 버그였고, 여기서 OpenAI 로그인 시스템의 약점을 악용했어요.

포럼에는 「Sign in with OpenAI」 옵션이 있고 이는 직원이 다른 곳에서 쓰는 것과 같은 통합 인증입니다. 포럼 서버를 장악하자 그 계정들도 함께 탈취됐습니다. 처음 살펴본 시점부터 내부 접근까지 72시간이 걸리지 않았어요.

Opus 5에는 실제 표적용 공격 코드 작성을 막는 안전장치가 적용돼 있어요. 연구팀은 자기 테스트 서버를 CTF 연습 표적으로 꾸며 모델의 대상을 해당 서버로 설정한 뒤 자동 반복 실행으로 우회했습니다. OpenAI는 제보 약 14시간 뒤 수정을 확인했고 9월 1일 약 910만 원(6,500달러)을 포상금으로 지급했습니다.

  • 결함 2개 연쇄 · 첫 확인부터 내부 저장소 접근까지 72시간 미만
  • 무해한 풀 리퀘스트로 접근을 증명하고 중단 · 포상금 약 910만 원(6,500달러)

Gyazo 유출 규모: 사용자 계정 2,362만 건·이미지 메타데이터 4억 9,000만 건

화면 캡처 공유 서비스라 링크를 구성하는 식별자까지 함께 노출됐어요.

Gyazo를 운영하는 Helpfeel은 9월 14일 데이터 노출을 확인했고, 9월 15일 일본 개인정보보호위원회에 신고한 뒤 9월 16일 공지를 올렸습니다. 노출된 사용자 레코드는 약 2,362만 건으로 이메일 주소와 비밀번호 해시가 들어 있어요.

규모가 더 큰 쪽은 이미지 쪽입니다. 이미지 메타데이터 약 4억 9,000만 건이 함께 노출됐고 대부분 2019년 1월 이전 이미지예요. 여기에 Gyazo 이미지 링크를 구성하는 식별자가 포함됩니다.

같은 주에 스페인 개인정보보호원은 AI 에이전트가 실행한 것으로 알려진 유출 신고를 접수했다고 밝혔습니다.

  • 사용자 레코드 약 2,362만 건(이메일, 비밀번호 해시) · 이미지 메타데이터 약 4억 9,000만 건
  • 9월 14일 노출 확인 · 9월 15일 일본 개인정보보호위원회 신고 · 9월 16일 공지

Gyazo 유출에서 드러난 레코드 규모 Gyazo 유출에서 드러난 레코드 규모 — 출처: 공지 수치 기반 자가 렌더

이번 주 한 줄

감속을 요구한 쪽은 프런티어 랩이었고, 반대한 쪽은 백악관과 중국 외교부였습니다.

참고 출처