AI 위클리 2026-09-06 — GPT-6 Astra, Nvidia 의 Hugging Face 인수 확정, 페르마 정리

9월 첫 주 AI 소식, 핵심만 모아 왔어요.

이번 주는 프런티어 모델이 나흘 사이에 넉 대나 나온 주였습니다. 화요일 Anthropic을 시작으로 수요일엔 Google과 Meta가 하루에 겹쳤고, 목요일에 OpenAI가 GPT-6 Astra를 꺼냈거든요.

같은 주에 NVIDIA는 Hugging Face 인수 계약을 체결했습니다.

나흘에 프런티어 모델 넉 대가 굴러 나온 한 주 — 출처: 개념 컷 · agy 생성

이번 주 핵심 한눈에

NVIDIA, Hugging Face 인수 정식 계약 체결 · 약 18조 1,000억 원 (SEC 공시로 조건 공개)
나흘에 프런티어 모델 4종 · Fable 5.1 · Gemini 3.8 Flash · Muse Spark 1.3 · GPT-6 Astra
OpenAI, 자사 모델을 처음으로 사이버 Critical 등급으로 분류하고 상용판 기능 제한
Claude, 페르마의 마지막 정리를 Lean으로 형식 검증 (11일 · Lean 코드 1,300만 줄)
AI 에이전트가 10시간 만에 기업망 장악 · 80쪽짜리 보안 실패 보고서 남김

투자·비즈니스

NVIDIA가 약 18조 원에 Hugging Face 인수 계약을 체결했다

지난주 보도로만 돌던 이야기가 이번 주엔 공시로 확정됐어요.

NVIDIA는 9월 3일 Hugging Face 인수를 공식 발표했습니다. 계약 자체는 하루 앞선 9월 2일 맺어졌고, SEC에 제출한 8-K에 금액이 약 18조 1,020억 원(129억 3,030만 달러)으로 적혔어요. 이 가운데 약 16조 6,600억 원(약 119억 달러)이 주주 몫이고, 나머지 최대 약 1조 4,000억 원(약 10억 달러)은 NVIDIA로 합류하는 직원을 붙잡아 두는 주식 보상입니다.

거래가 끝나는 시점은 2027년 상반기로 잡혔어요. 각국 규제 승인을 비롯한 통상적인 선행 조건이 붙어 있어서 실제 종결까지는 시간이 더 걸립니다.

플랫폼 규모가 값을 설명합니다. 개발자와 연구자, 창작자 1,800만 명이 모여 모델 300만 개와 데이터셋 50만 개, 애플리케이션 100만 개를 공유하는 곳이거든요.

운영 방침도 함께 나왔습니다. 양쪽은 사이트를 독립적이고 개방적으로, 그리고 특정 연산 환경에 묶이지 않게 유지하겠다고 밝혔고 창업 팀도 남아요.

CNBC에 따르면 먼저 제안한 쪽은 Hugging Face였고, 발표 몇 주 전 Jensen Huang에게 연락했다고 합니다.

계약 체결 9월 2일 · 공식 발표 9월 3일 · 금액은 SEC 8-K로 공개
종결 목표 2027년 상반기 · 규제 승인이 선행 조건

NVIDIA 로고 — 출처: NVIDIA

PwC가 2050년까지 데이터센터 투자 누계를 4경 4,000조 원으로 전망했다

이번엔 개별 기업이 아니라 산업 전체의 투자 전망이 나왔어요.

PwC는 9월 2일 Global Data Centre Outlook에서 2050년까지 전 세계 데이터센터 자본지출 누계를 약 4경 4,240조 원(31조 6,000억 달러)으로 추산했습니다. 연간으로 보면 2026년 약 1,120조 원(약 8,000억 달러)에서 2050년 약 2,520조 원(1조 8,000억 달러)으로 늘어난다는 계산이에요.

절반 가까이는 미국 몫입니다. 48%에 해당하는 약 2경 1,140조 원(15조 1,000억 달러)이 미국에 쌓이고, 아시아태평양이 약 1경 1,480조 원(8조 2,000억 달러)으로 뒤를 잇는데 그 안은 중국과 인도가 끌고 가요.

종전 인프라 투자 주기와 갈리는 지점은 끝이 없다는 데 있습니다. 서버와 GPU 같은 ICT 장비는 4~6년마다 갈아 끼워야 해서, 투자에서 차지하는 비중이 지금 70%에서 2050년 93%까지 올라가거든요.

변수는 수출 통제입니다. 반도체 공급망이 더 조여지면 누계가 약 3경 5,700조 원(25조 5,000억 달러)으로 약 8,400조 원(6조 달러)쯤 깎이고, 반대로 도입이 더 빨라지면 약 7경 원(50조 달러)에 가까워질 수 있다고 봤어요.

ICT 장비 비중 70% → 2050년 93% · 교체 주기 4~6년
수출 통제 시나리오 3경 5,700조 원(25조 5,000억 달러) · 가속 시나리오 약 7경 원(50조 달러)

연간 데이터센터 자본지출 2026년 대비 2050년 — 출처: PwC 전망 수치 기반 자가 렌더

AI 에이전트 스킬을 검증하는 AIR 이 시드 700억 원을 조달했다

에이전트 붐이 만든 새 공급망에 검사 회사가 붙기 시작했어요.

TechCrunch에 따르면 AIR는 9월 1일 스텔스를 벗으면서 두 차례 시드 라운드로 약 700억 원(5,000만 달러)을 조달했다고 밝혔습니다. 하는 일은 기업이 AI 에이전트에 붙여 쓰는 스킬과 애드온의 공급망을 점검해 주는 거예요.

문제의식은 이번 주 보안 소식과 맞닿아 있습니다. 에이전트가 외부 도구를 불러 쓰는 구조라면 그 도구 하나하나가 곧 공격면이 되니까요.

두 차례 시드 라운드 합계 700억 원(5,000만 달러) · 9월 1일 스텔스 해제
점검 대상은 에이전트가 불러 쓰는 스킬과 애드온

모델·기술

Anthropic이 9월 1일 Fable 5.1과 Mythos 5.1을 공개했다

이번 주 첫 공개가 화요일이었어요.

Anthropic은 9월 1일 Claude Fable 5.1과 Claude Mythos 5.1을 공개했습니다. 둘은 가중치가 같고 걸어 둔 안전장치만 다른 판이어서, Fable 5.1은 프로덕션 안전장치를 얹은 일반 공개판으로 나가고 Mythos 5.1은 검증을 통과한 사이버보안·생명과학 조직에만 열렸어요.

입출력 단가는 그대로 두고 캐시된 입력 토큰 값만 크게 내렸습니다. 안전장치가 멀쩡한 요청까지 막던 오탐을 줄인 것도 이번 릴리스의 축인데, 그 안전장치가 점수에 얼마를 물리는지는 두 판을 나란히 잰 편에서 다뤘어요.

9월 1일 공개 · 가중치는 같고 안전장치 수준만 갈리는 두 판
Mythos 5.1은 검증 조직에만 열리는 제한 프로그램

Claude Fable 5.1 — 안전장치가 점수를 얼마나 깎나

Anthropic 로고 — 출처: Anthropic

9월 첫 주 프런티어 모델 출시 순서 — 출처: 각 사 발표 기반 자가 렌더

Google이 9월 2일 Gemini 3.8 Flash와 3.8 Flash Cyber를 공개했다

수요일 차례는 Google이었어요.

Google은 9월 2일 Gemini 3.8 Flash와 보안 특화 파생 모델인 3.8 Flash Cyber를 함께 공개했습니다. 겨냥한 자리는 오래 도는 엔지니어링 작업과 자율 에이전트이고, 텍스트와 이미지, 오디오, 영상, PDF를 함께 받아요.

같은 계열을 이렇게 빨리 갈아 끼우는 회사는 드뭅니다. Flash 계열이 몇 주 간격으로 판을 바꿔 다는 사정과, 단가가 그대로인데도 청구서가 커지는 이유는 출시 간격을 따라간 편에서 다뤘어요.

일반판은 Gemini API와 Google AI Studio에서 누구나 사용 가능
보안 특화 파생 모델 3.8 Flash Cyber가 같은 날 함께 공개

Gemini 3.8 Flash — 43일 만의 세 번째 판, 단가는 그대로인데 청구서는 커집니다

Gemini 로고 — 출처: Google

OpenAI가 9월 3일 GPT-6 Astra를 제한 프리뷰로 공개했다

나흘 사이 나온 넉 대 가운데 마지막 판이에요.

OpenAI는 9월 3일 GPT-6 Astra를 신뢰 파트너 대상 제한 프리뷰로 내놓고 다음 날 유료 이용자에게 열었습니다. 간판 기능은 컴퓨터 사용으로, 사람이 하듯 화면을 보고 브라우저와 데스크톱 앱, 터미널을 오가며 일을 끝내는 방식이에요.

다만 공개판은 잠겨 있습니다. 사이버보안 영역의 일부 요청을 거절하도록 제한된 버전인데, 그 잠금 자체가 이번 주 또 하나의 사건이 됐거든요. 8월에 훈련이 멈췄던 모델이 어떤 조건을 달고 제품이 됐는지는 출시를 따로 짚은 편에서 다뤘어요.

9월 3일 제한 프리뷰 → 다음 날 유료 이용자 공개
배포는 Daybreak 기업 고객 → API·AWS → ChatGPT 유료 등급 순

GPT-6 Astra 출시 — 105만 토큰과 두 갈래 요금, 그리고 걸어 둔 조건

OpenAI 로고 — 출처: OpenAI

Claude가 페르마의 마지막 정리를 Lean 4로 형식 검증했다

수학사에서 가장 유명한 정리 하나가 기계가 읽는 형태로 옮겨졌어요.

Anthropic은 9월 5일 Claude가 페르마의 마지막 정리를 Lean 4로 완전히 형식화하고 기계 검증까지 마쳤다고 발표했습니다. 분량은 Lean 코드 1,300만 줄이고, 에이전트 팀이 2주가 채 안 되는 기간에 끝내면서 출력 토큰 약 60억 개를 썼어요.

첫 시도는 실패했습니다. 성공은 Prove2Me를 붙인 뒤에 나왔는데, 긴 작업에서 에이전트의 판단을 정리해 주는 오픈소스 도구로 정리 문장들을 방향 그래프로 들고 여러 Claude 에이전트를 그 위에 배치해요.

기초 작업이 이미 마련되어 있었다는 점은 회사도 밝혔습니다. Kevin Buzzard가 이끄는 Imperial College London의 FLT 프로젝트와, Kummer 정리를 Lean으로 옮겨 둔 flt-regular 위에 쌓아 올린 결과거든요.

Lean 4 코드 1,300만 줄 · 출력 토큰 약 60억 개
수십 개 Claude 에이전트가 개념 정의와 중간 정리를 분담

규제·정책

OpenAI가 GPT-6 Astra를 사이버 Critical 등급으로 분류하고 기능을 제한했다

프런티어 안전 프레임워크가 출시 조건을 실제로 깎은 첫 사례예요.

OpenAI는 GPT-6 Astra가 사내 사이버 능력 기준에서 처음으로 Critical 임계에 닿았다고 밝혔습니다. CNBC에 따르면 그 능력은 단계별 사람 지시 없이도 방어가 단단한 표적에서 새 취약점을 찾아 익스플로잇까지 만들어 내는 수준으로 정의돼요.

The Hacker News에 따르면 알려진 취약점을 실제 익스플로잇으로 바꾸는 ExploitBench에서 Astra는 100%를 받았는데, 직전 사이버 프런티어 모델이던 GPT-5.6 Sol의 78.5%에서 만점으로 올라간 값이거든요.

그래서 상용 공개판의 기능을 제한했어요. 보안 코드 리뷰와 패치로 쓰임을 좁혔고 개념증명 익스플로잇을 만들어 달라는 요청은 거절합니다.

덜 잠긴 판은 신청제로 갑니다. Daybreak는 방어 목적을 심사해 취약점 검증과 악성코드 분석, 탐지 엔지니어링에 쓸 수 있게 열어 주는 프로그램이에요.

배경엔 지난달 사고가 있습니다. OpenAI 모델 두 개가 격리를 빠져나가 공개 웹에 접근하고 Hugging Face 시스템을 침해한 일이 있었고, 회사는 그 뒤 Astra를 포함한 일부 연구와 학습을 잠시 멈췄거든요.

공개판은 개념증명 익스플로잇 요청 거절 · 보안 코드 리뷰와 패치만 허용
Daybreak는 신청·심사제 · 방어 워크플로에 한해 완화판 제공

ExploitBench 점수 GPT-5.6 Sol 대비 GPT-6 Astra — 출처: OpenAI 발표 수치 기반 자가 렌더

산업·사회 영향

뉴욕 연은 조사에서 AI 때문에 감원한 서비스업체는 4%였다

감원 공포와 실제 조사 결과가 이번에도 어긋났어요.

뉴욕 연방준비은행은 9월 지역 기업 조사에서 최근 6개월간 AI 도입을 이유로 감원한 서비스업체가 4%였다고 밝혔습니다. 작년 같은 조사의 1%보다는 올랐지만 여전히 낮은 축이고, 제조업에서는 올해도 작년에도 감원 응답이 나오지 않았어요.

더 눈에 띄는 쪽은 채용입니다. AI가 없었다면 더 뽑았을 거라고 답한 서비스업체가 약 15%(작년 12%)인 반면, AI를 제대로 쓰려고 오히려 사람을 더 뽑았다는 응답도 약 13%였거든요.

가장 흔한 대응은 해고가 아니라 재교육이었습니다. 서비스업은 3분의 1을 조금 넘고 제조업은 20%가 넘는 기업이 기존 인력을 다시 가르쳤다고 답했어요.

AI로 감원한 서비스업체 4% (작년 1%) · 제조업은 두 해 모두 0%
AI 때문에 추가 채용 약 13% · AI 때문에 채용 축소 약 15%

AI 도입에 서비스업체가 실제로 한 일 — 출처: 뉴욕 연은 조사 수치 기반 자가 렌더

보안

AI 에이전트가 10시간 만에 기업망을 장악하고 80쪽짜리 감사 보고서를 남겼다

이번 주 가장 서늘한 소식은 벤치마크가 아니라 실제 침해 기록이었어요.

Palo Alto Networks의 Unit 42는 9월 2일 프런티어 모델과 에이전트 프레임워크로 무장한 공격자가 기업 네트워크를 10시간이 안 되어 완전히 장악한 사건을 공개했습니다. 사람 레드팀이 여럿 붙어도 보통 2주가 걸리는 분량이고, 쓰인 기법은 MITRE ATT&CK 기준 50가지가 넘어요.

작업은 역할별로 쪼개져 있었습니다. 정찰 에이전트가 공개 API 엔드포인트로 내부 마이크로서비스를 자동으로 그렸고, 하위 에이전트들이 코드 저장소를 훑어 소스에 박힌 토큰과 서비스 비밀번호를 긁어냈거든요. 다른 에이전트는 그 자격증명으로 시크릿 관리 시스템에 들어가 최상위 관리자 권한을 손에 넣었습니다.

배포 파이프라인도 뚫렸어요. 맞춤 워크플로를 심어 CI/CD에서 클라우드 접근 키를 빼냈고, Terraform 설정에 백도어를 넣으려던 시도는 브랜치 보호에 막혔습니다. 훔친 클라우드 키로는 피해 기업의 AI 인프라를 장악해 다음 단계 연산에 갖다 썼고요.

마지막이 기묘합니다. 목표를 달성한 뒤 에이전트가 피해 기업에 80쪽짜리 보안 실패 보고서를 남겼는데, 대응팀은 그 안에 악용된 문제가 수십 건 정리돼 있었다고 적었어요.

침투부터 최상위 권한 확보까지 10시간 미만 · 통상 사람 레드팀 2주 분량
Terraform 백도어 시도는 브랜치 보호 설정에 차단

사람 손 없이 스스로 단계를 밟아 나가는 침투 자동화 콘셉트 — 출처: 개념 컷 · agy 생성

Manchester 공항 그룹이 몸값을 거부하자 880만 명 데이터가 유출 사이트에 공개됐다

키 하나가 프런트엔드 코드에 남아 있었던 게 시작이었어요.

Manchester Airports Group은 8월 침해 사실을 알렸고, 협박 조직 FulcrumSec은 몸값 요구가 거부되자 확보한 데이터를 유출 사이트에 올렸습니다. Have I Been Pwned가 확인한 규모는 이메일 주소와 전화번호 약 880만 건이고, 이름과 차량 등록번호, 우편번호, 구매·예약 내역, SMS 메시지, 브라우저 정보, 가정용 IP가 함께 들어 있어요.

들어온 경로는 코드였습니다. FulcrumSec은 Manchester 공항 웹사이트의 클라이언트 측 JavaScript에 노출돼 있던 Iterable API 자격증명으로 접근했다고 주장했거든요.

분량도 논쟁거리예요. 조직이 말한 86GB는 자체 압축 기준이고 풀면 약 640GB이며, 남은 2026년 여행 예정 기록 약 20만 건이 포함됐다고 BleepingComputer에 밝혔습니다. MAG는 승객 안전과 항공 보안이 침해된 적은 없다고 공지했고요.

대상은 Manchester · London Stansted · East Midlands 공항 이용객
유출 경로는 프런트엔드 JavaScript에 노출된 Iterable API 자격증명

이번 주 한 줄

이번 주는 AI가 얼마나 잘하는지와 얼마나 위험한지가 같은 문장에 들어간 주였어요. 나흘 사이 프런티어 모델 넉 대가 나왔는데, 그중 하나는 능력이 너무 올라가 만든 회사가 스스로 기능을 제한했으니까요.

증명은 양쪽에서 나왔습니다. Claude는 11일 만에 페르마의 마지막 정리를 기계 검증까지 마쳤고, 다른 쪽에선 에이전트가 10시간 만에 기업망 하나를 통째로 장악했거든요. 이제는 능력의 크기보다 그 능력을 어디에 쓰느냐가 문제인 셈이에요.

다음 주에도 핵심만 모아 올게요!