← 모든 글

앤트로픽이 미국 대형 은행 전부와 한 테이블에 앉아 문서로 만든 타협, EFS

앤트로픽은 EFS로 감시 데이터를 고객 클라우드에 두고 열쇠도 고객에게 맡깁니다.

블로그AI 업계
7분 읽기
#앤트로픽#AI 안전#엔터프라이즈
앤트로픽이 미국 대형 은행 전부와 한 테이블에 앉아 문서로 만든 타협, EFS 대표 이미지
목차왜 30일 보존이 생겼는지부터

프런티어 AI 회사가 오용을 잡으려면 고객 데이터를 들여다봐야 합니다. 규제 산업 고객은 데이터를 밖에 못 내놓습니다. 지금까지는 둘 중 하나를 포기해야 했어요.

9월 1일, 앤트로픽이 이 모순에 대한 답안을 발표했습니다. 엔터프라이즈 프런티어 세이프가드(EFS). 앤트로픽이 페이블 5.1과 같은 날 내놓은, 사실상 한 세트의 발표예요. 발표문과 관련 정책 문서 다섯 건을 다 읽고 구조를 정리했습니다.

왜 30일 보존이 생겼는지부터

앤트로픽의 탐지 철학부터 볼게요. 발표문의 핵심 문장을 그대로 옮기면:

"가장 정교한 오용은 여러 세션과 계정에 걸쳐 흩어진 다수의 작업으로 이뤄질 수 있기 때문에, 각 상호작용을 따로 자동 분석하고 즉시 폐기하는 것으로는 충분하지 않다. 효과적인 탐지는 시간과 계정을 가로질러 상관시킬 수 있도록 데이터를 의미 있는 기간 동안 저장하는 것을 요구한다."

앤트로픽은 근거로 사건 하나를 링크했습니다. 2025년 11월 앤트로픽이 공개한, "실질적 인간 개입 없이 실행된 최초의 문서화된 대규모 사이버 공격". 앤트로픽이 높은 확신으로 중국 국가 지원 그룹이라 판단한 행위자가 클로드 코드로 전 세계 약 30개 표적을 쳤고, 캠페인의 8090%를 AI가 수행했으며, 정점에서는 초당 여러 건씩 수천 개의 요청을 날렸습니다. 사람은 캠페인당 결정 지점 46곳 정도에서만 개입했어요. 요청을 하나씩 보면 전부 무해해 보여서, 수백 개를 겹쳐 봐야 패턴을 잡을 수 있어요.

그래서 앤트로픽은 페이블 5부터 '커버드 모델' 정책을 만들었습니다. 최상위 모델의 프롬프트와 출력은 최소 30일 보존하고 자동 안전 시스템으로 분석하며, 제로 데이터 보존(ZDR)으로는 쓸 수 없다는 내용이에요. 앤트로픽은 학습 목적이 아니라고 명시했습니다. "명시적 허락 없이 기업 데이터로 학습한 적 없고, 앞으로도 없다."

그런데 규제 산업은 이 정책 때문에 최상위 모델을 쓰기 어려웠어요. 앤트로픽도 발표문에 이렇게 적었습니다. "기업들은 보존의 안전·보안 가치는 대체로 이해했지만, 특히 규제 산업의 다수는 보존이 있는 모델을 쓰기 어려워했다." 특권 법률 자료, 환자 데이터, 미공개 정보를 다루는 조직은 '외부 벤더가 30일 보관'이라는 조항 하나 때문에 계약 갱신·고객 고지·감사 요건을 줄줄이 챙겨야 해요.

EFS 구조: 열쇠를 넘기고 감시는 유지

앤트로픽은 감시는 그대로 두고 보관 장소와 리뷰 권한을 고객에게 옮겼습니다. 발표문에는 이렇게 못 박았어요. "EFS는 데이터를 앤트로픽이 아닌 고객이 통제하는 클라우드 인프라에 저장하는 방식으로 작동한다."

앤트로픽은 설계 원칙 세 가지를 고객 협의에서 들은 요구와 결론 순서로 적었어요.

첫째, 리뷰 통제. 고객들은 앤트로픽의 자동 모니터링이 자기네 규제 기준을 충족하는지 걱정했습니다. 결론: "EFS에서는 고객이 데이터가 어떻게 리뷰되는지 통제한다." 모니터링 시스템이 주목할 패턴을 잡으면 그 신호를 고객에게 바로 보내고, 고객이 직접 확인합니다.

둘째, 저장 통제. 결론: "고객이 데이터 저장과 관리를 통제할 수 있다." EFS는 모니터링용 활동 데이터를 고객 자신의 클라우드 계정(아마존 S3, 애저 블롭 스토리지, 구글 클라우드 스토리지)에 저장하고, 고객의 암호화 키, 접근 정책, 감사 로깅 아래 둡니다.

셋째, 인간 리뷰 제거. 고객들은 리뷰하는 사람이 "자기 조직 사람이어야 한다"고 요구했습니다. 결론: "EFS는 자동 안전 모니터링을 갖추며, 앤트로픽의 인간 리뷰는 요구되지 않는다." 자동 시스템이 트래픽의 롤링 윈도우에서 공격적 사이버·생물 능력 개발 시도나 탈취된 자격증명의 신호를 분석하고, 플래그를 고객에게 보냅니다.

고객 소유 저장, 고객 관리 암호화 키(CMEK), 완전 자동 리뷰는 고객이 하나씩 골라 켜는 옵트인입니다. 그리고 앤트로픽은 불변 조건을 강조했습니다. "어느 것도 모델 행동, API 가격, 요금 한도를 바꾸지 않는다." 앤트로픽은 실시간 안전 분류기와 사용 정책을 EFS와 무관하게 전 트래픽에 계속 적용합니다. EFS를 켜도 앤트로픽은 보존·리뷰 위치만 옮기고 안전장치는 그대로 둬요.

앤트로픽은 과금 조건도 분명히 적었어요. EFS 자체에는 요금을 받지 않습니다. 대신 고객 클라우드에 저장하면 클라우드 회사가 저장·읽기·쓰기·전송(이그레스) 요금을 고객에게 청구합니다. 앤트로픽 대신 클라우드 회사가 청구서를 보내는 셈이죠.

누가 만들었나: 협업 명단이 곧 메시지

저는 이 발표에서 수치보다 명단을 더 무겁게 봤습니다.

앤트로픽은 100곳 이상의 고객과 함께 개발했고, "포춘 100의 4분의 1, 미국의 모든 글로벌 시스템 중요 은행(G-SIB), 사실상 모든 규제 산업"과 협의했다고 밝혔습니다. 금융·헬스케어·제조·통신·법률·리테일·공공까지.

이름이 박힌 협의체도 있습니다. 골드만삭스, 모건스탠리, 씨티, 뱅크오브아메리카, 웰스파고의 CISO들이 속한 시스템 리스크 분석·복원 센터(ARC). ARC는 이렇게 말했습니다. "회원 8곳이 앤트로픽과 함께, 시스템 중요 은행 안에서 가장 유능한 프런티어 모델을 돌리려면 무엇이 필요한지 정의했다. 누가 데이터를 쥐는지, 누가 키를 쥐는지, 자동 리뷰가 무엇을 볼 수 있고 볼 수 없는지, 어떤 조건에서만 인간이 들여다보는 게 허용되는지."

웰스파고는 구조를 한 문장으로 요약했습니다. "로그는 웰스가 관리하는 환경에 웰스가 관리하는 키로 남는다. 우리가 데이터의 보관을 쥐고, 앤트로픽이 탐지를 운영한다. 그 분업이 우리 팀이 프런티어 모델을 안전하게 일에 투입하게 해준다."

플랫폼 쪽에서는 스노우플레이크("데이터는 고객 환경에, 고객이 통제하는 키 아래 남고, 가장 유능한 모델을 첫날부터 돌린다"), 스트라이프(대화 로그를 스트라이프의 AWS 환경에 보존), 코그니션, 팩토리, 로고가 인용을 실었습니다. 클라우드 파트너는 AWS·구글 클라우드·마이크로소프트 애저입니다. 세 회사는 어느 경로로 접근하든 동등한 통제를 제공하고, 활동 데이터를 고객이 이미 신뢰하는 그 환경에 저장하겠다고 약속했어요. EFS는 클로드 코드, 클로드 엔터프라이즈, 클로드 플랫폼, 베드록, 구글 에이전트 플랫폼, 마이크로소프트 파운드리까지 지원합니다.

깎아 읽을 지점

앤트로픽이 발표문과 헬프 문서에 직접 적어 둔 조건들입니다.

아직 없습니다. 앤트로픽은 "올가을 후반부터 단계적으로" 롤아웃하고, "가을 늦게 광범위 제공"을 목표로 잡았습니다. 오늘 바로 일반 제공하지는 않아요. 그때까지는 브리지가 있어요. EFS 적격 고객은 준비될 때까지 페이블 5·5.1을 ZDR로 쓸 수 있습니다. 단, 헬프 문서에 따르면 이 브리지는 "한시적"이고, 내부 업무용이며, 앤트로픽이 "오용에 대응해 수정하거나 철회할 수 있는" 조치입니다. 적격 여부는 앤트로픽이나 클라우드 파트너가 직접 연락하거나, 고객이 신청 폼을 내서 확인합니다.

HIPAA 경로는 미정입니다. BAA 헬프 문서의 표에는 EFS 행이 아직 없습니다. 지금 커버드 모델을 BAA 하에 쓰려면 표준 보존을 켠 HIPAA-레디 API를 써야 하고, ZDR 클로드 코드로는 BAA를 맺을 수 있지만 커버드 모델을 못 씁니다. 앤트로픽은 EFS가 이 표를 어떻게 바꿀지 아직 문서화하지 않았어요.

'완전 무보존'이 아닙니다. 앤트로픽은 공식 카피에 "ZDR의 프라이버시를 결합"이라고 썼습니다. 그래도 EFS는 모니터링용 활동 데이터를 고객 클라우드에 남깁니다. 그리고 플래그가 뜨면 ZDR·HIPAA 조직이라도 앤트로픽이 입력·출력을 최대 2년 보존할 수 있다는 조항도 그대로 뒀어요.

자기 보고 수치입니다. 100곳 이상, 포춘 100의 4분의 1, 미국 G-SIB 전부. 앤트로픽이 스스로 밝힌 수치이고, 외부에서 검증하지 않았습니다.

남는 생각

저는 이 발표를 기능 출시보다 선례 문서로 읽었습니다.

지금까지 규제 산업은 프런티어 모델 회사와 암묵적으로 거래했습니다. 능력을 쓰려면 데이터를 넘기든가, 데이터를 지키려면 구형 모델을 쓰든가. 앤트로픽은 EFS로 그 거래 조건을 처음 명문화했어요. 감시는 유지한다, 저장은 고객이 한다, 열쇠는 고객이 쥔다, 인간 리뷰는 고객 몫이다.

특히 ARC는 인용 마지막에 "우리 산업 전체와 그 너머로 확장될 수 있는 개선된 세이프가드와 표준"이라고 적었습니다. 저는 이걸 EFS가 앤트로픽 한 회사의 제품 사양으로 끝나지 않을 수 있다는 신호로 봅니다. 은행 8곳의 CISO가 함께 정의한 요구사항이라면, 은행들은 다음 프런티어 랩이 들어올 때도 같은 표를 내밀 테니까요.

저는 앤트로픽이 가을 롤아웃을 이 문서대로 진행하는지, BAA 표에 EFS 행을 언제 넣는지 지켜보려 합니다.


원문·소스

FAQ

자주 묻는 질문

EFS가 푸는 모순은 무엇인가요?
프런티어 모델은 오용을 잡으려면 데이터를 봐야 하고, 규제 산업은 데이터를 밖에 못 내놓습니다. 앤트로픽은 저장과 열쇠를 고객 클라우드로 옮겨 두 요구를 함께 맞춥니다.
지금 바로 쓸 수 있나요?
아직은 못 씁니다. 앤트로픽은 올가을 후반부터 단계적으로 롤아웃합니다. 그때까지 적격 고객은 한시적으로 페이블 5·5.1을 제로 데이터 보존으로 쓸 수 있어요.
완전 무보존인가요?
아닙니다. EFS는 모니터링용 활동 데이터를 고객 클라우드에 남기고, 자동 시스템이 플래그를 올리면 앤트로픽이 입력·출력을 최대 2년 보존할 수 있습니다.
원고, 봉투, 책자가 오렌지 리본 하나로 이어진 모습

SEASON 3

시즌3 「콘텐츠로 팔기」

AI와 콘텐츠를 만들고 고객에게 연결하는 4주

제가 에이전트로 조사하고 쓰고 파는 과정을 그대로 보여 드려요. 그다음 각자의 주제로 같이 만들어 봐요.

10월 2일 OT · 10월 5일부터 월·수 4주 · 10월 31일 오프라인