앤트로픽이 페이블 5 생물학 질문을 약한 모델로 넘기던 전환을 85% 줄였습니다

페이블 5는 출시 때 생물학 질문이 오면 한 단계 약한 모델로 넘겨 답했습니다. 검사 결과 해석 같은 평범한 질문도요.

생물학 질문이 들어오면 더 약한 모델로 바꾸는 전환, 폴백을 앤트로픽이 제품 전반에서 85% 줄였다고 발표했습니다. 검사 해석·증상 이해·생물학 학습 같은 일상 질문은 열고, 바이러스학·독성학·분자 설계는 여전히 막아 뒀습니다.

무엇이 새로 바뀌었나요?

앤트로픽은 차단을 풀지 않고 폴백을 줄였습니다. 앤트로픽이 밝힌 수치는 하나뿐입니다. 생물학 관련 폴백 약 85% 감소. 앤트로픽은 공식 글 본문에 이 수치를 각주 1로 달았어요.

앤트로픽은 일상·교육 질문부터 풀었어요. 검사 결과 해석, 증상 이해, 생물학 학습. 의료 현장의 임상 지원도 더 받을 수 있다고 적었어요.

막아 둔 구간도 분명합니다. 바이러스학, 독성학, 분자 설계처럼 이중 용도로 보는 요청은 여전히 오퍼스 5로 넘어갑니다. 앤트로픽은 전문 생물학 연구와 신약 개발에는 아직 쓸 수 없다고 본문에서 직접 말합니다.

사람들은 보통 안전장치를 "위험한 답을 막았는가"로만 평가합니다. 사용자는 반대편에서 불편을 겪어요. 평범한 질문을 막으면, 모델이 똑똑해도 제품이 멍청해 보이죠.

페이블 5가 그 충돌을 상용 제품에서 그대로 보여 줬습니다.

왜 출시 때 생물학을 거의 전부 막았나요?

앤트로픽은 이 모델이 일부 복잡한 생물학 과제에서 전문가를 넘고 실무 지원까지 할 수 있다고 평가했어요. 같은 능력이 연구자에게는 약이 되고, 악의를 품은 행위자에게는 다른 곳에서 얻기 어려운 도움이 됩니다.

앤트로픽은 정책 논리도 문서에 남겼죠. 질병 치료를 연구하려면 그 병을 일으키는 물질을 다뤄야 하는 경우가 있습니다. 생백신을 만들려면 막으려는 병원체를 길러야 합니다.

고혈압약 캡토프릴은 사람 혈압을 떨어뜨리는 뱀독 성분에서 출발했어요. 같은 실험 문장으로 이로운 연구도, 해로운 연구도 할 수 있습니다.

악의를 품은 쪽은 그 모호함을 이용합니다. 위험한 작업을 평범한 연구처럼 보이게 만들 수 있어요.

앤트로픽은 미국 정보공동체의 2026 연례 위협 평가를 인용하며, 합성생물학과 유전체 편집이 새로운 생물 위협으로 이어질 수 있고 일부 국가 행위자가 공격용 생화학 프로그램을 유지할 가능성이 있다고 적었습니다.

그래서 앤트로픽은 출시 때 생물학을 "거의 전부 막기"로 정했어요. 모델을 다른 영역에는 풀어 주되, 생물학은 일단 닫아 둔 겁니다. 합법 생물학 사용자가 불편해지는 걸 알면서도, 이중 용도 오남용 비용을 더 크게 본 거죠.

분류기를 어떻게 고쳤나요?

앤트로픽은 출시 때 경계를 아주 왼쪽에 두었습니다. 확실한 유해(빨강)와 이중 용도(주황)뿐 아니라, 거의 분명한 일상 질문(연두 안전 여유)까지 막았어요.

몇 주 동안 분류기 헌법을 다시 썼고, 허용되는 쓰임을 하나씩 쪼갰습니다. 내부·외부 전문가 피드백을 받은 뒤 학습 데이터를 갈아 끼우고 다시 훈련했어요.

앤트로픽은 목표를 분명히 적었습니다. 해롭거나 이중 용도인 연구는 계속 걸리게 두고, 이롭거나 평범한 질문은 통과시키는 것. 그림으로 말하면 경계선을 오른쪽으로 옮긴 겁니다.

미탐(막아야 할 걸 놓침)을 키우지 않으면서 오탐을 줄이는 작업이고, 탈옥에도 버티게 만들어야 해서 시간이 더 걸립니다.

앤트로픽은 출시 때 넓게 막은 이유도 같이 적었어요. 분류기를 충분히 예민하게 다듬을 때까지 모델을 통째로 붙잡아 두면, 일반 공개를 몇 주에서 몇 달 미뤄야 한다고 판단했어요. 일단 풀어 주고, 생물학만 두껍게 가린 뒤, 가림막을 얇게 깎는 순서입니다.

한계는 무엇인가요?

앤트로픽이 공개한 감소 폭은 내부 테스트 수치예요. 어떤 질문으로 측정했는지, 의료/교육/연구 비율이 얼마인지 앤트로픽은 밝히지 않았어요. 실제로 써 보면 발표만큼 줄었다고 느낄지는 장담할 수 없습니다.

이중 용도 영역은 그대로 막아 뒀습니다. 바이러스학, 독성학, 분자 설계. 연구자에게 가장 필요한 구간을 아직 오퍼스로 폴백합니다.

"생물학 모델이 열렸다"고 쓰면 과장이 됩니다.

앤트로픽이 분류기를 고쳐도 경계는 남습니다. 합법 연구와 무기화 연구가 같은 실험실 문법을 쓰기 때문이에요. 오탐을 줄이면 미탐 위험이 커질 수 있고, 발표문만으로는 그 트레이드오프를 외부에서 검증하기 어려워요.

신뢰 접근(trusted access) 이야기도 아직 약속 단계입니다. 앤트로픽은 프론티어 생물학 능력을 검증된 연구자에게 열어 주겠다고 했지만, 누가 어떤 심사로 들어가는지는 이 발표에서 밝히지 않았습니다.

실사용에서 무엇을 확인해야 하나요?

페이블 5를 의료·교육 보조로 쓰는 팀은 검사 해석이나 기초 설명을 물었을 때 약한 모델로 넘어가는지 직접 확인해 보세요. 예전보다 덜 넘어가야 정상이에요. 그대로라면, 내부 테스트 질문과 실제 질문이 다른 겁니다.

신약·바이러스·분자 설계 팀은 아직 이 모델을 연구 엔진으로 보면 안 됩니다. 앤트로픽은 그 구간을 일부러 닫아 두고, 오퍼스 5 폴백을 기본으로 걸었습니다.

오탐을 줄인 건 반가운 소식이지만, 앤트로픽이 연구 접근권까지 연 건 아니에요. 앤트로픽은 일상과 교육을 열었고, 이중 용도는 여전히 닫아 뒀습니다.

남는 생각

저는 프론티어 모델의 안전장치를 볼 때 차단 여부보다 어떤 질문에서 폴백하는지를 먼저 봅니다.

어떤 질문을 약한 모델로 내리는지 보면 제품 품질을 판단할 수 있어요. 페이블 5의 이번 85%도 그 기준으로 읽을 때 의미가 있어요.

---