시계열 예측이 한 번의 전방 계산으로 끝나기 시작했습니다

구글리서치가 8월 31일 타임스에프엠-3를 발표했습니다. 시간축으로 쌓인 데이터의 미래를 그리는 기초 모델이에요. 발표 트윗의 조회가 117만을 넘으며 이번 주 가장 큰 조회를 받은 소재가 됐습니다.

매개변수 3억 3천만 개, 학습 데이터는 1조 시점 이상. 수치의 스케일보다 더 큰 변화는 범위입니다. 전작 타임스에프엠-2.5까지는 단일 변수 예측에 묶여 있었어요. 이번 모델은 여러 변수의 미래를 한 번에 그려냅니다.

이 글은 공식 트윗과 블로그, 깃허브 README, 허깅페이스 카드를 모두 읽고 정리했습니다. 순위 수치와 함께 라이선스의 함정까지 옮깁니다.

구조는 디코더 전용 트랜스포머입니다

아키텍처부터 봅니다. 과거 시점을 32개씩 묶어 패치로 만들고, 시간축 어텐션과 변수축 어텐션을 교차시켜 예측 수평선 전체를 한 번의 전방 계산으로 처리합니다. 이게 발표 제목의 "제로샷"이 나오는 구조예요.

예측은 10번째부터 90번째 백분위까지 아홉 개 분위수로 나옵니다. 분위수란 각 시점의 하한과 상한을 확률적으로 제시하는 방식입니다. 단일 값 대신 구간으로 내다보는 거죠.

세 벤치마크에서 1위라는 평가입니다

깃허브 README의 벤치마크 표를 그대로 옮깁니다. fev-bench에서 100개 실전 예측 과제 전체 1위, 타임 벤치에서 50개 도메인 데이터셋과 98개 평가 과제 1위, 기프트이밸에서 파운데이션 모델 중 1위입니다.

비교 대상은 크로노스-2, 토토 2.0 계열, 전작 타임스에프엠-2.5입니다. 단, "상위권"이라는 평가는 구글 자체 평가라는 단서가 붙어요. 과제별 점수 표는 블로그에 없고 차트 캡션뿐입니다.

허깅페이스 카드는 구조를 더 구체적으로 적습니다. 컨텍스트 패치 길이 32, 예측 수평선 패치 길이 64, 트랜스포머 레이어 20개, 모델 차원 1280, 헤드 16개입니다. 사전학습 데이터는 기프트이밸 프리트레인, 위키피디아 페이지뷰(2023년 11월 컷오프), 구글 트렌드 상위 질의(2022년 말 컷오프), 합성 데이터가 섞였습니다.

가중치는 비영리 전용입니다

돌려보려면 라이선스를 먼저 확인해야 합니다. 사전학습 가중치는 별도 라이선스로 비영리·비프로덕션 용도에만 쓸 수 있어요. 상업 또는 프로덕션 사용은 허용되지 않습니다. 소스 코드만 아파치-2.0으로 열렸습니다.

배포 경로는 세 갈래입니다. 깃허브 레포(별 2만 8,701, 포크 2,801)와 허깅페이스 체크포인트, 그리고 수 주 안에 들어올 빅쿼리 연동이에요. 이 글 시점 기준으로 공개된 건 깃허브와 허깅페이스입니다.

레포의 README는 단서를 하나 더 답니다. "이 오픈 버전은 구글의 공식 지원 제품이 아닙니다." 연구용으로 열었고, 운영 책임은 쓰는 쪽에 있다는 뜻입니다.

남는 생각

저는 이번 발표를 예측의 폭 확장으로 읽습니다.

전작까지 예측은 단일 변수에 묶여 있었습니다. 이번 모델은 여러 변수를 한 번에 다루고, 분위수로 구간까지 제시합니다. 같은 입력으로 더 넓은 세계를 그릴 수 있게 된 거예요.

다만 상업 이용이 막힌 지금은 연구용 도구로 보는 게 정확해 보입니다. 비영리 라이선스가 언제 풀리는지가 다음 관전 포인트예요. 라이선스가 열리는 순간, 이 모델을 얹은 제품이 여럿 나올 겁니다.

---

원문·소스

• 공식 트윗 (@GoogleResearch): https://x.com/GoogleResearch/status/2094483372718580066
• 블로그: https://research.google/blog/timesfm-3-a-zero-shot-foundation-model-for-multivariate-forecasting/
• 깃허브 레포: https://github.com/google-research/timesfm
• 허깅페이스 카드: https://huggingface.co/google/timesfm-3.0-pytorch