시계열 임베딩의 군집화 가능성 연구

요약

시계열 임베딩 모델 5종의 비지도 군집화 성능을 UEA 다변량 데이터셋 4종에서 비교.

배경

의료·산업 공정 등 도메인마다 다변량 시계열의 구조와 스케일이 달라 도메인별 임베딩 모델의 개발·유지보수 비용 발생. 대안으로 LLM·자기지도학습 기반 범용 임베딩 등장.

문제

범용 임베딩이 레이블 없는 군집화 과제에서도 유용한지 검증 필요.

실험 설정

• 모델: TS2Vec, PatchTST(Non-LLM) / MERIT, TimeCMA, TimeKD(LLM 기반)
• 데이터셋: BasicMotions, Epilepsy, Libras, HandMovementDirection
• 군집화: K-Means, Spectral(k-최근접 이웃 그래프, k=15). 군집 수는 클래스 수와 동일
• 지표: RI, NMI. 정답 레이블은 최종 평가에만 사용. 임베딩 차원 320 고정

결과

데이터셋 4종 평균.

그림

시사점

• TS2Vec이 두 군집화 방법 모두에서 최고 성능
• LLM 기반 TimeKD·TimeCMA는 NMI 0.05 미만. 군집은 생기지만 실제 클래스 정보는 반영하지 못하는 RI·NMI 불균형
• 이번 실험 범위(UEA 4종)에서 주기적 패턴 데이터는 TS2Vec, 비선형 구조 데이터는 PatchTST·MERIT와 Spectral 조합이 유리
• 같은 범위에서 지식 증류·모달 정렬 기반 모델보다 대조학습·자기지도학습 기반 모델이 비지도 군집화에 유리

참고

연구 지원: 과학기술정보통신부·정보통신기획평가원 SW중심대학사업(2021-0-01082). 관련 SW 저작권 등록 C-2026-000148(저작자 경북대학교 산학협력단).