Liquid AI, CPU 장문 처리용 LFM2.5 오픈웨이트 인코더 2종 공개

230M·350M 규모의 LFM2.5 Encoder가 8,192 토큰 문맥과 CPU 추론을 지원한다. Liquid AI는 긴 입력에서 ModernBERT-base보다 약 3.7배 빠르다고 보고했다.

무엇이 공개됐나

Liquid AI는 2026년 7월 28일 Hugging Face에 LFM2.5-Encoder-230M과 350M을 공개했습니다. 두 모델은 LFM2.5 디코더 백본을 양방향 주의와 비인과적 짧은 합성곱, 마스크드 언어 모델링으로 바꾼 범용 인코더입니다. 최대 문맥은 8,192 토큰이며 가중치를 내려받아 세부 조정할 수 있습니다.

목표 작업

  • 의도 분류와 프롬프트 라우팅
  • 정책 위반과 개인정보 탐지
  • 문서·지원 대화 분류와 점수화
  • 토큰 단위 추출 및 검색용 표현 학습

생성형 LLM이 문장을 새로 쓰는 대신, 인코더는 입력 전체를 읽고 분류·추출하는 반복 업무에 특화됩니다. 항상 실행되는 안전 필터나 라우터라면 작은 모델을 CPU에 두는 편이 비용과 데이터 통제에 유리할 수 있습니다.

발표된 성능

Liquid AI는 17개 GLUE·SuperGLUE·다국어 분류 작업을 5개 시드로 평가했다고 밝혔습니다. 230M 모델이 ModernBERT-base와 EuroBERT 계열을 앞섰고, 8,192 토큰의 CPU 추론에서는 ModernBERT-base의 1분 30초 이상과 비교해 약 28초, 약 3.7배 빠르다고 보고했습니다.

확인할 한계

이 수치는 개발사가 선택한 미세조정·하드웨어·소프트웨어 조건의 결과입니다. 공개 글에는 CPU 모델과 스레드 수 등 재현에 필요한 모든 환경 정보가 명확히 드러나지 않습니다. 실제 도입 전에는 자체 문서, 언어, 클래스 불균형, 양자화·ONNX 경로와 개인정보 오탐을 동일 예산에서 비교해야 합니다.

공식 출처