최근 유명한 AI 혁신 기업인 리퀴드 AI는 차세대 기반 모델 패밀리인 LFM3을 공식적으로 발표했습니다. 이 시리즈의 첫 번째 버전에는 약 2B 수준의 파라미터 규모를 갖춘 모델 여섯 가지가 포함되어 있으며, 텍스트, 비전, 오디오, 옴니모달(omni) 및 의사결정 등 다양한 영역을 포괄합니다. 모든 모델은 LFM3-1.7B-Base 기반 아키텍처를 바탕으로 하며, 사전훈련 단계에서 무려 22T에 달하는 토큰 데이터를 처리했습니다.
획기적인 트라이하이브리드 아키텍처: 더 적은 파라미터, 더 높은 효율성
LFM3은 게이트 기반의 짧은 컨볼루션, 슬라이딩 창 주목 메커니즘(SWA), 그리고 글로벌 주목 메커니즘을 유기적으로 결합한 새로운 트라이하이브리드 레이어 구조를 도입했습니다. 전체 24개의 레이어 중 13개는 컨볼루션, 5개는 슬라이딩 창 주목, 나머지 6개는 글로벌 주목 레이어로 구성됩니다.
이전 세대 제품에 비해 LFM3은 아키텍처 측면에서 전면적인 재설계를 거쳤으며, 하드웨어 호환성 테스트 범위도 대폭 확장되어 스마트폰, 라즈베리 파이, 노트북은 물론 각종 클라우드 기반 CPU, GPU, 퀄컴 NPU 등 총 14종의 디바이스와 백엔드 조합을 포괄합니다. 테스트 결과, 새로운 설계 덕분에 LFM3-1.7B는 짧은 프롬프트 처리에서도 이전 세대와 동일한 성능을 유지할 뿐만 아니라, 8K 수준의 컨텍스트 처리 시 속도가 약 25% 향상된 것으로 나타났습니다. 또한 텍스트 모델은 4비트 양자화 기준으로도 크기가 약 1GB에 불과해 엣지 디바이스 배포의 장벽을 크게 낮췄습니다.
전체 시나리오를 아우르는 다중모달 및 의사결정 매트릭스
첫 출시된 2B급 모델 여섯 가지는 각각 고유한 특성을 지니며, 다양한 응용场景에 완벽히 대응합니다:
텍스트 모델(LFM3-1.7B): 최대 25K의 컨텍스트 창을 제공하며 에이전트 워크플로를 위해 집중적인 사후 학습을 거쳤습니다. 여러 벤치마크에서 지시 이행과 함수 호출 능력이 뛰어나며 단일 GPU에서 원활하게 실행되고 다수의 백그라운드 에이전트 간 협업을 지원합니다.
비전 모델(LFM3-VL-2B): 영상 입력을 새롭게 지원하며 단계별 추론, 공간 시각 추론, 그래픽 사용자 인터페이스 이해가 가능합니다. 새로 자체 개발한 비전 인코더를 통해 이전 세대보다 연산 효율을 크게 개선했습니다.
오디오 모델(LFM3-Audio-2B): 18개 언어의 음성 인식, 다국어 음성 합성, 오디오 이해, 실시간 음성 대화를 지원합니다. 완전한 인과적 아키텍처를 채택했으며 첫 토큰 지연 시간은 최저 50밀리초입니다.
옴니모달 모델(LFM3-Omni-2B): 시각, 오디오, 언어를 통합한 모델로 음성 질의응답, 시청각 영상 이해, 모달리티 간 도구 호출을 지원해 더욱 자연스러운 인간과 컴퓨터의 상호작용을 제공합니다.
의사결정 모델(d1-2B 및 d1-Omni-2B): 밀리초 수준의 빠른 의사결정을 위해 설계되었습니다. 복잡한 텍스트, 이미지 또는 오디오 입력에서 정확한 구조화된 의사결정 결과를 직접 출력하여 번거로운 클라우드 상호작용을 줄입니다.
전문 산업 분야와 온디바이스 로보틱스 지원
폭넓은 범용 능력 외에도 LFM3 제품군은 설계 초기부터 전문 지능과 손쉬운 미세 조정을 강조합니다. 개발자는 GPU 1개로 저비용 미세 조정을 수행해 풍력 터빈 블레이드 결함 탐지와 같은 전문 산업 분야에 적용할 수 있습니다. LoRA 적응과 엔드투엔드 학습을 통해 LFM3-VL-2B는 로봇 조작, 시각 내비게이션, 멀티모달 체화 지능 제어에도 활용되며 Jetson 같은 엣지 하드웨어에서 효율적인 실시간 추론을 지원합니다.
LFM3 시리즈의 공개 가중치는 현재 제공되고 있으며, 출시 당일부터 AMD, 퀄컴, 엔비디아, Apple MLX 및 주요 개발 프레임워크와 플랫폼의 지원을 받고 있습니다.