[Add] mlxcel (lablup/mlxcel) #921

GitHub 저장소 URL

https://github.com/lablup/mlxcel

분류 (모듈)

platform-mlops (플랫폼 & MLOps)

카테고리

on-device-runtime (온디바이스 런타임)

설명 (선택)

Rust와 MLX C++ 바인딩으로 작성된 LLM, VLM, 임베딩, 리랭킹, 음성 추론 엔진으로 Apple Silicon을 주 대상으로 하고 NVIDIA CUDA도 지원합니다. 변환 없이 MLX SafeTensors 체크포인트를 로드하며 continuous batching, prompt caching, speculative decoding과 OpenAI 및 Anthropic 호환 API를 제공합니다.

체크리스트

• AI와 직접 관련된 오픈소스 프로젝트입니다
• GitHub 저장소가 공개(public) 상태입니다
• 위에서 선택한 분류가 적절합니다

추가 컨텍스트 (검토용)

• 기업/기관: 래블업 (NIPA 국내 기업 AI 오픈소스 목록, 엑셀 90행)
• Stars: 472
• Forks: 56
• License: Apache-2.0
• Language: Rust
• Topics: N/A
• Homepage: N/A
• Last Pushed: 2026-10-02
• koreanSupport: false (mkdocs.ko.yml 설정은 있으나 docs 아래 한국어 디렉터리가 없고 mlxcel.lablup.ai 접속 불가, README 영어 전용)
• 제안 태그: apple-silicon, mlx, inference-engine, openai-compatible, rust

Star 기준(1,000개)과 무관하게 국내 프로젝트 목록 등재를 위해 등록하는 이슈입니다. HuggingFace URL 항목은 HF 지원 PR이 머지된 뒤에 /approve 해야 합니다.

분류 근거

• 엑셀 분류: 인프라 & 컴퓨팅 > 추론 런타임 / 서빙 엔진 → 검토 결과 부적절
• 하드웨어나 인프라가 아니라 MLX 체크포인트를 실행하는 추론 엔진 겸 OpenAI 호환 서버이므로 플랫폼 & MLOps 대분류가 맞습니다. README가 Apple Silicon을 주 대상으로 명시하므로 기존 mlx-vlm과 같은 온디바이스 런타임에 두는 것이 적절합니다(서빙 기능도 있어 model-serving도 가능).