LLM 최적화 엔지니어 (Inference Optimization)

직무 소개

42dot은 2026 하반기 집중 채용으로 LLM 최적화 엔지니어를 모집합니다. 대규모 언어 모델의 추론 성능을 극대화하여 실제 서비스 환경에 최적화된 AI 시스템을 개발합니다. 서버(GPU 클러스터)부터 엣지 및 온디바이스 환경까지 다양한 하드웨어에서 Inference Engine, Runtime, Compiler 및 모델 최적화 기술을 연구·개발하며, 고성능·저지연·저비용 AI 서비스를 구현하는 핵심 역할을 맡습니다.

주요 업무

• LLM 추론 성능(Latency, Throughput, 메모리 효율)을 최적화하고, Long Context, Multi-turn 대화 등 실제 서비스 환경의 성능을 개선
• vLLM, TensorRT-LLM, SGLang, llama.cpp, ONNX Runtime, MLX 등 Inference Framework를 활용하거나 개선하고, Speculative Decoding, Prefill-Decode Disaggregation 등 최신 Serving 기술을 적용
• 모델 경량화(Quantization, Pruning, Distillation)와 CUDA, Triton, TensorRT, TVM, MLIR 등을 활용한 Compiler 및 Kernel 최적화
• Edge AI 및 On-device 환경에서 CPU, GPU, NPU 등 다양한 하드웨어에 맞는 최적화 전략 수립
• NVIDIA Nsight Systems, Nsight Compute, py-spy 등을 활용한 성능 분석 및 Benchmark 수행

지원 자격

• LLM, 머신러닝 인프라 또는 추론 최적화 관련 경력 3 년 이상
• LLM Inference Engine 또는 AI Runtime 개발 경험
• PyTorch, ONNX, TensorRT 등 딥러닝 프레임워크 활용 경험
• Python 또는 C/C++ 중 하나 이상의 언어에 능숙하고, 성능 분석 및 문제 해결 능력과 협업 역량이 있는 분

우선으로 vLLM, TensorRT-LLM, SGLang, CUDA 커널 개발, NVIDIA GPU 최적화, Kubernetes 기반 AI Serving, 오픈소스 기여 또는 학술 논문 발표 경험이 있는 분을 선호합니다. 지원은 이력서 제출이며, 서류 전형, 코딩·과제 테스트, 1 차 및 2 차 면접을 거칩니다.