
랩실 소개
저비트 양자화와 LoRA 기반 오차 보정으로 대규모 언어 모델의 정확도를 유지하면서 추론 비용을 낮추는 방법을 연구해요. 긴 문맥·영상 입력의 KV 캐시를 압축하고, PIM·near-memory 구조와 CXL 기반 메모리 관리를 활용해 LLM 추론을 확장해요. 모델과 하드웨어를 함께 고려해 MoE 서빙과 3D 객체 검출 가속기 등 딥러닝 가속 구조도 설계해요.
AI가 최신 논문을 바탕으로 쓴 소개예요
- 주로 내는 곳
- ACL탑티어NeurIPS탑티어EACLT2
- 졸업 후
- 삼성전자, 네이버, 보스반도체, 서울대학교, 하이퍼엑셀
연구 내용
- LLM 저비트 양자화: 2-bit 양자화 오차를 보정하는 rank-insensitive LoRA, activation outlier를 다루는 asymmetric microscaling FP4
- 양자화 모델 보정: data-free quantization의 Mixup-Class Prompting, 양자화 LLM의 대화 능력을 높이는 Direct Preference Alignment
- 메모리 중심 LLM 추론: PIM 기반 long-context 처리, CXL 기반 KV-cache 관리, 스트리밍 영상 이해용 KV-cache 압축
- 딥러닝 가속기 설계: 동적 vector pruning과 sparse coordinate management를 결합한 pillar 기반 3D 객체 검출 가속
- 시스템 수준 가속: 3D-stacked near-memory의 MoE 서빙을 위한 Split-GEMM, 분산 학습을 위한 network sparsity
- 구성: 박사과정·석박통합과정·석사과정 학생과 연구원
연구 주제별 논문
저비트 LLM 양자화와 경량화
- RILQ: Rank-Insensitive LoRA-Based Quantization Error Compensation for Boosting 2-Bit Large Language Model AccuracyAAAI 2025탑티어
- AMXFP4: Taming Activation Outliers with Asymmetric Microscaling Floating-Point for 4-bit LLM InferenceACL 2025탑티어
- RA-LoRA: Rank-Adaptive Parameter-Efficient Fine-Tuning for Accurate 2-bit Quantized Large Language ModelsACL 2024탑티어
메모리 중심 LLM 추론
- PIMphony: Overcoming Bandwidth and Capacity Inefficiency in PIM-Based Long-Context LLM Inference SystemHPCA 2026탑티어
- Scalable Processing-Near-Memory for 1M-Token LLM Inference: CXL-Enabled KV-Cache Management Beyond GPU LimitsPACT 2025
- InfiniPot-V: Memory-Constrained KV Cache Compression for Streaming Video UnderstandingNeurIPS 2025탑티어
딥러닝 가속기·시스템 설계
핵심 연구 주제
졸업생 진로
연도별 논문
주요 학회·저널
컨택 전 확인
학교 교수 페이지에서 연락처 확인교수께 첫 메일 보내는 법
미리 읽어 두면 좋은 최근 논문
- PIMphony: Overcoming Bandwidth and Capacity Inefficiency in PIM-Based Long-Context LLM Inference SystemHPCA 2026 탑티어
- AMXFP4: Taming Activation Outliers with Asymmetric Microscaling Floating-Point for 4-bit LLM InferenceACL 2025 탑티어
문라이트로 한글로 읽기 - Enhancing Generalization in Data-Free Quantization via Mixup-Class PromptingICCV 2025 탑티어
홈페이지에 나온 구성원
- 박사과정 3명
- 석박통합과정 21명
- 석사과정 7명
- 기타 1명
지원 가능 학과
2026. 11. 11. 기준으로 학과·연구실 홈페이지에서 모은 정보예요. 잘못된 정보가 있거나 내리고 싶으시면 [email protected]로 알려 주세요.
비슷한 랩실 더 보기
| 연구실 | 대학 | 대표 연구 주제 | 탑티어 논문 | 전체 논문 | 구성원 | 비교 |
|---|---|---|---|---|---|---|
가변적 기계학습 알고리즘 연구실한인수 교수신생 랩모집 안내 | KAIST | 대규모 언어 모델경량화·효율 AI | 7 | 7 | 5 | |
대규모 회로 및 시스템 연구실김재준 교수 | 서울대 | 대규모 언어 모델AI 가속기경량화·효율 AI | 17 | 39 | – |













ACL
NeurIPS
HPCA
ICCV
ICASSP
DAC 




