
랩실 소개
LLM jailbreak와 레드팀, 학습 데이터·속성 유출을 다루며 생성형 AI의 보안과 프라이버시를 연구해요. 딥페이크·얼굴 위변조 탐지의 견고성, 네트워크 및 소프트웨어 퍼징과 메타버스 사용자 인증도 살펴봐요.
AI가 최신 논문을 바탕으로 쓴 소개예요
- 주로 내는 곳
- IEEE AccessWISAICISC
- 졸업 후
- 삼성전자, 유비벨록스, 한국인터넷진흥원, 한국정보통신기술협회, 안랩
연구 내용
- LLM 보안: judgment-driven search 기반 compositional jailbreak, Token Control Score 기반 공격, autonomous purple teaming
- 모델 프라이버시: pseudo-labeled membership 기반 fine-tuning 데이터 노출 분석, fine-tuned diffusion의 attribute leakage 탐지·완화
- 탐지 모델 견고성: adversarial training과 coverage-guided fuzzing을 활용한 NIDS 방어, poisoning에 강한 딥페이크 탐지와 face anti-spoofing
- 소프트웨어 보안 테스트: coverage-guided reinforcement learning 기반 JavaScript 인터프리터 퍼징, 암호 라이브러리 하이브리드 퍼징, 커널·펌웨어 퍼징
- 사용자 인증: 메타버스 다중 기기 환경의 연속 인증, 얼굴 위변조 방지를 위한 multi-view slot attention
- 구성: 박사과정·석사과정 중심, 학부연구생도 있음
연구 주제별 논문
생성형 AI 보안과 데이터 유출
- Chimera: Compositional Jailbreak Attacks on LLMs via Judgment-Driven Search over Heterogeneous StrategiesACL 2026탑티어
- Amplifying Training Data Exposure Through Fine-Tuning With Pseudo-Labeled MembershipsIEEE Trans. Inf. Forensics Secur. 2026
- Red-Teaming LLMs with Token Control Score: Efficient, Universal, and Transferable JailbreaksRAID 2025
딥페이크·얼굴 위변조 탐지와 견고성
소프트웨어 보안 퍼징
- Fuzzing JavaScript Interpreters with Coverage-Guided Reinforcement Learning for LLM-Based MutationISSTA 2024
- Enhancing Differential Fuzzing of Cryptographic Libraries with Sustainable Hybrid Fuzzing and Crypto-Specific MutationICISC 2024
- BoKASAN: Binary-only Kernel Address Sanitizer for Effective Kernel FuzzingUSENIX Security Symposium 2023
졸업생 진로
학계 2명
연세대학교 2
연구기관 12명
한국인터넷진흥원 3 · 한국정보통신기술협회 3 · 국방부 2 · 국가보안기술연구소 2 · 우정사업본부 1 · 금융보안연구원 1
진학 1명
University of Oklahoma 1
기타 1명
김앤장 법률사무소 1
연구실 홈페이지에 진로가 나온 졸업생 55명을 AI가 세었어요. 진로가 없는 졸업생은 들어가지 않았고, 지금 있는 곳과 다를 수 있어요. 원래 글 보기
연도별 논문
주요 학회·저널
컨택 전 확인
지원 가능 학과
2026. 11. 11. 기준으로 학과·연구실 홈페이지에서 모은 정보예요. 잘못된 정보가 있거나 내리고 싶으시면 [email protected]로 알려 주세요.
비슷한 랩실 더 보기
| 연구실 | 대학 | 대표 연구 주제 | 탑티어 논문 | 전체 논문 | 구성원 | 비교 |
|---|---|---|---|---|---|---|
네트워크 및 시스템 보안 연구실신승원 교수 | KAIST | 대규모 언어 모델AI 안전·정렬그래프 학습 | 8 | 42 | 13 | |
SPICS Lab남기빈 교수신생 랩모집 안내 | 경희대 | 학습 이론·최적화AI 가속기AI 안전·정렬 | 2 | 9 | 7 |














ACL
ICCV
Neurocomputing 




