main Lab(지도교수: 김재광)의 논문이 우수 국제학술대회 The 64th Annual Meeting of the Association for Computational Linguistics (ACL 2026) Findings에 1편 게재 승인되었습니다. 해당 논문은 2026년 7월 샌디에고에서 발표될 예정입니다.

"DPLoRA: A Dual-Pruning Framework based on ILP Optimization and Progressive Pruning for Parameter-Efficient LoRA Fine-Tuning" 논문은 박창준(데이터사이언스융합학과 석사졸업)이 저자로 참여하였고 김재광 교수가 교신저자로 참여하였습니다. 특히 TCNJ의 윤세종 교수님이 공동연구자로 참여한 국제협력 연구입니다.

이 연구에서 제안하는 DPLoRA(Dual-Pruning LoRA)는 LoRA 미세조정에서 흔히 쓰는 “모든 층에 동일 rank를 부여”하는 관행이 비효율적이라는 문제의식에서 출발합니다. 각 층(layer)마다 기여도가 다른 데도 같은 크기의 어댑터를 달면, 어떤 층은 과투자, 어떤 층은 병목이 생기기 때문입니다. 이를 해결하기 위해 2단계의 이중 프루닝을 제안합니다.

1단계(OPLoRA): 학습 시작 전, 층별 중요도를 기반으로 ILP(정수선형계획)를 풀어 예산 제약 하에서 층별 rank를 전역적으로 최적 배분합니다(수동 튜닝/탐색 최소화).

2단계(Progressive Pruning): 학습 중에는 중요도 점수를 EMA로 평활화해 흔들림을 줄이고, 덜 중요한 rank를 점진적으로 제거해 추가 압축을 달성합니다.

제안 방법은 실험적으로는 GLUE에서 SOTA를 달성하면서, 표준 LoRA 대비 학습 파라미터를 80%+ 절감하고, 학습 시간을 최대 46% 단축하는 등 성능-효율 트레이드오프를 개선을 이루었습니다.