다목적 베이지안 최적화 신기술 CTD, 비교 평가 72.9%서 우위

차오 장(Chao Jiang) 연구진이 다목적 베이지안 최적화의 수렴과 다양성을 2단계로 분리한 '수렴 후 다양화(CTD)' 기법을 2026년 9월 11일 공개했다. 총 446건의 비교 실험에서 기존 최신 알고리즘 대비 72.9%의 우위 성능을 입증했다. 연산 자원이 부족한 AI 모델 튜닝 환경에서 탐색 효율을 높일 수 있을지 검증 단계에 돌입했다.

논문 공개 현황은 어떻게 되나

차오 장, 유엘링 황, 미칭 리 연구진은 2026년 9월 11일 아카이브(arXiv)에 CTD 논문을 등록했다.

연구진은 다목적 베이지안 최적화의 기존 패러다임 문제를 지적했다. 어떤 구조적 한계가 존재했는지는 최적화 이론의 기본 구조와 직결된다.

다목적 최적화는 왜 기술적 난제로 꼽히나

수학적 최적화는 사용 가능한 대안 집합에서 특정 기준에 따라 가장 우수한 요소를 선택하는 학문 분야다. 수학적 프로그래밍으로도 불린다. 최적화 분야는 일반적으로 이산 최적화와 연속 최적화의 두 가지 하위 분야로 나뉜다. 수 세기 동안 해법 연구가 이어진 이 문제는 컴퓨터 과학, 공학, 운영 연구, 경제학 등 계량 분야 전반에서 발생한다.

다목적 베이지안 최적화는 비용이 큰 블랙박스 함수를 효율적으로 탐색하는 기법이다. 최적화 목표는 파레토 전선에 근접하는 '수렴'과 전선 전체에 해를 골고루 펼치는 '다양성'을 동시에 달성하는 데 있다. 연구진은 논문 초록에서 "기존 다목적 베이지안 최적화 방식은 일반적으로 파레토 전선으로 탐색을 이끄는 동시에 비지배 해 집합을 유지하는 두 가지 작업을 동시에 달성하고자 한다"고 분석했다. 탐색 예산이 넉넉할 때는 이 방식이 유효하다. 계산 예산이 극도로 빠듯하면 전선 전체에 동시에 접근할 충분한 해가 생성되지 못한다. 연구진은 이 문제의 해결책으로 단계를 분리하는 방식을 제시했다.

AI 개발자의 연산 자원에 어떤 변화가 생기나

CTD 기법은 계산 예산이 극도로 빠듯하거나 고차원 문제에 직면한 AI 개발팀의 연산 비용을 줄여준다. 시간과 비용이 절약된다. 목표 성능과 추론 속도를 동시에 잡아야 하는 경량화 작업에서 파레토 최적점을 더 적은 반복 횟수로 찾아낼 수 있다. 최적화 탐색 횟수 단축은 클라우드 가속기 대여료 절감으로 직결된다. 이와 관련된 지출 관리는 [AI 클라우드 연산 비용 절감 분석]에서 구체적으로 다룬다.

기존에는 수렴과 다양성을 매 단계 동시에 계산하느라 탐색 횟수를 낭비했다. CTD는 1단계에서 파레토 전선 상의 단일 지점으로 수렴을 빠르게 유도한다. 2단계에서는 해를 전선 전체로 분산한다. 실제 실험에서 얼마만큼의 성능 격차가 확인됐는지가 관건이다.

기존 기술과의 통계적 비교 수치는 얼마인가

CTD 기법은 기존 최신(SOTA) 알고리즘과의 446건 일대일 비교에서 72.9% 우위를 기록했다. 연구진은 널리 채택되는 획득 함수를 활용해 2가지 인스턴스를 구축한 뒤 검증을 진행했다.

우수 및 동등 비율 합산치는 94.0%에 달한다. 계산 과정은 '446건 × (0.729 + 0.211) = 419.24건(약 419건)'이다. 열세를 기록한 비율은 6.1%(약 27건)에 그쳤다. 이 우위는 평가 예산이 매우 제한된 환경과 고차원 문제에서 두드러졌다. 후속 절차의 완료 시점에 관심이 쏠린다.

논문 등록 이후 확정된 다음 일정은 무엇인가

아카이브가 발급하는 식별자(DOI)는 데이터사이트(DataCite) 등록 절차가 진행 중인 상태다. 등록 대기 중이다. 아카이브는 'arXiv-issued DOI via DataCite (pending registration)' 상태를 명시했다.

학술 커뮤니티의 오픈소스 코드 공개 여부와 공식 학회 채택 일정은 아직 공개되지 않았다. 차오 장 연구진이 2026년 9월 11일 제출한 논문(v1)의 공식 DOI 등록 완료 시점이 공식적인 첫 분기점이 된다.

출처

1. Converge Then Diversify: Decoupling Convergence and Diversity in Multi-Objective Bayesian Optimisation — arXiv cs.AI 신규 논문
2. Mathematical optimization — Wikipedia (en)

이 기사는 AI 보조 도구로 초안을 작성하고 편집 책임자가 1차 출처와 대조해 사실을 확인한 뒤 수정·게재했습니다. 사실과 다른 내용이 있으면 정정 요청을 보내주세요.