AI 모델에 대한 설명서인 메타데이터 없이도 모델 내부의 학습 흔적만을 분석해 무엇을 학습한 모델인지를 가려내는 기술이 새롭게 개발됐다. 홍수처럼 쏟아져 나오는 수백만 개의 공개 AI 모델 가운데 원하는 분야의 데이터를 학습한 모델을 정확하고 빠르게 찾아낼 수 있게 됐다.

인공지능대학원 유재준 교수팀은 AI 모델의 가중치를 네 가지 관점에서 분석해 해당 모델이 어떤 종류의 데이터를 학습했는지 식별하는 기술인 ‘MVProbe(Multi-view Probe)’를 개발했다. 

최근에는 AI모델을 처음부터 새로 학습시키기보다 이미 공개된 모델 가운데 필요한 것을 찾아 재사용하는 경우가 늘고 있다. 이처럼 AI 모델을 부품처럼 찾아 다시 쓰거나 서로 다른 능력을 조합하려면, 설명서인 메타데이터가 없는 모델도 어떤 자료를 학습했는지 알아낼 수 있어야 한다. 모델을 일일이 실행하지 않고 내부에 남은 학습 흔적인 가중치를 분석 이를 알아내는 ‘가중치 공간 학습’ 기술이 주목받는 이유다.

연구팀의 기술은 한 레이어의 가중치 행렬만으로도 모델의 학습 데이터 범주를 정확히 판별할 수 있다. AI는 입력된 정보를 여러 단계의 층, 즉 레이어를 거쳐 처리하는 데, 각 레이어에는 학습하면서 조정된 수많은 숫자가 표 형태의 가중치 행렬로 저장된다.  

개발된 기술은 가중치의 개별 값 뿐만 아니라 숫자들이 서로 맺고 있는 관계까지 함께 읽기 때문에, 기존 방식에서는 비슷하게 보이던 서로 다른 모델도 구분할 수 있다. 또 어떤 레이어를 골라 분석하느냐에 따라 성능이 바뀌던 기존 기술과 달리, 여러 레이어에서 안정적인 판별 성능을 보였다.

연구팀은 기존 기술이 가중치 행렬을 한 방향에서만 분석해 서로 다른 모델을 구분하지 못할 수 있다는 근본적인 한계를 수학적으로 증명해 이 같은 분석법을 개발했다. 또 가중치 행렬을 네 가지 관점에서 분석할 때, 각 분석 결과의 크기 차이까지 보정하도록 설계해 모든 정보가 반영되도록 했다. 

개발된 모델을 대형 모델들로 구성된 벤치마크에서 검증한 결과, 기존 최고 성능 방법 대비 최대 5.96%p 높은 정확도를 달성하며 모든 실험 대상에서 최고 성능을 기록했다. 특히 레이어 선택에 민감하게 반응하던 기존 방법과 달리, MVProbe는 전 구간에 걸쳐 안정적으로 높은 성능을 유지했다.

이번 연구는 UNIST 인공지능대학원 허은우, 서경국 연구원이 제1저자로 참여했으며, , 머신러닝 분야 최고 권위 학회인 ICML 2026에 채택됐다.

유재준 교수는 “공개된 모델을 제대로 골라 재사용하면 모델을 처음부터 다시 학습시키는 데 드는 비용과 에너지도 줄일 수 있으며, 어떤 모델에서 파생됐는지 추적하거나 저작권과 보안 문제를 점검하는 데도 활용할 수 있다”며 “이번 기술은 모델을 직접 실행하지 않고도 내부에 남은 학습 흔적을 읽어 대규모 모델 저장소를 검색하고 관리하는 데 활용할 수 있다”고 설명했다.

 연구 수행은 과학기술정보통신부 정보통신기획평가원, 한국연구재단의 지원을 받아 이뤄졌다.