알레르기와 같은 사용자의 특성에 맞춰 AI가 더 정확한 맞춤형 답변을 내놓도록 하는 개인화 AI 기술이 새롭게 개발됐다.

UNIST 컴퓨터공학과 공태식 교수팀은 사용자와 밀접한 정보만 선별·저장해 맞춤형 답변을 더 빠르게 내놓게 하는 온디바이스 검색증강생성(RAG) 기술인 ‘에픽(EPIC)’을 개발했다고 10일 밝혔다.

온디바이스 검색증강생성은 챗GPT와 같은 언어모델이 사용자의 기기 안에 저장된 웹페이지나 이전 대화 내용을 먼저 검색하고, 여기서 찾은 정보를 보태 답변을 만들도록 하는 기술이다. 언어모델이 미리 학습하지 못한 최신 정보나 사용자의 개인적인 기록까지 답변에 반영할 수 있어 더 정확하고 유용한 답변을 만들 수 있다.

연구팀이 새롭게 개발한 온디바이스 검색증강생성 기술인 에픽은 각 자료가 사용자 취향과 의미상 얼마나 가까운지를 빠르게 계산해 관련성이 낮은 자료를 먼저 걸러낸 뒤, 남은 자료는 언어모델이 다시 확인하는 방식을 통해 꼭 필요한 정보만을 남겨 검색 정보를 저장하는 공간을 줄일 수 있다.

기존 온디바이스 검색증강은 개인정보를 기기 밖으로 보내지 않아 사생활 침해 우려를 줄일 수 있지만, 휴대전화와 같은 온디바이스 기기에서 메모리를 지나치게 많이 차지하는 문제가 있다.

또 에픽은 정보를 저장할 때 원정보뿐만 아니라 이 정보를 어떤 상황에서 활용할지를 담은 사용지침을 함께 붙여 저장하는 방식이라 더 정확하고 빠른 검색이 가능하다. 만약 해산물 알레르기가 있는 사용자가 “제주도에서 먹을 음식을 추천해 줘”라고 물으면, 에픽은 질문과 ‘해산물 알레르기’를 연결하고, 관련 사용 지침이 붙은 제주 음식 자료를 찾아 답변 모델에 전달함으로써 갈치조림 대신 흑돼지 요리 등을 추천할 수 있게 된다.

실제 추천·토론·설명·대화 상황을 다룬 네 개의 벤치마크와 세 종류의 언어모델 조합으로 검증한 결과, 검색용 저장공간과 검색 시간은 줄고 사용자 취향을 반영한 답변의 정확도는 높아졌다. 위키피디아에서 맞춤형 추천 정보를 찾는 PrefWiki 벤치마크에서 저장공간은 기존 648.96MB에서 0.27MB로 약 2,404분의 1이 됐고, 네 벤치마크의 평균 검색 시간은 96.5밀리초(ms)에서 3밀리초로 줄었다. 모든 벤치마크와 언어모델 조합에서 답변 정확도가 높아졌으며, 특히 Llama-3.1-8B-Instruct를 답변 모델로 사용한 실험에서는 에픽의 사용자 취향 반영 정확도가 기존 최고 성능 기술보다 평균 18.79%포인트 높았다.

서버가 아닌 실제 개인 기기에서도 에픽이 작동하는지를 검증했을 때도, 젯슨 오린 나노와 맥북 프로 M4, 갤럭시 Z 플립6에서 검색용 메모리를 1MB 미만으로 유지하면서 질문 한 건당 5.21∼29.35밀리초 만에 필요한 자료를 찾았다.

제1저자인 이창민 연구원은 “에픽은 새로운 자료가 들어오거나 사용자 취향이 바뀌어도 검색 목록 전체를 다시 만들지 않고 관련 자료만 추가하거나 제거할 수 있어 장기간 사용하는 맞춤형 AI에 적합하다”며 “다만 자료를 지나치게 엄격하게 선별하면 취향과 약하게 관련된 유용한 정보를 놓칠 수 있는 만큼, 검색 범위를 유연하게 넓히고 오래된 기억을 삭제하거나 압축하는 기술을 후속 연구에서 개발할 계획”이라고 설명했다.

공태식 교수는 “개인화된 AI가 사용자 맞춤 답변을 내놓기 위해 정보를 기억하는 방식을 ‘많이 저장하는 것’에서 ‘사용자에게 가치 있는 것을 저장하는 것’으로 바꾼 연구”라며 “개인정보를 외부로 보내지 않으면서도 작은 검색 메모리만으로 개인의 취향과 요구를 놓치지 않고, 스마트폰과 노트북 같은 일상 기기에서 빠르게 작동하는 맞춤형 AI의 개발에 기여할 것”이라고 말했다.

이번 연구는 과학기술정보통신부·정보통신기획평가원(IITP)의 AI 스타 펠로우십, 인공지능대학원지원사업, 초거대 제조 AI 연구지원사업과 한국연구재단 지원 등을 받아 수행했으며 연구결과는 지난 7월 서울에서 열린 인공지능 3대 국제학회인 국제머신러닝학회(International Conference on Machine Learning, ICML)에서 공개됐다. 

연구 코드는 https://github.com/UbiquitousAILab/EPIC 에서 확인할 수 있다.