한국 문과 여자가 이스라엘 공대 남자 만나 벌인 일

머신러닝 모델 경량화 솔루션 개발기

창업 기업은 한 번쯤 자금 부족에 시달리는 등 큰 시행착오를 겪는 ‘데스밸리(죽음의 계곡)’를 지납니다. 이 시기를 견디지 못하면 아무리 좋은 기술력, 서비스를 갖고 있다고 해도 생존하기 어려운데요. 잘 알려지기만 하면 시장에게 좋은 반응을 얻을 수 있는 중소기업이 죽음의 계곡에 빠지게 둘 순 없습니다. 이들이 세상을 바꿀 수 있도록 응원합니다.

머신러닝 모델 경량화 솔루션 개발 스타트업 '클리카'의 김나율 대표. /더비비드

인공지능(AI)이 곳곳에 활용되고 있다. AI를 구성하는 데 투입되는 사진, 동영상 등의 데이터량이 기하급수적으로 증가하고 있다. 이에 따라 보다 많은 데이터를 효율적으로 처리할 수 있도록 하는 머신러닝 모델의 사이즈 또한 더 비대해지는 추세다.​

스타트업 ‘클리카’는 머신러닝 모델 사이즈를 최적으로 압축하는 ‘MLOps’ SaaS(서비스형 소프트웨어) 솔루션을 개발했다. TinyML(초소형 머신러닝) 개발환경부터 Hyperscale(초대형 머신러닝) 개발 환경을 모두 아우르는 범용 솔루션이다. 아직 베타 단계지만 가능성을 인정받아 은행권청년창업재단(디캠프)의 창업경진대회 ‘디데이’에서 우승을 거뒀다. 김나율(31) 대표를 만나 머신러닝에 주목한 이유를 들었다.

◇코로나로 커리어에 위협 느낀 후 인공지능에 몰두

팀 클리카는 머신러닝 모델 사이즈를 최적으로 압축하는 MLOps 솔루션을 개발했다. /클리카

MLOps는 머신러닝 오퍼레이션(Machine Learning Operations)의 줄임말이다. AI 개발 과정에 동원되는 데이터 관리, 실험, 배포 등의 과정을 매끄럽게 연결해서 개발을 더 쉽게 할 수 있도록 돕는 기술을 말한다. 방대한 양의 데이터를 처리하기 위해 마이크로소프트, 구글 등의 빅테크 기업들도 자체 MLOps를 개발하는 추세다.

​클리카는 이 MLOps에 특화된 스타트업이다. 빅데이터를 처리하는 과정에서 용량이 커진 머신러닝 모델을 작은 IT 기기에 탑재할 수 있도록 경량화하는 기술을 개발했다. 스마트폰 등 일반적으로 많이 사용하는 IT 기기의 내장 칩에 클리카의 솔루션을 적용하면 머신러닝 용량을 수작없 없이 자동으로 최대 95% 이상 감소시킬 수 있다. 머신러닝 모델을 경량화하면 여유 용량을 확보하는 것은 물론 클라우드 사용료, 개발자 등의 인건비 절감 등의 효과를 누릴 수 있다.

중남미, 스페인, 두바이 등 해외 다양한 곳에서 일했다. /김나율 대표 제공

미국, 스페인에서 고등학교를 다니며 해외 경험을 쌓았다. 미국의 한 대학교 경제학과에 합격했지만, 집안 사정 때문에 귀국해 2011년 부산외대 스페인어학과에 진학했다. 2015년 대학 졸업 후, 전공을 살려 스페인, 우루과이 대사관, 대한무역투자진흥공사(KOTRA) 아르헨티나 지사 등의 기관에서 일했다. 스페인 무역투자공사의 서울 사무소에 일할 때, 스페인 경제부 산하 비즈니스 스쿨에서 장학생으로 MBA 과정도 수료했다.

한국과 해외를 오가며 즐겁게 일했지만, 코로나19 이후 상황이 달라졌다. 위기감을 느꼈다. “진행 중이던 해외 프로젝트나 행사가 줄줄이 취소됐어요. 배달 앱, 전자상거래 플랫폼 등 기술 기반의 서비스는 코로나19 위기에도 성장했는데, 제 직책은 증발했어요. 세상이 달라지는 속도를 따라잡지 못하면 도태되겠더라고요. 생존의 위협을 느껴 웬만한 기술에 모두 적용되는 AI를 공부하기로 했어요.”

맨땅에 헤딩하는 수준으로 AI에 파고들었다. “결심한 건 바로 실행에 옮기는 성격이에요. 수단과 방법을 가리지 않고 AI 관련 정보를 수집했습니다. 업계 현황이나 관련 기술이 정리된 원어 자료를 읽는 건 물론, 무료 교육 플랫폼 강좌나 해외 업체의 웨비나(웹에서 진행하는 세미나)도 활용했어요. 미친 듯 파고든 덕에 이젠 개발자들에게 먼저 새 정보를 던져줄 정도로 지식수준을 끌어올렸습니다.”

인텔의 자율주행 자회사 모빌아이의 개발자였던 남편 벤 아사프의 세미나 준비를 도우며 MLOps 기술에 흥미를 느꼈다. /더비비드

공부하던 내용을 업으로 발전시켜야겠다 결심한 계기는 이스라엘인 남편 벤 덕분이다. “남편이 MLOps 전문 개발자입니다. 인텔의 자율주행 자회사 모빌아이 출신이죠. 2020년 말, 벤이 한국 기업인을 대상으로 MLOps 관련 세미나를 열게 됐는데요. 그때 남편의 세미나 준비를 도우며 MLOps에 대해 공부를 하면서 기술에 큰 흥미를 느꼈어요.”

MLOps는 한국에서는 아직 생소한 개념이지만 해외에서는 이미 주류가 된 기술이다. “중소벤처기업부 보고서를 보면 우리나라의 AI 관련 기술 개발 수준은 미국 같은 선진국보다 평균 2~3년 뒤처져있는 것으로 나옵니다. 머신러닝 개발 주기는 데이터관리, 모델 개발, 모델 배포 3단계로 나뉘는데요. 한국에서는 AI 기술 도입 초기 단계로, 1단계에서 어려움을 겪는 기업이 많아요. 반면 AI 선진국에서는 2, 3단계에서의 문제점이 대두되며 이 분야의 기술 개발이 더 활발하게 이루어졌죠. 한국의 AI 기술 개발 속도를 앞당기고 싶다는 욕심이 샘솟았습니다. 벤이 이 분야의 전문가니 둘이 힘을 합치면 충분히 해낼 수 있다고 확신했습니다.”

◇국제 부부가 머신러닝 ‘덩치 줄이기’에 주목한 이유

은행권청년창업재단(디캠프)의 창업경진대회 ‘디데이’에서 우승을 거뒀다. /클리카

2021년 3월 클리카를 설립했다. 남편 벤 아사프가 CTO(최고기술경영자)로서 개발을 주도했다. 부부가 합심해서 만들기로 한 것은 머신러닝 모델의 크기를 자동으로 줄여주는 솔루션이다. “머신러닝은 인공지능의 한 분야인데요. 프로그램이 입력되지 않은 정보에 대한 결정을 스스로 내릴 수 있도록 여러 데이터를 학습하는 과정입니다. 머신러닝 모델의 크기가 커질수록 클라우드에서의 구현 비용도 커집니다.”

아무리 잘 구축한 머신러닝 모델이라도 크기가 너무 크면 범용성이 떨어진다. “일상에서 흔히 쓰는 스마트폰 등 작은 기기에서 이런 모델을 구현하려고 해도, 크기가 너무 크면 서비스 배포 자체가 안 됩니다. AI를 기반으로 한 서비스를 스마트폰에서 구동하려면 경량화 기술이 꼭 필요하죠. 특히 사진, 영상 등 시각 데이터를 처리하는 머신러닝(비전 AI)의 경우 활용 가능성이 무궁무진한데요. 용량이 셀 수 없이 커 소형 디바이스에 활용되지 못하고 있습니다.”

벤 아사프는 클리카의 CTO(최고기술경영자)로, 개발의 전반을 담당하고 있다. /더비비드

개발 과정은 만만치 않았다. 부부간의 사랑과 팀워크는 별개의 것이었다. “공대생 출신과 협업하는 건 처음이었어요. 반대로 남편은 문과 출신과 일한 적이 없었죠. 처음엔 정말 많이 싸웠어요. 매일 밤 해커톤(창업 경진대회)을 하는 기분이었죠.”

경량화의 핵심은 ‘가지치기(pruning)’다. 특정 규칙의 일부가 잘리거나 무시돼도 괜찮은지를 미리 결정해줘 AI의 탐색 공간을 줄여주는 것이다. “모델들은 인간의 뇌 구조와 비슷하게 인공 신경망으로 구성돼 있어요. 가지치기는 신경망 중 불필요한 것들을 쳐내는 작업입니다. 쉽게 설명하자면 컴퓨터 언어로 1이면 0이고, 2면 X로 분류되는 게 있습니다. 이 중 0으로 분류되는 것은 모두 불필요한데, 이 0과 관련한 입력값이 축적돼 용량이 커지는 겁니다. 저희 솔루션은 불필요한 부분을 0으로 처리해서 사이즈를 줄입니다. 머신러닝 모델의 정확도에 영향을 주지 않으면서 불필요한 영역을 쳐 내는 거죠. 누구나 가지치기를 시도할 수 있지만 고도의 작업이라 시간과 인력이 많이 소요됩니다.”

가지치기(pruning) 방법을 통해 머신러닝 모델의 경량화 작업을 진행했다. /클리카

핵심 기술도 중요하지만, 가장 중요한 건 이용자다. 잠재 고객사와 만나 이들의 의견을 토대로 솔루션을 구체화했다. “개인정보가 포함된 데이터를 다루는 기업의 경우, 새 솔루션에 데이터를 옮기는 것을 민감하게 생각하더라고요. 동의 없이 개인정보를 타사 플랫폼으로 옮기는 건 개인정보 보안법에 위반되는 행위기도 하고요. 고객사가 자사 서버에서 저희 솔루션을 이용할 수 있도록 MLOps 솔루션 패키지를 제공하는 방향으로 개발하고 있습니다. 또한 저희 솔루션을 이용할 때 별도의 공부가 필요 없도록 솔루션을 쉽고, 직관적으로 제작했죠.”

◇비즈니스모델은 연간 구독료

올해 3월 1차 MVP(최소 기능 제품)를 공개해 유의미한 성과를 냈다. “중소벤처기업부는 ‘중소기업 전략기술로드맵 2022-2024’를 통해 3차년도인 2024년에 머신러닝의 95%를 경량화하겠다고 발표했는데요. 클리카에서는 6개월 만에 95% 경량화에 성공했습니다. AI 모델 사이즈 및 저장공간을 최소 4배에서 최대 40배까지 줄일 수 있죠.”

클리카의 경량화 솔루션은 아직 출시되지 않았다. 오는 8월 정식 버전을 출시할 계획이다. /더비비드

오는 8월 정식 버전을 출시할 계획이다. 올해 목표 연 매출은 20억원이다. “정식 버전을 출시하면 연간 구독료로 수익을 낼 계획입니다. 시각 데이터를 주로 활용하는 모빌리티(이동 수단), 로보틱스(로봇 공학), 스마트팜, 무인매장 등을 운영하는 기업 사이에서 활발히 사용될 것으로 전망해요. 저희 솔루션이 상용화되면 그동안 용량 때문에 소형 디바이스에 배포하지 못했던 서비스들이 속속 론칭되지 않을까요. 저희 솔루션은 B2B 서비스지만 궁극적으로는 IT기술을 활용하는 모든 사람에게 순효과를 줄 수 있어요.”

예비 창업자에게 모든 사람을 만족시킬 수 없다는 냉혹한 현실을 인정해야 한다고 강조했다. “개발 과정에서 정말 많은 기업과 미팅을 했는데요. 모두가 제 구상에 동의한 건 아니에요. 하지만 모든 사람에게 내 아이디어와 아이템을 납득시킬 필요는 없어요. 창업을 하면 다방면에서 피드백을 듣게 될 텐데, 피드백에 일희일비하지 마세요. 내 아이템은 누구보다 내가 잘 안다는 자신감을 가지고 일에 임하세요. 팀원, 투자사, 고객사로부터 받은 부정적인 피드백에 낙담하지 말고 앞으로 나아가면 내 비전에 한층 더 가까워져 있을 겁니다.”

/김수지 에디터