오케스트라의 핵심은 지휘자다.
서로 다른 종류의 악기 수십개를 활용해 하나의 선율을 만들어내는 게 지휘자의 역할이다.
마찬가지로 인공지능(AI)에도 지휘자가 필요하다.
AI 연산을 위한 그래픽처리장치(GPU)와 자연어 처리를 담당하는 거대언어모델(LLM), 사용자를 직접 만나는 AI 에이전트가 한 팀이 돼 서비스를 구성하기 때문이다.
이 시스템을 하나로 통합해 조율하는 기술을 'AI 오케스트레이션'이라고 한다.
베슬AI는 AI 오케스트레이션 플랫폼을 표방하는 기업이다.
지휘자가 오케스트라를 지휘하듯, 여러 AI 에이전트를 통합해 하나의 서비스처럼 제공한다.
원래대로라면 GPU 도입부터 LLM 구축, AI 에이전트 최적화까지 일일이 진행해야 했지만, 베슬AI의 통합운영 플랫폼은 이 과정을 유기적으로 연결시킨다.
안재만 베슬AI 대표는 AI 열풍이 막 불어오던 시절, AI 서비스 기반시설도 중요하다는 데 주목해 2020년 베슬AI를 창업했다.
AI 서비스들이 범람하는 요즘, AI 오케스트레이션의 중요성은 더욱 커지고 있다.
용도별로 특화된 AI 서비스들을 묶어서 사용할 수 있어서다.
안 대표는 "사람 일들 대체하는 정도로 AI를 활용하려면 단일 에이전트만으로는 어렵다"면서 "복잡한 문제는 멀티 에이전트의 형태로 해결해야 한다"고 말했다.
보고서 작성이나 정보 검색, 데이터 분석 같은 각각의 영역에 특화된 에이전트들이 마치 하나의 몸처럼 동작하는 방식이다.
베슬AI는 기업들이 AI 모델을 활용 목적에 맞게 특화하는 '파인튜닝'도 지원한다.
베슬AI의 플랫폼에서는 라마(메타)나 딥시크, 미스트랄 등 오픈소스 AI 모델을 기반으로 한다.
안 대표는 "은행에서 고객 상담용 AI 서비스를 만들기 위해 금융 분야 지식들을 학습시켜 모델을 파인튜닝한 사례가 있고, 미국에서도 과학·생명 등 특정 학술 분야에 특화된 파인튜닝 모델이 나오고 있다"고 설명했다.
AI 모델의 학습 과정에서 기업의 데이터 유출이 걱정된다면 오픈소스 AI 모델을 자체 서버에 구축하는 '온프레미스' 형태도 가능하다.
안 대표는 "베슬AI의 직원 중에는 글로벌 빅테크 기업과 게임사에서 인프라를 담당했던 엔지니어들이 있다"면서 "오랜 기간 LLM을 학습하고 파인튜닝하면서 AI 분야 전문성도 쌓아왔다"고 말했다.
현재 임직원 수는 30여명이며, 미국에도 진출해 실리콘밸리에 사무실을 두고 있다.
앞으로 세계시장의 모든 산업에 영향을 미칠 수 있을 정도로 AI 오케스트레이션을 확장하고 싶다는 게 안 대표의 목표다.
그는 "앞으로 3년 안에 우리가 일하는 모든 형태가 AI로 바뀔 것"이라며 "그 시작점이 멀티 AI 에이전트 간의 협업"이라고 전망했다.
이명환 기자 lifehwan@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제 무단전재 배포금지>
0
0
