코난 온디바이스 (사진=코난테크놀로지)
코난테크놀로지(대표 김영섬)는 삼성전자의'갤럭시 S24'에 자체 기술을 탑재한 경험을 바탕으로 온디바이스 인공지능(AI) 레퍼런스를 확장, 차별화된 대형언어모델(LLM) 사업 노선을 선보이겠다고 밝혔다. 그 중심으로 국방 분야를 꼽았다.
1999년 설립된 코난테크놀로지는 자연어 처리(NLP) 및 검색 분야에서 사업을 진행해 왔다. 대표 제품인 검색엔진 '코난 서치'는 출시 이후 지금까지 2000여곳의 기업으로부터 성능을 검증받았다.
'코난 베스트 파트너 리뷰'라는 협업 사례집을 최근 발표할 정도다. 여기에는 검색엔진, 챗봇, NLP는 물론, AI컨택센터(AICC)와 AI 동시통역, 비전 AI 등 광범위한 비즈니스 모델이 포함돼 있다.
특히 국내 대적인 AI 및 LLM 기업으로 차별화된 비즈니스 레퍼런스를 쌓아가고 있다고 강조했다.
대표적인 분야가 국방이다. 국방에 LLM을 이용하면 ▲방대한 데이터 분석을 통한 유의미한 정보 추출 ▲위협 탐지 혹은 상황 인식 ▲실시간 데이터 처리 및 예측 모델링 등으로 지휘관의 전략적 의사 결정에 필요한 인사이트를 제공할 수 있다는 설명이다.
김영섬 대표는 "갈수록 줄어드는 인구로 인해 군 전력 강화에 AI 도입과 확대가 요구되는 상황"이라고 설명했다.
또 "코난테크놀로지는 20년이 넘게 공공기관과 커머스, 금융, 제조 등 산업 분야에 주력해 온 노하우를 바탕으로 국방 분야에도 민첩하게 대응할 것"이라고 말했다.
국방 AI 확대해가는 코난테크놀로지(이미지=코난테크놀로지)
실제 이 회사는 국방 AI 분야에서 빠르게 자리를 잡아가고 있다.
지난해 10월에는 방위사업청과 국방기술진흥연구소의 '방산혁신기업 100'에 선정됐다.
그중에서도 '유무인 복합 전투 수행' 부문 심사를 통과했다. 이는 인간이 조종하는 유인 전투기와 AI 파일럿이 조종하는 무인 전투기가 합동작전을 진행, 임무를 완수하는 첨단 미래 전투의 유형이다.
이는 'AI 파일럿'을 포함한 '유무인 복합체계' 핵심 기술을 보유했기 때문이다. ▲딥러닝 기반 AI 학습 프레임워크 원천 기술 ▲심층 강화학습 기반 전투 임무 수행 AI 에이전트 기술 ▲엣지 AI용 비전 알고리즘 ▲엣지 AI용 음성 알고리즘 등을 포함한다.
또 지난 5월 '대한민국 국방산업발전대전'에서는 '코난 와처'를 기반으로 지능형 국방플랫폼에 코난 LLM을 활용, 지휘관이 전투를 지휘하는 모습을 선보였다. 공중 및 지상 작전에서 전략적 전술 의사 결정을 지원하는 내용이다.
이달에는 공군 전력지원체계사업단의 ‘AI기반 ACMI 체계 구축 사업’에 우선협상대상자로 선정됐다. 노후화된 기존 공중전투기동훈련체계(ACMI)를 최신 AI 기반의 개선된 신규 체계로 전환하는 사업이다. 공군 항공기 및 전투기 훈련 과정에서 ACMI 임무 데이터를 분류하고 구조화, 조종사들의 공중전 훈련 능력을 향상하는 것이 목표다.
코난테크놀로지는 비행 훈련 중 지상통제소와 조종사 간 음성교신 내용을 문자 데이터로 변환해 주는 역할을 맡았다. STT(음성 텍스트 변환)에 코난 딥러닝 기반 음성인식 엔진을 투입한다.
이 외에도 ▲국방 지능형플랫폼 구축사업(국방부) ▲전국 합동화력 운용체계 성능 개량(방위사업청) ▲장비판독 AI모델 개발(육군항공사령부) ▲스마트 인재관리시스템 구축(국군재정관리단) 및 지난달 해병대사령부의 ▲AI 기반 공중무인체계 영상 통합분석 기술 실증 사업까지 잇따라 체결, 국방 AI 사업 및 국가 연구개발(R&D) 분야에서 관련 과업을 잇달아 수행했다.
AI 엑스포 코난 LLM 부스 (사진=코난테크놀로지)
온디바이스 AI는 차별화를 위한 기본 기술이다. 지난 6월에는 삼성전자의 갤럭시 S24 울트라 모델에 탑재한 '코난 온디바이스'를 공개했다.
이는 STT 및 TTS(텍스트 음성 전환), LLM 등의 기술을 탑재, 한국어 음성 자동 인식과 실시간 번역, 영어 음성 제공 등을 지원한다. 즉, 실시간 통역 전 과정을 지원하는 것이다.
또 네트워크 연결 없이 디바이스 자체에서 음성을 인식하고 번역하고 발화한다. 저가의 '퀄컴 ARM' 계열 프로세서에서도 동작이 가능하다는 것도 장점이다.
따라서 ▲휴대폰 ▲카메라 ▲센서 ▲드론 ▲웨어러블 ▲스마트홈 디바이스 등 다양한 장치에 작용이 가능하다. 또 ▲내비게이션 ▲자율주행 보조장치 등 차량에서도 동작할 수 있다.
차량에서 운전자를 보조하거나 운행을 제어하는 것은 물론, 공장 및 제조사에서 음성으로 기계를 운용하고 지능을 부여할 수도 있다는 설명이다. 이를 위해 최근에는 리벨리온과 '국산형 온디바이스AI' 협업을 시작했다.
하루가 달리 발전하는 최신 LLM 트랜드를 읽어내는 데에도 집중하고 있다. 코난테크놀로지는 향후 LLM 트렌드를 ▲멀티모달 강화 ▲소형언어모델(sLM) 강화 ▲검색 기능과 결합한 전용 언어 모델의 증가 등으로 예측했다.
멀티모달은 결국 '실시간 음성 대화'를 가능케 하는 기술이다. 사람과 유사한 속도로 대화할 수 있을 것으로 전망했다.
sLM은 비용 대비 효율이 중요하다. 여기에 검색 증강 생성(RAG)을 결합, 특정 도메인 한정으로 LLM 못지않은 성능을 끌어낼 수 있다. 코난테크놀로지도 "RAG에 벡터 검색 엔진 '코난 서치6'를 접목, 내부 문서와 최신 데이터를 기반으로 답변 신뢰도를 극대화하고 있다"라고 전했다.
마지막으로는 '서치GPT'와 같이 검색 기능을 결합한 언어 모델이 늘어날 것으로 전망했다. 이는 기존 AI 답변보다 더 정교하고 유용한 검색 결과를 생성할 수 있다.
김영섬 대표는 "앞으로도 AI를 활용해 운영 효율성을 높이고 고객 경험을 개선하며 새로운 비즈니스 모델을 창출하기 위해 노력하겠다"라고 말했다.
한편, 코난테크놀로지는 오는 22일부터 서울 코엑스에서 열리는 '한국전자전(KES 2024)'에 참여, 관련 기술을 선보일 예정이다.
[출처] AI타임스 장세민 기자 semim99@aitimes.com / 기사 원문 바로가기