KONAN TECHNOLOGY

한국 대표 IT기업들의 AI 경쟁력에 대해 분석합니다.

국내 인공지능 기업 코난테크놀로지가 자체 개발한 대규모 언어모델(LLM)과 학습 프레임워크를 앞세워 공공·의료·국방 현장에서 성과를 내고 있다. 한국어 처리력과 온프레미스 기반 보안성을 무기로 해외 오픈소스 모델과 차별화된 경쟁력을 확보, 국산 AI 모델의 새로운 레퍼런스를 만들어가고 있다는 평가다.

최정주 코난테크놀로지 비전AI연구소 전무/사진=코난테크놀로지

 

한국어·보안으로 LLM 경쟁력 확보

코난테크놀로지는 2023년 131억 파라미터 모델을 시작으로 410억 파라미터 모델과 온디바이스 경량 모델을 차례로 내놓으며 독자 LLM 개발을 이어왔다. 올해 3월에는 국내 최초로 범용과 추론 기능을 하나로 통합한 ‘ENT-11’을 출시했다.

ENT-11은 기업향 ENT(Enterprise) 라인업 모델로, 약 320억개(32B)의 파라미터를 탑재했다. 기존에는 대규모 언어모델과 별도로 추론(Reasoning) 특화 모델을 따로 두는 것이 일반적이었지만, 코난은 이를 하나의 모델에 통합했다. 덕분에 복잡한 문제 해결 능력과 범용적 언어 처리 성능을 동시에 제공하면서도 GPU 사용량을 줄여 비용 효율성을 확보했다. 또 최대 128K 토큰(한글 기준 A4 128장 분량)을 한 번에 처리할 수 있어 긴 문맥을 이해하고 유지하는 데 최적화돼 있다.

자체 개발 학습 프레임워크 ‘코난 디트레인(Konan Dtrain)’ 역시 차별화 포인트다. 외산 오픈소스에 의존하지 않고 100% 자체 기술로 구현돼 데이터 유출이나 보안 위협을 원천 차단했다. 국방·공공 등 보안이 중요한 환경에 특화된 경량 프레임워크라는 점이 특징이다.

최정주 비전AI연구소 전무는 “GPU 비용을 줄이면서도 범용과 추론을 동시에 제공하는 통합 모델은 해외 오픈소스가 쉽게 따라오기 어려운 영역”이라며 “보안과 한국어 처리력에서 국산 AI가 확실한 경쟁 우위를 가질 수 있다는 점을 증명했다”고 말했다.

코난 LLM의 주요 개발사항 및 사업수행 타임라인 /사진=코난테크놀로지

 

공공·의료 현장서 성과로 증명

기술력은 실제 적용 성과로 이어지고 있다. 한국남부발전과 함께 개발한 ‘KEMI(KOSPO Evolving Mind Innovation)’는 공공기관 최초의 범용 생성형 AI 챗봇이다. 지난 6월부터 이달 초까지 진행된 내부 평가에서 평균 91점을 기록했다. 이달 중 본격 가동될 예정이다.

의료 분야에서는 한림대의료원과 공동 개발한 ‘HAI(Hallym Artificial Intelligence)’가 성과를 내고 있다. 환자 기록 전주기에 LLM을 적용해 작성 시간을 대폭 단축해 연간 8만3천 시간의 행정 시간이 절감되는 효과가 나타났다. 의료진의 진료 투입 시간은 30일 이상 늘었다. 병원 규정 1057건을 학습한 지식상담 서비스는 80% 이상의 정확도를 달성했다.

최 전무는 “공공과 의료는 보안 요구가 특히 높은 분야인데 코난 LLM은 실제 현장에서 성능과 안정성을 동시에 입증한 드문 사례”라며 “단순한 기술 시연이 아니라 현업 적용으로 이어진 점이 가장 의미가 크다”고 강조했다.

출처: 블로터 / 최이담 기자  idam@bloter.net / 기사 바로가기