코난테크놀로지, 사내 기술 세미나서 온디바이스 AI 시연
2024.08.14
- 자체개발 AI 프레임워크 ‘dtrain’ 안드로이드 탑재 시연… 온디바이스 AI 개발 ‘속도’
- 최신 기술 트렌드 파악과 교류 위해 사내 세미나 및 초청특강 수시 진행
<사진1. 코난테크놀로지 윤덕호 비전AI연구소장이 2일 열린 사내 기술세미나에서 ‘dtrain for Android’에 대해 발표하고 있다.>(이미지 제공 = 코난테크놀로지)
인공지능 소프트웨어 전문기업 코난테크놀로지(대표 김영섬 www.konantech.com)가 2일 사내 임직원을 대상으로 AI 기술 세미나를 개최했다.
이번 세미나는 ‘dtrain for Android’를 주제로 열렸다. dtrain은 코난테크놀로지 100% 자체기술로 개발된 AI 프레임워크다. 지난 21년 과학기술정보통신부의 ‘차세대 AI연구개발에 활용 가능한 유연한 딥러닝 프레임워크 기술 개발’ 과제로 시작해 23년 1월 연구 개발을 마쳤으며, 현재 국방 분야 AI 과제 대상 호환성 테스트를 진행하고 있다. 텐서플로우(TensorFlow)와 파이토치(PyTorch)와 달리 순수 국내기술로 개발된 만큼 높은 보안성을 강점으로 국방 안보 분야에 최신 edge AI 기술을 접목해 나갈 계획이다.
세미나는 윤덕호 비전AI연구소장이 발표했다. 자사의 STT, LLM, TTS 모델을 dtrain을 통해 안드로이드 기기에 적용한 연구결과를 소개하고, 후속 연구방향 안내 및 질의응답 순으로 진행됐다. 시연은 안드로이드 운영체제를 탑재한 오렌지파이에서 구현된 dtrain-edge Android 시제품을 통해 선보였다.
코난테크놀로지는 최근 자사의 제품군을 갤럭시S24에도 탑재하며 퀄컴의 저전력 AI칩과 같은 엣지 컴퓨팅에서도 합리적으로 운영 가능한 온디바이스 AI 개발에 속도를 내고 있다. 이번 시연에서 선보인 AI프레임워크 솔루션을 이용한 시제품도 조속히 갤럭시 S24에 탑재 예정이다. 윤덕호 비전AI 연구소장은 “메모리 사용량은 줄이고 처리 속도는 향상된 보다 빠르고 경량화 된 AI모델 개발을 이어가겠다”고 전했다.
한편, 코난테크놀로지는 음성언어 연구소와 비전AI 연구소 총 2개의 연구소를 운영하며 Text AI, Video AI, Digital Twin 그리고 파운데이션 모델에 걸쳐 인공지능 원천기술을 자체개발하고 있다. 수시로 사내 기술 세미나를 개최하며 기술과 인사이트를 나누는 개발문화를 갖췄으며, 이달 중 KAIST 공학박사 권오정 교수를 초청해 포병사격 효과분석 방법론 특강도 개최 예정이다.
※ dtrain-edge Android 시연은 안드로이드 운영체제를 탑재한 오렌지파이에서 구현된 dtrain-edge Android 시제품을 이용해 선보였습니다. 코난테크놀로지가 자체 개발한 STT, LLM, TTS를 포함하는 총 7개의 신경망 모델들이 오렌지파이의 GPU 메모리 안에 함께 배치됐습니다. 작업을 위해 각 모델의 특성에 따라 적절한 데이터와 파라미터 스케일이 지정되었고, 고정된 파라미터 공간과 동적 할당으로 관리되는 데이터 공간을 활용하여 파이프라인 병렬처리와 순차적 처리를 결합한 방식으로 동작하도록 개발이 진행되었습니다. 또한 시제품은 안드로이드 계열에서 고속 병렬처리를 지원하는 OpenCL 라이브러리를 이용하고 있으며, 벡터처리·half 연산처리·8비트 quantization(양자화) 등의 처리기법을 활용하여 온디바이스 AI 응용의 처리 속도를 높였습니다. dtrain 상세 소개 웹 브로슈어 |
<사진2. 코난테크놀로지가 자체 개발한 AI프레임워크 dtrain BI>(이미지 제공 = 코난테크놀로지)
이전글
국산 LLM 시대 서막... 코난테크놀로지, 리벨리온과 인공지능 사업 협약
2024.08.29
다음글
코난테크놀로지·에스넷시스템·델테크놀로지스, AI 올인원 서비스 사업화 ‘맞손’
2024.08.08