한국전자통신연구원(ETRI)이 스마트 엣지 디바이스 소프트웨어(SW) 개발 플랫폼을 구축한다.
최근 자율주행, 사물 인식, 음성 인식 등 AI 연산 처리에 최적화된 AI 반도체가 개발됨에 따라 클라우드·서버가 아닌 데이터를 생성하는 엣지 단말에서 직접 데이터까지 처리하는 엣지 컴퓨팅이 주목받고 있다.
딥러닝에 필요한 높은 데이터 연산량을 중앙 집중식 처리가 아닌 네트워크 효율이 높은 엣지 컴퓨팅으로 분산, 처리하면서 즉각적인 데이터 처리가 요구되는 다양한 서비스 개발이 잇따라 논의되고 있다.
ETRI가 개발 중인 스마트 엣지 디바이스 SW 개발 플랫폼은 저비용·고효율로 엣지 디바이스 맞춤형 AI 서비스 개발을 돕는 차세대 플랫폼 기술이다.
이 플랫폼을 활용하면 엣지 단말에서 실행되는 AI 모델 성능을 최대 25배까지 향상시키면서도 저장 공간은 1/10 이하로 줄일 수 있다.
엣지 단말로 AI 서비스를 구현하려면 단말 환경에 맞도록 AI 모델 경량화 및 최적화가 필요하다. 단말 자체는 중앙 서버 대비 성능 및 저장 공간이 떨어지기 때문이다.
그간 인공지능 서비스는 대용량 저장장치와 고성능 GPU 그래픽스 처리 장치(GPU, Graphics Processing Unit) : 영상 정보를 처리하는 처리 장치로 인공지능 프로세서로도 활용됨
연산기가 필요해 생활 밀접 영역의 서비스가 어렵다는 한계가 있었지만, 본 플랫폼은 이를 손쉽게 해결했다.
본 기술은 스마트폰, 웨어러블 기기, IoT 기기에 맞도록 AI 모델을 간단하게 최적화할 수 있어 스마트홈, 스마트헬스 등 다양한 생활 밀접형 AI 서비스 창출에 크게 기여할 전망이다.
막대한 비용 투입 없이 손쉽게 AI 기술을 응용 SW에 포함하면서도 4G·5G 이동통신을 통해 배포·관리가 용이하다고 연구진은 설명했다.
또한, 텐서플로(TensorFlow), 파이토치(Pytorch) 등 인공지능 프레임워크를 8종 이상 지원하며 AI 모델을 엣지 디바이스용으로 자동 컴파일하고 응용 SW에 통합할 수 있도록 개발 환경을 제공한다.
본 기술이 개발되면 시각 지능, 감성 지능, 사물 지능, 헬스케어 등 다양한 분야에서 모바일 인공지능 서비스를 제공할 수 있는 길이 열리게 될 전망이다. 엣지 단말에 탑재되는 국산 인공지능 프로세서의 활용도가 높아져 AI 반도체 생태계 활성화 및 기술 패권 확보에도 가속이 붙을 전망이다.
ETRI는 향후 기술이 개발되면 ▲딥러닝 모델 경량화 기술 통합프레임워크 ▲딥러닝 가속 HW에 기반한 경량화된 엣지 딥러닝 모델 ▲다단계 중간 표현 기반 딥러닝 컴파일러 ▲다중 딥러닝 가속 HW 지원 딥러닝 구동 정보 프로파일러 ▲딥러닝 가속 HW에 기반한 엣지 딥러닝 모델 자동 생성 플랫폼 ▲딥러닝 가속 HW 기반 엣지 디바이스 응용SW 통합 개발 환경 시스템 등이 산출된다고 밝혔다.
연구진은 본 기술 개발이 ETRI가 수행했던 ‘인공지능 모델 컴파일러 NEST-C와 인공지능 가속 HW SoC 개발 등 선행 기술 개발에 따른 원천 기술을 보유하고 있기에 가능하다고 설명했다.
개발될 기술은 향후 스마트 엣지 디바이스 기업, AI 반도체 개발 팹리스 기업, 인공지능 엣지 솔루션 기업, 클라우드 기업, AI SaaS 사스(SaaS, Software as a Service, 서비스형 소프트웨어) 등에 기술 이전 할 계획이다.
