Arm은 9월 13일 서울 강남구 코엑스(COEX)에서 열린 ‘2018 사물인터넷 국제컨퍼런스’의 세션을 통해, 클라우드와 엣지 컴퓨팅을 위한 Arm의 솔루션을 소개했다. 이번 세션에서 Arm은 엣지 컴퓨팅에서의 머신러닝 구현을 위한 플랫폼 아키텍처, 하드웨어와 소프트웨어 기술 등과 함께, 대규모 IoT 환경의 구현을 위한 플랫폼 기술을 소개했다.

Arm은 엣지 컴퓨팅에서의 AI 구현을 위한 다양한 기술을 플랫폼으로 구성, 제공하고 있다. 이 중 하드웨어 수준에서는 Cortex-M이나 A 계열 프로세서, Mali GPU 등과 함께 ‘프로젝트 트릴리움(Project Trillium)’으로 소개했던 머신러닝 프로세서 등이 포함된다. 이런 하드웨어를 기반으로, 하드웨어의 역량을 최적으로 활용하기 위한 CMSIS-NN이나 컴퓨트 라이브러리 등을 갖추고 있고, Arm NN은 일반적으로 많이 사용되는 관련 프레임워크로 만들어진 모델을 Arm의 하드웨어 기반 가속을 활용할 수 있도록 변환해 주는 역할을 한다.

또한 IoT 인프라의 구축에 있어서 문제가 되는 복잡성이나 파편화 등에 대한 문제로는 ‘펠리온’ IoT 플랫폼을 소개했다. 펠리온 플랫폼은 디바이스 레벨에서 OS를 포함하는 MBED 플랫폼과 애플리케이션 생태계 사이에서 데이터 관리 서비스와 디바이스 관리 서비스, 연결성 관리 서비스 등을 제공한다. 또한 글로벌 IoT 연결성 측면에서는 한 번의 계약과 SIM으로 디바이스를 설정해도 세계 어디에서든 디바이스 연결 서비스를 활용할 수 있는 서비스를 제공하며, 데이터 관리 서비스에서는, 여러 데이터 소스로부터 데이터를 모으고, 통합해 분석을 위한 가공 등의 과정을 지원한다.



Arm의 최병두 부장은 이 자리에서, AI 기술은 향후 다양한 분야에 영향을 줄 것으로 기대되며, 이미 이미지 인식 등의 일부 AI 관련 기술과 사례에서는 인간의 능력을 넘어서기도 했다고 소개했다. 그리고 보통 AI라 하면, 많은 데이터들을 데이터센터에 모아, 클라우드로 분석하고 훈련해 활용하는 등, 큰 기업들의 전유물 같이 여겨지기도 하지만, 실제로는 주파수나 통신의 대역폭이나 비용, 지연 시간, 보안, 전력 문제 등 많은 이유로 엣지 레벨에서의 머신러닝이 필요하다고 밝혔다.

머신 러닝은 많은 데이터를 수집해 정립된 모델에 따라 훈련하는 단계와, 이 훈련을 기반으로 새로운 입력을 받아 결과를 내는 추론의 단계로 나뉜다. 그리고 머신 러닝 기능은 컴퓨팅이 일어나는 서버와 엣지 양 쪽 모두에서 필요하며, 서버 쪽에서는 훈련과 추론 양 쪽이 모두 수행되겠지만, 엣지 디바이스 쪽은 추론 쪽이 중심이 된다. 그리고 ARM은 엣지에서의 머신러닝 구현을 위해 하드웨어, 특정 목적을 위한 하드웨어 가속기, 소프트웨어 구성 요소 등을 플랫폼으로 구성, 제공하고 있다고 밝혔다.

이 중 하드웨어 수준에서는 Cortex-M이나 A 계열 프로세서, Mali GPU 등과 함께 ‘프로젝트 트릴리움(Project Trillium)’으로 소개했던 머신러닝 프로세서 등이 포함된다. 이런 하드웨어를 기반으로, 하드웨어의 역량을 최적으로 활용하기 위한 CMSIS-NN이나 컴퓨트 라이브러리 등을 갖추고 있고, Arm NN은 일반적으로 많이 사용되는 관련 프레임워크로 만들어진 모델을 Arm의 하드웨어 기반 가속을 활용할 수 있도록 변환해 주는 역할을 한다고 소개되었다. 또한 이 플랫폼 아키텍처에서는 서드파티 IP와 관련 소프트웨어 기능을 포함할 수 있도록 되어 있다.

실제 애플리케이션 사례로는 Cortex-M 프로세서 기반에서의 키워드 스폿팅(Spotting) 구현이 소개되었다. 최근 인기 있는 AI 스피커 등은 항상 음성 입력을 모니터링 하고 있다가 특정 키워드에 반응하는데, 이 때문에 저전력, 적은 리소스로의 구현 등이 요구된다. 이에 음성 데이터를 받아 변환, 타임 도메인을 주파수 도메인으로 변환하고 신경망 네트워크를 통해 훈련하고 추론에 적용하게 된다. 이런 애플리케이션에 적용할 수 있는 마이크로컨트롤러는 시중에 여러 가지 종류가 있으며, 작게는 Cortex-M0 정도로도 훌륭한 결과를 낼 수 있다고 밝혔다.



Arm은 자사의 IP에 AI 지원을 위한 기술들을 포함해 제공하고 있다. Cortex-A 시리즈 IP에서는 A75나 55에서 제공하는 행렬 연산을 위한 ‘dot product’ 명령어나, 더 큰 벡터 연산을 지원하는 ‘SVE(Scalable Vector Extensions)’ 명령어들을 활용할 수 있다. 또한 Cortex-M에서는 행렬곱 성능의 최적화를 위한, 최적화된 CMSIS-DSP 라이브러리를 제공하고 있다. 이 외에도 ‘프로젝트 트릴리움’으로 소개했던 머신러닝 프로세서는 행렬 연산을 위한 고정 기능 요소나, 향후 모델의 지원을 위한 프로그래머블 특성 등을 갖추고 있다.

소프트웨어 측면에서는, 머신러닝에 최적화된 로우레벨 컴퓨트 라이브러리는 기존의 최적화되지 않은 경우와 비교했을 때 합성곱(Convolution)이나 SGEMM 성능은 15배 가량 향상될 수 있다고 밝혔다. 그리고 Arm NN은 AI 구현을 위해 많이 사용되는 주요 신경망 프레임워크와 Arm 기반 하드웨어들을 최적화된 형태로 연결할 수 있도록, 신경망 프레임워크에서의 모델을 하드웨어 가속기에 적용할 수 있도록 변환한다고 밝혔다.

특정 목적을 위한 가속기로는 모바일이나 CCTV 등에서 활용할 수 있는 ‘사물 인식’을 위한 가속기가 꼽혔다. 이 가속기는 엣지에서 이미지가 들어왔을 때 사람 얼굴이나 특징, 제스처나 포즈 등을 분석할 수 있으며, 초당 60프레임으로 이론상으로는 무제한의 사물 분석이 가능하다. 이 가속기를 사용함으로써 얻을 수 있는 장점으로는 성능과 함께 ‘프라이버시’가 꼽혔는데, 엣지 레벨에서 비디오 분석을 진행함으로써 굳이 민감할 수 있는 데이터를 다른 위치로 전송하지 않아도 되기 때문이다. 또한 사물 인식 프로세서와 머신러닝 프로세서를 함께 활용해, 이미지가 들어왔을 때 얼굴만 분리해 누구인지 판단할 수 있도록 구현할 수도 있다고 덧붙였다.


IoT 관점에서 보면, 엣지에서의 지능을 활성화하는 것으로 모든 문제가 해결되는 것은 아니다. 디바이스를 연결하고 필요한 데이터를 추출하고, 데이터를 신뢰할 수 있도록 디바이스를 관리하는 기능이 필요해지며, 추출된 데이터를 기반으로 더 나은 가치를 만들 수 있는 데이터 분석 부분이 필요해진다. 그리고 최근 몇 년간 Arm 기반 칩의 출하량은 빠르게 증가해 왔으며, 지금까지의 이유로는 ‘스마트폰’이 이끌어 왔지만, 향후의 성장세를 이끌 원동력으로는 ‘IoT’가 꼽힌다고 덧붙였다.

IoT의 대표적인 구현 목적으로는 데이터를 얻어 이를 기반으로 어떤 상황에 대해 예측 가능한 통찰력을 얻고자 하는 것이 꼽힌다. 또한 시스템을 즉각적으로 모니터링하고, 효율을 유지, 향상할 수 있도록 즉각적으로 대응할 수 있어야 하며, 새로운 가치를 창출할 수 있어야 할 것이라 설명했다. 하지만 실제 시장에서 만나는 어려움으로는 시스템과 디바이스, 통신과 클라우드 등의 구성에서 나타나는 ‘복잡성’, 프로젝트마다 요구사항이 달라서 그 때마다 다른 형태의 디바이스들이 필요하게 된다는 ‘파편화’ 등이 꼽혔다.

이를 극복하기 위한 방법으로는 IoT에서도 ‘데이터’와 ‘컨트롤’ 계층을 분리하고, 데이터의 신뢰성 확보 차원에서 디바이스의 신뢰성을 보장할 수 있는 관리 방안을 확보할 필요가 있다고 소개했다. 현재는 다양한 형태의 디바이스와, 퍼블릭, 프라이빗 등 다양한 위치의 클라우드에 연결하는 요구사항을 만족하면서, 디바이스를 개발, 연결하고 데이터를 얻어 분석해야 하는 것이 과제로 꼽힌다. 이에 Arm은 이런 요구사항들을 효율적으로 만족시키기 위해 펠리온(Pelion) IoT 플랫폼을 소개했다.

펠리온 플랫폼은 디바이스 레벨에서 OS를 포함하는 MBED 플랫폼과 애플리케이션 생태계 사이에서 데이터 관리 서비스와 디바이스 관리 서비스, 연결성 관리 서비스 등을 제공하는 플랫폼이며, 디바이스에서 데이터에 이르는 전반적인 보안성도 제공하고 있다. 또한 글로벌 IoT 연결성 측면에서는 한 번의 계약과 SIM으로 디바이스를 설정해도 세계 어디에서든 디바이스 연결 서비스를 활용할 수 있는 서비스를 제공한다. 그리고 데이터 관리 서비스에서는, 여러 데이터 소스로부터 데이터를 모으고, 통합해 분석을 위한 가공 등의 과정을 지원한다고 덧붙였다.