Edge AI 정의 및 시장동향

Edge AI는 Edge Computing에서 시작된다.

 

Edge Computing: 서버를 장치 근처 로컬로 배치하는 네트워크 기술

이는 시스템 처리 부하를 줄이고 데이터 전송 지연을 해결하는 데 도움이 된다.

또, 이러한 프로세스는 센서 또는 장치가 데이터를 생성하는위치(Edge)에서 수행된다.

 

Edge AI란?

하드웨어 장치에서 로컬로 처리하고 연결없이 데이터를 처리 할 수 있는 AI 알고리즘

 클라우드에 데이터를 스트리밍 하거나 저장하지 않고도 데이터 생성과 같은 작업을 수행 할 수 있음

 

 

클라우드 사용 VS Edge Inferencing 사용 (출처: https://ichi.pro/ko/edge-ai-keompyuting-ilan-107670091364048)

 

사용사례

자율 주행 차

자율 주행 자동차는 엣지 컴퓨팅 응용 분야에서 가장 기대되는 분야입니다. 자율 주행 차는 상황을 즉각적으로 평가해야하는 경우가 많으며이를 위해서는 실시간 데이터 처리가 필요합니다. 2019 년 12 월 일본의 도로 교통법과 도로 교통 차량 법이 개정되어 도로에서 레벨 3 자율 주행 차를 쉽게 이용할 수있게되었습니다. 여기에는 자율 주행 차량이 유지되는 안전 표준과 차량이 작동 할 수있는 영역이 포함됩니다. 결과적으로 자동차 제조업체는 이러한 표준을 준수하는 자율 주행 자동차를 개발하고 있습니다. 예를 들어 Toyota는 이미 TRI-P4로 완전 자동화 (레벨 4)를 테스트하고 있습니다.

자율 드론

원격 비행 실험 중에 드론이 통제력을 잃고 실종된다는 뉴스가 증가했습니다. 이것은 심지어 사고를 초래했습니다. 드론이 착륙하는 위치에 따라 충돌은 치명적일 수 있습니다.
자율 드론을 사용하면 조종사가 드론의 비행에 적극적으로 관여하지 않습니다. 원격으로 작업을 모니터링하고 꼭 필요한 경우에만 드론을 조종합니다. 이에 대한 가장 잘 알려진 예는 패키지를 배송하기 위해 셀프 파일럿 드론을 개발하고있는 드론 배송 서비스인 Amazon Prime Air입니다.

 

얼굴 인식

얼굴 인식 시스템은 얼굴로 사람을 인식하는 방법을 배울 수있는 감시 카메라의 개발입니다. (주) WDS는 2019 년 11 월 엣지 AI 컴퓨팅 프로세스를 통해 얼굴 특징을 실시간으로 분석하는 AI 카메라 모듈 인이 아이를 공급하기 시작했습니다. Eeye는 얼굴을 빠르고 정확하게 인식하며 성별 및 연령과 같은 특성을 대상으로하는 마케팅 도구 및 잠금 해제 장치를위한 얼굴 인식에 적합합니다.

 

스마트 폰

이 에지 AI 장치는 우리 모두에게 가장 친숙한 장치입니다. Siri와 Google Assistant는 보컬 사용자 인터페이스를 주도하는 스마트 폰의 에지 AI의 좋은 예입니다. 온 디바이스 AI를 사용하면 처리가 디바이스 (에지) 측에서 이루어 지므로 디바이스 데이터를 클라우드로 전달할 필요가 없습니다. 이를 통해 개인 정보를 보호하고 트래픽을 줄일 수 있습니다.

 

기업별 동향

1. MS

 2010년 이후 Edge Computing 기술과 관련해 300개에 가까운 특허를 확보 했다. 이들 기술은 미디어 컨텐츠의 지능형 스트리밍과 관련된 것으로, 대용량 인터넷 콘텐츠용 엣지 컴퓨팅 플랫폼 특허도 포함한다. MS는 클라우드 서비스를 엣지 기기로 전송하는 동적 소프트웨어 플랫폼인 'Azure IoT Edge'를 2017년 10월 출시 하이브리드 클라우드와 엣지 IoT 솔루션 시장 확대에 기여하였다. 

 Azure Machine Learning, Azure Strem Analytics, Azure Functions 등을 활용한 고급 기술 분석, 머신러닝 및 AI기능은 클라우드에서 구현하고 IoT Edge는 종단 당말에서 이들 기능을 배포하는 작업을 지원한다. 엣지와 클라우드 각각에서 처리할 IoT 데이터를 구분하여 클라우드 전송 트래픽을 줄여 대역폭 비용을 절감한다.

 

2. IBM

 IBM은 AI기반 음성 인식 기술인 Watson Tone Analyzer와 Watson Speech-to-Text에 Edge IoT Analytics 프로토타입 적용 사례가 주목을 받았었다. 고객과의 대황는 민감한 정보일 수 있으며, 대화 정보 데이터를 클라우드로 전송하기에는 프라이버시 문제뿐만 아니라 지속적인 클라우드와의 통신에 따른 대역폭 부담 발생. 이 문제들의 해결을 위해 IBM은 엣지 게이트웨이용 Watson Tone Anlyzer와 Watson Speech-to-Text를 활용하여 엣지 컴퓨터에서 분산형 IoT 쿼리 엔진 기능을 수행하는 Proof-of-Concept 수준의 'Edge IoT Analytics'기술을 개발하였다.

 해당 기술에 대해서는 호텔 고객 데스크 환경에서 실험을 진행, 마이크를 장착한 Raspberry Pi가 엣지 게이트웨이로써 기능이 가능한지 여부를 확인할 수 있다.

 

3. Intel

 2018년 5월 16일 Intel은 엣지용 컴퓨터 비전과 딥러닝 추론을 구현하기 위한 툴킷인 OpenVINO를 공개하였다. OpenVINO툴킷은 Tensorflow, MXNet, Caffe 등 주요 딥러닝 프레임워크상에서 클라우드 기반 AI 모델 훈련 및 개발을 지원한다. OpenVINO는 Intel의 내장 그래픽 탑재 CPU, 프로그래머블 반도체(FPGA), 딥러닝용 프로세서 Movidius 비전 프로세싱 유닛(VPU) 등 Intel이 투자 중인 다양한 AI 가속 기술과 함께 활용할 수 있다. OpenVINO는 최적화 기능과 런타임 엔진을 함께 제공함으로써 FPGA나 VPU 사양이나 정밀도에 상관없이 개발자 필요에 따라 다양한 모델을 검증할 수 있다.

 Intel은 OpenVINO 툴킷의 비전 제품 라인업 추가를 통해 엣지-네트워크-클라우드에 걸친 AI솔루션을 광범위하게 제공할 수 있는 역량을 확보하였다.

 

4. HPE

 HPE의 엣지 솔루션 전략은 AWS, Google 등 메이저 퍼블릭 클라우드 서비스 사업자와 정면 승부를 피하기 위한 수단적 성격이 강하다. 

2017년 초 HPE는 엣지 서버를 내장한 IoT 서버를 발표하며 엣지에서의 데이터 패킷 가상화와 분석을 통한 컴퓨팅 리소스의 효과적 활용 가치를 제안하였다. 엣지 서버에서는 게시물 응답이나 검색쿼리 등의 모바일 컴퓨팅 작업을 처리하고, 이미지인식이나 리소스를 더 많이 소비하는 작업은 머신러닝 작업을 처리하는 중앙의 데이터센터 네트워크로 전송한다.
2017년 10월에는 AWS 등 대형 퍼블릭 클라우드서비스를 겨냥한 하이브리드 데이터센터와 IoT용 인텔리전스 엣지 솔루션을 발표하였다. 이 솔루션 개발을 위해 HPE는 Aruba Networks(2015년 30억 달러에 인수)의 무선랜 솔루션을 한층 지능화하고 현장에 배치된 IoT 기기 등 엣지 장비에서 유입되는 데이터를 바로 처리할 수 있는 컴퓨팅 인프라역량을 강화하였다. HPE는 현재 ‘Edgeline(EL)’ 브랜드로 엣지 컴퓨팅 구축을 위한 데이터센터 및 엣지 컴퓨팅 인프라시스템 솔루션을 제공 중이다. 

 

5. 아마존

아마존은 AWS IoT Greengrass라는 이름으로 엣지 컴퓨팅 솔루션을 제공한다. AWS IoT Greengrass는 커넥티드 디바이스에 대해 로컬 컴퓨팅, 메시징, 데이터 캐싱, 동기화 및 머신러닝추론 기능을 로컬 디바이스로 확장하는 소프트웨어로써 AWS를 디바이스까지 원활하게 확장하기 때문에 클라우드를 계속해서 사용하여 데이터를 관리, 분석 및 저장하는 동시에 생성되는 데이터와 관련하여 로컬 작업도 가능하다. 인터넷(클라우드)에 연결되어 있지 않더라도 AWS IoT Greengrass Core가 Greengrass 내의 커넥티드 디바이스에서 AWS Lambda 함수를 실행하고, 디바이스 데이터를 동기화 상태로 유지하고, 다른 디바이스와 안전하게 통신할 수 있다. AWS IoT Greengrass는 정밀 농업, 산업시설 유지보수 등을 타깃으로 비즈니스를 추진한다.

 

6. 구글

구글은 2008년 7월 ‘구글 클라우드 넥스트’ 콘퍼런스 행사에서 IoT 기기에서 빠르게 머신러닝 모델을 실행할 수 있도록 설계한 하드웨어 칩 ‘엣지TPU(Tensor Processing Unit)’와 SW인 ‘클라우드 IoT 엣지’를 공개하였다. 엣지 TPU는 1센트 동전 위에 4개가 올라갈 정도로 크기가 작고, 고성능·저전력을 구현하는 게 특징으로, 사용자가 클라우드에서 머신러닝 학습 속도를 높인 후 엣지에서 빠른 머신러닝 추론을 실행하도록 도와준다. 클라우드 IoT 엣지는 데이터를 클라우드로 전송해 응답을 기다릴 필요 없이 이미지, 동영상, 동작, 음향,모션을 엣지 기기에서 바로 처리하고 분석한다.