엣지 머신 러닝이란?

엣지 머신 러닝은 엣지 장치에서 머신 러닝(ML) 모델을 실행하여 원시 데이터 컬렉션 내의 패턴을 수집, 처리 및 인식하는 프로세스를 의미합니다.

엣지에서의 머신 러닝을 가장 효과적으로 설명하기 위해 머신 러닝과 엣지 컴퓨팅이라는 두 가지 구성 요소를 먼저 분석해 보겠습니다.

• 머신 러닝은 인공지능(AI)의 하위 집합으로, AI는 사람이 걸리는 시간보다 훨씬 짧은 시간 내에 지각 작업(perceptive tasks)을 수행할 수 있습니다. 
• 엣지 컴퓨팅은 사용자 또는 데이터 소스에 물리적으로 더 가까운 위치로 컴퓨팅 서비스를 가져오는 작업을 의미합니다. 이러한 컴퓨팅 서비스는 원시 데이터를 실시간으로 수집하고 처리하여 더 빠르고 안정적인 분석을 수행하게 하는 컴퓨터인 엣지 장치에 존재합니다. 

엣지에서의 머신 러닝은 사물인터넷(IoT)과 같은 엣지 장치에서 로컬로 머신 러닝 모델을 실행할 수 있는 기능을 제공합니다.

고객의 기대치가 높아지면서 빠르고 안전한 처리 능력에 대한 요구도 높아지고 있습니다. 

이제 기업과 고객 간의 모든 상호 작용에는 하이브리드 기술과 접점이 혼합되어 있으며, 새로운 경험을 제공하고 바람직한 엔드 투 엔드 사용자 경험을 생성하는 기기, 데이터, 애플리케이션에 쉽게 액세스할 수 있어야 합니다.

기존에 이러한 처리는 네트워크를 통해 원격 클라우드로 데이터세트를 전송하는 방식으로 수행되지만, 네트워크에서 데이터가 도착지 사이에서 이동하는 데 시간이 오래 걸리기 때문에 전체 용량으로 운영하기 어려울 수 있습니다. 이로 인해 잠재적으로 대기 시간 및 보안 침해에 이르는 다양한 문제가 발생할 수 있습니다.

엣지 컴퓨팅을 사용하면 인공지능/머신 러닝(AI/ML) 기반 애플리케이션을 센서, 카메라, 모바일 기기와 같은 데이터 소스에 물리적으로 더 가깝게 배치하여 인사이트를 더 빠르게 수집하고, 패턴을 식별한 다음, 기존 클라우드 네트워크에 의존하지 않고 작업을 시작할 수 있습니다.

엣지 컴퓨팅은 일반적인 수평적 플랫폼을 통해 아키텍처 전체에 걸쳐 일관적인 애플리케이션과 운영 경험을 구축하도록 지원하는 오픈 하이브리드 클라우드 비전에서 매우 중요한 역할을 차지하고 있습니다.

하이브리드 클라우드 전략을 통해 조직이 자체 데이터센터와 퍼블릭 클라우드 인프라(예: Amazon Web Services, Microsoft Azure또는 Google Cloud)에서 동일한 워크로드를 실행할 수 있는 한편, 엣지 전략을 활용하면 더욱 확장할 수 있으므로 거리가 너무 멀어 데이터센터와의 지속적인 연결을 유지하기에 어려운 위치에도 클라우드 환경이 도달할 수 있습니다.

엣지 컴퓨팅 사이트에는 IT 인력이 부족하거나 아예 없는 경우가 많습니다. 그러므로 안정적인 엣지 컴퓨팅 솔루션은 중앙집중식 인프라에서 사용하는 것과 동일한 툴과 프로세스로 관리할 수 있으면서, 동시에 오프라인 모드에서 독립적으로 작동할 수 있는 솔루션입니다.

일반적으로 통합적인 컴퓨팅 솔루션은 다음과 같은 기능을 지원해야 합니다.

• 코어에서 엣지까지 일관된 배포 모델 실행
• 연결성 및 데이터 관리 요구 사항에 최적화된 유연한 아키텍처 옵션 제공
• 코어 데이터센터에서 원격 엣지 사이트까지 인프라 배포 및 업데이트 자동화 및 관리
• 인프라 전반의 소프트웨어 애플리케이션을 대규모로 프로비저닝, 업데이트 및 유지 관리
• 인터넷 연결이 불안정한 경우에도 원격 엣지 사이트에서 운영 지속
• 스케일 인/아웃을 모두 지원하는 강력한 소프트웨어 플랫폼 포함
• 보안이 취약한 엣지 환경에서 데이터 및 인프라 보호

ML 모델을 구축하고 운영할 수 있는 단 하나의 방법은 없지만, 일관적으로 요구되는 사항은 데이터세트를 수집 및 준비하고, 모델을 지능형 애플리케이션으로 개발하고, 이러한 애플리케이션에서 수익을 창출해야 한다는 것입니다. MLOps라고 하는 통합 ML 기능으로 이러한 애플리케이션을 운영하고 최신 상태로 유지하려면 데이터 과학자, 개발자, ML 엔지니어, IT 운영팀 및 다양한 DevOps 기술 간의 협업이 필요합니다.

조직은 DevOps 및 GitOps 원칙을 적용하여 ML 모델을 소프트웨어 개발 프로세스, 프로덕션 롤아웃, 모니터링, 재교육 및 재배포에 통합하는 반복적인 프로세스를 자동화하고 간소화하여 지속적인 예측 정확도를 달성할 수 있습니다.

Red Hat® OpenShift®를 사용하면 이 프로세스를 기본적으로 4단계로 나눌 수 있습니다.

1. 학습: ML 모델은 Red Hat OpenShift 기반의 Jupyter Notebook으로 학습합니다.
2. 자동화: Red Hat OpenShift Pipelines는 이벤트 기반의 지속적 통합 기능으로, 다음을 통해 ML 모델을 컨테이너 이미지로 패키징할 수 있도록 지원합니다.
   
   저장: 배포할 준비가 된 모델을 모델 스토어에 저장
   변환: Red Hat OpenShift 빌드를 사용하여 저장된 모델을 컨테이너 이미지로 변환
   테스트: 컨테이너화된 모델 이미지를 테스트하여 기능을 유지하는지 확인
   보관: 컨테이너화된 모델 이미지를 Red Hat Quay와 같은 프라이빗 글로벌 컨테이너 이미지 레지스트리에 저장. 이 레지스트리에서는 이미지를 분석하여 잠재적 문제를 식별하고, 보안 위험을 완화하며, 지역 복제(geo replication)를 수행합니다.
    
3. 배포: Red Hat OpenShift GitOps에서 관리하는 선언적 구성을 사용하면 규모에 따라 어디서나 머신러닝(ML) 모델 배포를 자동화할 수 있습니다.
4. 모니터링: Red Hat 에코시스템 파트너 중 한 곳의 툴링을 사용하여 모델의 안정성, 속도, 규모 등을 모니터링하고 필요에 따라 재교육 및 재배포를 통해 모델을 업데이트합니다.

인공지능과 머신 러닝은 데이터를 비즈니스 가치로 전환하려는 기업에 빠른 속도로 중요한 요소가 되었습니다. Red Hat의 오픈소스 엣지 컴퓨팅 솔루션은 하이브리드 클라우드에서 지능형 애플리케이션 개발 프로세스를 자동화하고 간소화하는 서비스를 제공하여 이러한 비즈니스 이니셔티브를 가속화하는 데 중점을 둡니다.

Red Hat은 데이터 과학자가 AI/ML 모델을 구축하기 위해 노력할 때 빠르게 진화하는 툴 간의 연계 부족으로 인해 작업이 복잡해지는 경우가 많다는 점을 잘 알고 있습니다. 이는 결과적으로 팀, 소프트웨어 개발자, IT 운영팀의 생산성과 협업에 영향을 줄 수 있습니다.

이러한 잠재적인 장애 요소를 피하기 위해 Red Hat OpenShift 서비스는 사용자가 클라우드 환경과 데이터센터 전반에서 지능형 애플리케이션을 일관되게 설계, 배포, 관리할 수 있도록 지원하도록 구축되었습니다.

대부분의 기업은 데이터를 더 잘 활용할 수 있지만, 툴과 워크플로우의 제약을 받습니다. Red Hat® OpenShift® Data Science는 지원되는 셀프 서비스 환경을 제공하여 데이터 과학자가 알고리즘을 개선하고 머신 러닝 모델의 개발, 학습, 테스트를 통해 실험할 수 있도록 지원합니다.