← 모든 사용 사례사용 사례 / Edge AI

로컬 추론과 오프라인 운영

연결이 제한된 경우 사용자나 장치 근처에 선택된 인공지능 기능을 사용할 수 있도록 합니다.

로컬 추론 및 연결이 끊어지 않는 동작에 대한 개념적 설명

상황

애플리케이션은 클라우드가 사용할 수 없는 경우에도 적시에 응답이 필요합니다. 설계는 메모리, 전력 및 지속 가능한 성능과 모델 품질을 균형있게 만들어, 무엇이 지역으로 남아 있는지, 무엇이 나중에 동기화 될 수 있는지 정의해야 합니다.

질문에서 증거로

실용적인 접근법입니다.

  1. 01

    작업 과중을 제한

    대표적인 요청을 사용하여 응답 시간, 개인 정보 보호, 전력 및 하드웨어 제한을 정의하십시오.

  2. 02

    실행 시간을 비교

    지속된 운영 조건에서 후보 모델과 실행 시간 조합을 측정한다.

  3. 03

    설계 복원

    테스트 해부, 자원 압력, 중단된 업데이트 및 동기화 복원

검증해야 할 것

  • 지역 데이터 저장 및 원격 관리 책임은 명시적으로 유지하십시오.
  • 짧은 기준에 의존하는 대신 지속적인 행동을 평가하십시오.

전형적인 출력

  • 로컬 책임과 클라우드 책임 분할
  • 하드웨어 및 실행 시간 평가
  • 오프라인, 업데이트 및 복구 계획

예제 조치

  • 지속된 부하에서 응답 지연시간
  • 자원 제한 내에서 작업 품질
  • 성공한 해체 및 복구 시나리오

특정 프로젝트에 대한 기본 기준과 수용 기준을 합의합니다.

일러스트레이션 시나리오와 개념적인 이미지 각 임무를 위해 범위, 결과물 및 수용 증거가 합의되고; 예제 조치들은 결과를 얻지 못한다.

다음 단계

맥락을 알려주세요.
가능성에 대해 알아보세요.