الذكاء الاصطناعي الحدودي والذكاء المحلي
وضع تحميلات عمل الذكاء الاصطناعي بالقرب من الأجهزة والمستخدمين عندما تعتبر التأخير والاتصال والخصوصية أو قيود التشغيل القيمة لتنفيذ المحلي.
ما الذي يجب أن يستمر في العمل عندما لا تكون السحابة متاحة؟
وصف عبء العمل و بيئة تشغيله قبل اختيار الأجهزة. تحديد وقت الاستجابة المطلوب والذاكرة والطاقة والاتصال. تحدد أي قدرات يجب أن تبقى محلية و التي يمكن أن تتحمل التزام المزمنة المتأخرة.
مقارنة حجم النموذج وخيارات وقت التشغيل مع أحمال العمل الممثلة. حساب الأداء المستدام والسلوك الحراري والموارد المشتركة. تصميم إدارة البيانات المحلية وإدارة الإصدارات جنبا إلى جنب مع مسار الاستخدام.
تخطيط كيفية تحديث النظام ومراقبة الفشل والعودة. فقدان الاتصال في الاختبار، وتقطيع التحديثات، وضغط الموارد. الحفاظ على إدارة عن بعد وحدود الحكم الذاتي المحلي واضحة للأشخاص المسؤولين عن التشغيل.
ما الذي يجب أن نتقدم به
- تحديدات الحمل والجهاز
- مقياس التقسيم المحلي/السحابة وإجراءات الاستنتاج
- خطة اختبار خارج الاتصال وتحديث وتعافي
ماذا يجب أن أحضر إلى محادثة؟
أحضر القرار الذي تحتاج إلى اتخاذه، القيود التي تعرفها بالفعل ومثال صغير غير سري ثم يمكننا الاتفاق على ما إذا كانت الموارد، مراجعة مركزة أو مناقشة أكثر تفصيلا هي الخطوة التالية الصحيحة.