يدعم أنصار الحوسبة الطرفية والذكاء الاصطناعي على الجهاز قد يكونون متفائلين بشكل مفرط. المشكلة الرئيسية الحالية تكمن في أن سعة الذاكرة والنطاق الترددي أصبحا فعليًا عنق الزجاجة لهذه البنى التحتية.

من الناحية التقنية، على الرغم من أن نماذج الذكاء الاصطناعي غير المتصلة بالإنترنت تقلل من زمن الاستجابة الشبكي، إلا أن قيود الذاكرة على الأجهزة المحلية تفرض تحديات كبيرة على نشر النماذج الكبيرة. بالمقابل، الحوسبة السحابية على الرغم من أنها تتطلب نقل البيانات عبر الشبكة، إلا أنها تتيح الوصول إلى موارد ذاكرة كافية، مما يمنحها ميزة واضحة في معالجة المهام المعقدة.

مشاكل الذاكرة ليست مجرد مشكلة سعة، بل تتعلق أيضًا بسرعة الوصول والنطاق الترددي. إذا لم يتم التغلب على هذا القصور في البنية التحتية، فإن المزايا النظرية للذكاء الاصطناعي على الحافة ستكون صعبة التحقيق بشكل كامل في التطبيقات العملية.