لماذا توفّر وحدات IREX للذكاء الاصطناعي أفضل أداء حسابي للسلامة العامة؟
يؤثر النقص العالمي المستمر في إمدادات أشباه الموصلات في كثير من الصناعات، ولا سيما تطبيقات الذكاء الاصطناعي. ولم يكن الاستخدام الفعّال للموارد الحسابية القائمة أكثر أهمية مما هو عليه اليوم.
قطعت IREX شوطاً طويلاً في بناء أكثر خوارزميات الذكاء الاصطناعي كفاءة على منصّتي CPU وGPU. ويجري تحسيننا على طبقات متعددة:
- تحسين بنية الشبكة العصبية: يعمل علماؤنا باستمرار للوصول إلى التوازن الأمثل بين تعقيد الشبكة ودقتها.
- التكميم (Quantization): يحقق الانتقال من العمليات الحسابية بالفاصلة العائمة 32 بت (عالية الدقة) إلى 8 بت (منخفضة الدقة) مكسباً كبيراً في الأداء بين 3 أضعاف و4 أضعاف مع انخفاض طفيف في الدقة قدره 0.3%. ويأتي الوفر الرئيسي في الوقت من خفض استخدام عرض نطاق الذاكرة بمقدار 4 أضعاف، وهو عنق الزجاجة لمعظم تطبيقات الذكاء الاصطناعي عالية الحمل.
- **محرك استدلال متفوق: **طوّرت IREX تقنية استدلال خاصة بها لوحدات CPU تتيح استدلالاً فعّالاً على خوادم قياسية دون بطاقات GPU. ويوفّر هذا الإطار تسريعاً بمقدار 1.5 إلى 2 ضعف مقارنةً بـ OpenVINO. وعلاوة على ذلك، على الجيل التالي من تعليمات الشبكات العصبية المتجهية (VNNI)، يوفّر محرك الاستدلال من IREX مكسباً إضافياً في الأداء يصل إلى 50% مقارنةً بـ AVX-512. ويبلغ متوسط مكسب VNNI (لخوارزميات ذكاء اصطناعي مختلفة) 23%.
وقد حققت Facebook مستوى مماثلاً من مكاسب الأداء. فقد ساعدت ممارسة تقنيات الدقة المخفّضة هذه Facebook على توفير سعات مراكز البيانات أثناء نشر نماذج يصل تعقيدها إلى 5 أضعاف، وهي نماذج لم يكن ممكناً نشرها لولا ذلك على وحدات CPU التقليدية العامة الأغراض.
تعمل معظم وحدات IREX للذكاء الاصطناعي الخاصة بـكشف التهديدات والتعرّف على الوجوه وتحليلات المركبات في الوقت الفعلي، بخيط معالجة واحد لكل بث فيديو. وهذا يعني أن وحدات CPU الحديثة متعددة الأنوية تستطيع خدمة العدد المقابل من الكاميرات. ولا حاجة إلى ترقية وحدات GPU أو الكاميرات.