أمازون تطلق TorchNeuron لنقل تطبيقات PyTorch إلى شرائح Trainium بسطر واحد
بقلم علي المنتصر — محلل ومحرر تقني أول
أطلقت AWS أداة TorchNeuron التي تنقل تطبيقات PyTorch إلى شرائح Trainium بتغيير سطر إعداد واحد دون إعادة كتابة الكود، مستهدفةً 85% من تطبيقات الذكاء الاصطناعي المبنية على PyTorch. وتُظهر حالة Deepgram تحسيناً بنسبة 70% في الصوت المعالج لكل دولار باستخدام Trainium2، مع تسريع نواة FFN بمقدار 2.0x ونواة Conv2d حتى 50x. الخطوة تهدف لكسر احتكار CUDA وتقديم بديل متكامل للتطوير والنشر على السحابة.
الموجز الإحصائي السريع
أعلنت Amazon Web Services يوم الاثنين إطلاق أداة TorchNeuron، وهي تكامل أصلي لـ PyTorch مع Neuron Compiler يتيح نقل تطبيقات الذكاء الاصطناعي إلى شرائح Trainium بتغيير سطر إعداد واحد فقط، دون إعادة كتابة الكود. الأداة متاحة فوراً عبر مدونة AWS الرسمية وتستهدف 85% من تطبيقات الذكاء الاصطناعي المبنية على PyTorch، مع تحسينات موثقة تصل إلى 70% في الصوت المعالج لكل دولار في حالة Deepgram.
📊 بطاقة البيانات والمواصفات التقنية الرسمية
| المحور التقني | البيانات الرسمية المؤكدة |
|---|---|
| 💰 الأسعار وتكلفة الاستخدام | لا توجد أسعار توكنز معلنة لـ TorchNeuron؛ التكلفة تُحسب بسعر مثيلات EC2 Trainium2 (مثل trn2.3xlarge). حققت Deepgram تحسيناً بنسبة 11–70% في الصوت المعالج لكل دولار مقارنةً بخيارات الحوسبة السابقة، وفق أسعار المثيلات وقت التقييم. |
| 🌐 المنصات والتوفر الفوري | متاح فوراً على AWS عبر Amazon EC2 trn2.3xlarge وAmazon SageMaker AI وNeuron SDK. يعمل مع PyTorch مفتوح المصدر (Linux Foundation منذ 2022) ويدعم النشر في VPC ذاتي الاستضافة. |
| ⚡ الأداء ومؤشرات السرعة | تسريع نواة FFN بمقدار 2.0x، ونواة Depthwise conv1d بمقدار 1.5x، ووحدة Conv2d حتى 50x عند أحجام دفعات ≤32. معالجة 11–70% صوتاً إضافياً لكل دولار. تشغيل 8 نسخ من Nova-3 على مثيل trn2.3xlarge واحد. 85% من تطبيقات AI مبنية على PyTorch. |
| 🛡️ الأمان ومقاومة الاختراق | لا يذكر الإعلان معايير أمان محددة أو مقاومة Prompt Injection؛ يعتمد النشر على بنية AWS السحابية وVPC وSageMaker AI مع تحسينات في الموثوقية والمراقبة (Observability) وفق المدونة الرسمية. |
| 🧠 سياق الذاكرة (Context Window) | لا ينطبق على أداة TorchNeuron؛ فهي طبقة ترجمة عتاد وليست نموذجاً لغوياً. حالة Deepgram تستخدم Nova-3 للتحويل من الكلام إلى نص مع نوافذ صوتية تعتمد على حجم الدفعة (batch sizes 1–128). |
| 🌍 دعم اللغة العربية والمنطقة | لا يحدد الإعلان دعماً عربياً خاصاً بـ TorchNeuron. حالة Deepgram تشمل Nova-3 متعدد اللغات، ويمكن للمطورين العرب نشر نماذج ASR/TTS عربية على Trainium2 عبر SageMaker AI. لا توجد بيانات إقليمية منفصلة للشرق الأوسط في المصدر. |
تفاصيل الإعلان والميزات التقنية الجديدة
تعتمد TorchNeuron على التكامل الأصلي لـ PyTorch مع Neuron Compiler، وتدعم كلاً من التنفيذ الفوري (eager execution) وtorch.compile. في حالة Deepgram، بدأ الفريق بترحيل نموذج Nova-3 للتحويل من الكلام إلى نص إلى Trainium2 عبر إعادة بناء PyTorch، ثم استخدم TorchNeuron لتشغيل النموذج في الوضع الفوري أولاً لرصد العمليات التي تتراجع إلى CPU، قبل التجميع بـ torch.compile الذي شغّل كل العمليات على Trainium2 دون أي تراجع إلى CPU. جرى تجميع المُشفّر وفك التشفير كرسوم بيانية ثابتة الشكل، مع التحقق من الدقة على مستويين: اتساق مخرجات الطبقات مقابل CPU، ومعدل خطأ الكلمات (WER) من طرف إلى طرف.
انتقل الفريق بعد ذلك إلى تحسين النوى باستخدام مكتبة NKI العامة (NKILib)، فاستبدل طبقات مثل إسقاطات QKV المدمجة وطبقات FFN المدمجة والالتفاف العمقي أحادي البعد. أظهرت عملية التحليل عبر Neuron Explorer وNeuron Agentic Development (NAD) أن نواة FFN المرجعية كانت تعيد تحميل أوزان الإسقاط كاملة من الذاكرة خارج الشريحة لكل كتلة رموز، فكتب الفريق نواة مخصصة تحمّل كل كتلة أوزان مرة واحدة وتعيد استخدامها، ما خفّض زمن الاستجابة بمقدار 2.0x عند حجم دفعة 96. كما أُعيدت كتابة نواة Depthwise conv1d كحلقة ضرب-جمع بثّية على Vector Engine لتحقيق استفادة كاملة من المحرك، محققةً تسريعاً 1.5x. أما طبقات Conv2d فقد واجهت عنق زجاجة في التجميع يتجاوز حجم الدفعة 32، فكُتبت نواة من الصفر في NKI مكّنت من تجاوز هذا الحد وحققت تسريعاً حتى 50x عند أحجام دفعات ≤32.
على مستوى التشغيل، يحتوي كل جهاز Trainium2 على ثمانية أنوية NeuronCores فيزيائية، وشغّل التكوين النهائي لـ Deepgram ثماني نسخ من النموذج على مثيل EC2 trn2.3xlarge واحد، مدعومة ببيئة تشغيل Rust متوازية البيانات تتيح لخادم النموذج الخاص بـ Deepgram استدعاء Trainium مباشرة. وتقول AWS إن TorchNeuron لا يقتصر على Trainium، بل تساهم الشركة بتعديلات في مشروع PyTorch نفسه لإزالة الكود الذي يربط الإطار بشرائح محددة، بهدف جعله محايداً تجاه العتاد لكل المجتمع.
المقارنة المعيارية والأداء التنافسي
تستهدف TorchNeuron الميزة البرمجية التي رسّخت هيمنة Nvidia عبر CUDA، والتي جعلت عتادها الخيار الافتراضي لتطبيقات PyTorch. وتقدم AWS بديلاً يجمع بين سهولة النقل بسطر إعداد واحد والتكامل مع سحابتها الكاملة، مقابل عروض السحابات المتخصصة (Neoclouds) المرتبطة بـ Nvidia مثل CoreWeave وNebius وFirmus. الأرقام الرسمية لحالة Deepgram تُظهر أن Trainium2 حقق 11–70% صوتاً إضافياً لكل دولار في مهام الدفعات، مع الحفاظ على دقة إنتاجية (WER ضمن القيم المرجعية). في المقابل، تتيح PyTorch بالفعل النقل إلى شرائح AMD وApple بتغيير إعداد، لكن AWS تراهن على أن التكامل العمودي مع السحابة والاستخدام المزدوج للشريحة في التدريب والاستدلال يحسّن اقتصاديات الحمل الكامل حتى لو لم تكن أقل سعراً لكل توكن.
ماذا يعني هذا للمطور والمستخدم العربي؟ (The Localization Edge)
بالنسبة للمطور العربي، تعني TorchNeuron تقليص كلفة ترحيل نماذج معالجة اللغة العربية الصوتية والنصية إلى عتاد غير تابع لـ Nvidia، إذ يمكن نقل نموذج ASR أو TTS عربي مبني على PyTorch إلى Trainium2 بتغيير سطر واحد، والاستفادة من تحسين 70% في الصوت المعالج لكل دولار لتشغيل خدمات تحويل الكلام العربي على نطاق واسع. كما أن دعم Nova-3 متعدد اللغات في حالة Deepgram يفتح الباب لنشر نماذج صوتية عربية على SageMaker AI داخل VPC، ما يسهّل الامتثال لمتطلبات حماية البيانات المحلية. أما الشركات الناشئة في الخليج وشمال أفريقيا، فإن الجمع بين التدريب والاستدلال على الشريحة نفسها يقلل تكاليف البنية التحتية عبر مراحل التطوير والإنتاج. ومع ذلك، تبقى كفاءة التوكنز العربية مرتبطة بجودة النموذج نفسه لا بالأداة، لذا يلزم اختبار WER محلي قبل الاعتماد الإنتاجي.
الخلاصة والتطلعات القادمة
تمثل TorchNeuron أكبر محاولة من AWS لكسر احتكار CUDA على مستوى طبقة الإطار نفسه، لا على مستوى الشريحة فقط. النتائج الموثقة في حالة Deepgram (2.0x و1.5x و50x و11–70%) تمنح الأداة مصداقية تقنية، لكن الاختبار الحقيقي سيكون في مدى تبني مجتمع PyTorch للتعديلات المقترحة لجعل الإطار محايداً تجاه العتاد. إذا نجحت AWS في ذلك، فقد تتغير قواعد المنافسة في سوق عتاد الذكاء الاصطناعي بأكمله، لا في حصة Trainium وحدها.
المصدر الإعلامي: TechCrunch AI | البيان الرسمي للشركة: المصدر الأصلي | تدقيق وتحليل البيانات: AI Tools Oasis
أسئلة شائعة
فريق AI Tools Oasis
نقدم لك أحدث الأخبار والتحليلات في عالم الذكاء الاصطناعي بدقة ومصداقية. تابعنا للحصول على كل جديد.
