تعمل شركة PrismML على تغيير الطريقة التي يمكن من خلالها تشغيل نماذج الذكاء الاصطناعي المتقدمة، من خلال تطوير نماذج أكثر كفاءة يمكن تشغيلها محليًا على أجهزة الكمبيوتر والهواتف الذكية.
وتأتي أحدث خطوات الشركة مع إطلاق Bonsai 2 27B، المعروف أيضًا باسم Ternary Bonsai 2 27B، والذي يبلغ حجم النموذج فيه نحو 5.9 جيجابايت فقط، مع الاحتفاظ بنسبة 98.2% من الأداء الإجمالي للنموذج الكامل وفق اختبارات PrismML.
وتكتسب هذه التقنية أهمية خاصة مع تزايد الاعتماد على نماذج اللغة الكبيرة، التي تحتاج عادةً إلى قدرات حوسبية وذاكرة كبيرة لتشغيلها، بينما تسعى تقنيات الضغط إلى تقليل هذه المتطلبات دون خسارة جزء كبير من قدرات النموذج.
ما هو نموذج Bonsai 2 27B من PrismML
يعد Bonsai 2 27B أحدث نماذج PrismML في سلسلة Bonsai، وهو نموذج ذكاء اصطناعي متعدد الوسائط مبني على Qwen3.8 27B، ويضم نحو 27.8 مليار معلمة مع دعم التعامل مع النصوص والصور.
وتتمثل الفكرة الأساسية في ضغط النموذج الأصلي إلى حجم أصغر بكثير، مع الحفاظ على مستوى قريب جدًا من قدراته في مجموعة من اختبارات الأداء التي تشمل الاستدلال والرياضيات والبرمجة واتباع التعليمات وفهم الصور واستخدام الأدوات.
ويبلغ حجم Bonsai 2 27B نحو 5.9 جيجابايت، وهو ما يقل بأكثر من 9 مرات من حيث متطلبات الذاكرة مقارنة بالنموذج الكامل، ما يجعل تشغيل نموذج من فئة 27 مليار معلمة على الأجهزة الشخصية أكثر واقعية.
كيف استطاعت PrismML ضغط نموذج الذكاء الاصطناعي
تعتمد PrismML على أسلوب مختلف لتقليل حجم نماذج اللغة الكبيرة، إذ تعمل على ضغط الأوزان التي تشكل الجزء الأساسي من المعلومات التي يتعلمها النموذج أثناء التدريب. وبدلًا من تخزين هذه الأوزان بقيم تحتاج إلى مساحة وذاكرة كبيرة، تستخدم الشركة تمثيلًا أكثر كثافة لتقليل متطلبات التخزين والتشغيل.
ويعتمد Ternary Bonsai 2 27B على أوزان بقيم ثلاثية هي -1 و0 و+1، مع استخدام مقياس FP16 على مجموعات الأوزان، ما يسمح بتمثيل النموذج بكثافة أعلى ويخفض متطلبات التخزين والذاكرة.
وتؤدي هذه الطريقة إلى تقليل عدد البتات الفعلية المستخدمة لتمثيل النموذج، ليصل إلى نحو 1.76 بت لكل وزن، وهو ما يساعد على خفض حجم النموذج بصورة كبيرة مقارنة بنماذج الدقة الكاملة.
ولا تكمن أهمية التقنية في تقليل حجم النموذج فقط، وإنما في محاولة تحقيق هذا التخفيض مع الحفاظ على قدراته، فضغط النموذج بشكل كبير مع خسارة جزء كبير من دقته لن يكون مفيدًا في كثير من الاستخدامات، ولذلك تركز PrismML على الحصول على أكبر قدر ممكن من قدرات النموذج ضمن مساحة وموارد تشغيل أقل.
Bonsai 2 27B يحتفظ بـ 98.2% من الأداء
أحد أبرز الأرقام المرتبطة بالنموذج الجديد هو احتفاظه بنسبة 98.2% من الأداء الإجمالي مقارنة بالإصدار الكامل من النموذج الأساسي، ويعني ذلك أن الفارق في نتائج الاختبارات المعلنة أصبح محدودًا للغاية رغم الانخفاض الكبير في حجم النموذج ومتطلبات الذاكرة.
وتشير نتائج PrismML إلى أن الإصدار الأول من Bonsai 27B كان يحتفظ بنحو 95% من الأداء الإجمالي للنموذج الكامل، بينما ارتفعت النسبة مع Bonsai 2 27B إلى 98.2%، وفق مجموعة اختبارات تشمل الاستدلال والرياضيات والبرمجة واتباع التعليمات وفهم الصور واستخدام الأدوات.
وسجل Bonsai 2 27B نتيجة إجمالية بلغت 83.9 مقابل 85.4 للنموذج الكامل Qwen3.8 27B في مجموعة الاختبارات التي أعلنتها PrismML، وهو ما يوضح مصدر نسبة 98.2% المذكورة في نتائج الشركة.
ومن المهم هنا أن نسبة 98.2% لا تعني أن Bonsai 2 أفضل من النموذج الأصلي، وإنما تعني أن نتائجه في مجموعة الاختبارات المعلنة كانت قريبة جدًا من نتائج النموذج الكامل، كما أن نتائج اختبارات الأداء لا تعكس بالضرورة كل جوانب الاستخدام الواقعي، لذلك يظل الأداء الفعلي مرتبطًا بنوع المهمة والعتاد والبرمجيات المستخدمة لتشغيل النموذج.
تشغيل Bonsai 2 27B على الكمبيوتر والهاتف
يستهدف Bonsai 2 27B تشغيل نماذج الذكاء الاصطناعي محليًا بدل الاعتماد الكامل على مراكز البيانات والخدمات السحابية، وهو ما يسمح بتنفيذ بعض المهام مباشرة على جهاز المستخدم مع تقليل الحاجة إلى إرسال البيانات إلى خادم بعيد.
ويمكن تشغيل النموذج محليًا على أجهزة الكمبيوتر التي تعمل بأنظمة Windows وLinux وmacOS، مع الاستفادة من وحدات معالجة الرسوميات أو المعالج المركزي بحسب الجهاز وطريقة الإعداد المستخدمة.
كما تذكر PrismML أن Bonsai 2 27B يمكن تشغيله على أجهزة Apple مثل iPhone وiPad وMac باستخدام MLX، وهو ما يفتح المجال أمام تجربة نماذج كبيرة نسبيًا على أجهزة شخصية بدل حصر تشغيلها في الخوادم ومراكز البيانات.
ولا يعني دعم هذه المنصات أن النموذج سيعمل بنفس السرعة أو الكفاءة على كل جهاز، إذ تختلف النتائج باختلاف الذاكرة والمعالج ووحدة معالجة الرسوميات والبيئة البرمجية المستخدمة.
ما أهمية تشغيل الذكاء الاصطناعي محليًا
يمكن أن يوفر تشغيل نماذج الذكاء الاصطناعي على الجهاز نفسه عددًا من المزايا المهمة، خصوصًا عندما تكون المهام مرتبطة ببيانات شخصية أو عندما يحتاج المستخدم إلى الاستفادة من الذكاء الاصطناعي دون اتصال مستمر بالخدمات السحابية.
ومن أبرز المزايا المحتملة الخصوصية، إذ يمكن لبعض التطبيقات معالجة البيانات على الجهاز بدل إرسالها إلى خادم خارجي، وهناك أيضًا عامل السرعة، لأن بعض العمليات المحلية يمكن تنفيذها دون الحاجة إلى إرسال البيانات إلى السحابة وانتظار وصول النتيجة، إضافة إلى إمكانية تقليل تكاليف تشغيل الخدمات التي تعتمد على استدعاء نماذج الذكاء الاصطناعي عبر الإنترنت.
ولا يقتصر الأمر على الدردشة التقليدية، إذ يستهدف Bonsai 2 27B أيضًا مهام أكثر تقدمًا مثل تحليل المستندات والصور، والبرمجة، واستخدام الأدوات وتنفيذ المهام متعددة الخطوات، وهي استخدامات يمكن أن تستفيد من التشغيل المحلي عندما تكون السرعة أو الخصوصية من الأولويات.
كذلك يمكن أن يساعد تقليل حجم النموذج في خفض استهلاك الموارد والطاقة اللازمة لتشغيله، وهو جانب مهم مع توسع استخدام الذكاء الاصطناعي وتزايد الأحمال على مراكز البيانات.
ما الفرق بين النموذج الأصلي وBonsai 2 27B
الفرق الأساسي بين النموذجين لا يتعلق بكون Bonsai 2 نموذجًا مختلفًا بالكامل، وإنما بطريقة تمثيل الأوزان والموارد اللازمة لتشغيلها، فالنموذج الأصلي يعتمد على تمثيل أكثر دقة للأوزان، بينما يستخدم Bonsai 2 تمثيلًا منخفض البتات يهدف إلى تقليل الحجم ومتطلبات الذاكرة.
ويعتمد Bonsai 2 على الأوزان الثلاثية بقيم -1 و0 و+1، مع تقنيات إضافية للحفاظ على أكبر قدر ممكن من الأداء أثناء عملية الضغط، وبهذه الطريقة يصبح النموذج أكثر ملاءمة للتشغيل على الأجهزة المحلية مقارنة بنسخة أكبر من النموذج الأساسي.
لذلك فإن الاختلاف الأساسي بين النموذجين هو التوازن بين الدقة والحجم والذاكرة وسرعة التشغيل، وليس مجرد تغيير اسم النموذج أو إضافة إصدار جديد من دون اختلاف تقني حقيقي.
PrismML ومنافسة ضغط نماذج اللغة الكبيرة
لا تعمل PrismML وحدها في مجال ضغط نماذج الذكاء الاصطناعي، إذ تتجه شركات ومجموعات بحثية أخرى إلى تطوير تقنيات تقلل الموارد المطلوبة لتشغيل نماذج اللغة الكبيرة خارج مراكز البيانات.
ويأتي هذا الاهتمام مع ارتفاع تكلفة تشغيل النماذج الضخمة والحاجة إلى جعل تقنيات الذكاء الاصطناعي متاحة على نطاق أوسع على أجهزة المستخدمين، سواء لأغراض الخصوصية أو تقليل الاعتماد على الخدمات السحابية.
وتختلف التقنيات المستخدمة من شركة إلى أخرى، لكن الهدف المشترك يتمثل في تحقيق توازن بين حجم النموذج وسرعة التشغيل واستهلاك الطاقة والأداء.
وتراهن PrismML على الأوزان منخفضة البتات والتمثيل الثلاثي لتحقيق هذا التوازن، مع التركيز على إبقاء النماذج الكبيرة قابلة للاستخدام على الأجهزة المحلية.
هل يمكن تشغيل Bonsai 2 27B على أي جهاز
رغم انخفاض حجم النموذج بشكل كبير، لا يعني ذلك أنه يمكن تشغيل Bonsai 2 27B على أي كمبيوتر أو هاتف بسهولة، فحجم الملف ليس العامل الوحيد الذي يحدد إمكانية التشغيل، لأن النموذج يحتاج أيضًا إلى ذاكرة مناسبة وقدرة معالجة كافية، كما تختلف سرعة الاستجابة بحسب العتاد وطريقة توزيع عمليات الحساب.
ويعتمد الأداء الفعلي على حجم الذاكرة المتاحة وسرعة المعالج ودعم وحدة معالجة الرسوميات وطريقة تشغيل النموذج، لذلك قد يكون الجهاز قادرًا على فتح النموذج وتشغيله، لكنه لا يقدم بالضرورة سرعة استجابة مناسبة للمهام الطويلة أو الاستخدام المستمر.
وبالنسبة للهواتف الذكية فإن الإمكانية تصبح أكثر ارتباطًا بمواصفات الجهاز والبيئة البرمجية المستخدمة، لذلك من الأدق اعتبار Bonsai 2 27B خطوة نحو تشغيل نماذج أكبر محليًا على الأجهزة الشخصية، وليس إعلانًا بأن كل هاتف أصبح قادرًا على تشغيل نموذج من فئة 27 مليار معلمة بنفس الكفاءة.
تحميل وتشغيل Bonsai 2 27B
يمكن تحميل وتشغيل Bonsai 2 27B من خلال مشروع PrismML الرسمي على GitHub، حيث يتوفر النموذج بصيغة GGUF للعمل مع إصدار llama.cpp المخصص للمشروع، إلى جانب نسخة MLX 2-bit لأجهزة Apple، كما توفر PrismML ملفات النموذج الرسمية على Hugging Face، مع إصدارات مخصصة لتشغيل النموذج على العتاد والمنصات المختلفة.
ملاحظة: تشغيل Bonsai 2 27B لا يعتمد فقط على تنزيل ملف النموذج، إذ يحتاج إلى بيئة التشغيل المناسبة ونسخة PrismML المخصصة من llama.cpp لبعض صيغ GGUF، لذلك تختلف طريقة الإعداد بحسب نظام التشغيل والعتاد المستخدم.
كما تتوفر ملفات النموذج الرسمية على Hugging Face، وتشمل إصدارات GGUF وMLX، بينما تختلف الأحجام وفق صيغة النموذج وطريقة التشغيل المستخدمة على الجهاز.
مستقبل نماذج الذكاء الاصطناعي المضغوطة
يمثل ضغط نماذج الذكاء الاصطناعي أحد الاتجاهات المهمة في تطوير الجيل القادم من التطبيقات، خصوصًا مع انتقال جزء من عمليات الذكاء الاصطناعي من مراكز البيانات إلى الأجهزة الشخصية.
وكلما أصبحت النماذج أكثر كفاءة وأقل احتياجًا للذاكرة، زادت فرص دمج قدرات متقدمة داخل الهواتف وأجهزة الكمبيوتر والتطبيقات دون الاعتماد الكامل على الاتصال بالخوادم.
وتخطط PrismML لمواصلة تطوير هذه التقنية وتطبيقها على نماذج أكبر في المستقبل، مع محاولة الحفاظ على مستوى الأداء أثناء تقليل متطلبات التشغيل.
وإذا استمر هذا الاتجاه، فقد تصبح النماذج الكبيرة المضغوطة جزءًا مهمًا من مستقبل الذكاء الاصطناعي المحلي، بحيث يحصل المستخدم على قدرات متقدمة مباشرة من جهازه بدل الاعتماد على السحابة في كل مهمة.
وتوضح نتائج Bonsai 2 27B التي أعلنتها PrismML أن تقنيات ضغط النماذج يمكن أن تجعل تشغيل قدرات متقدمة على الأجهزة الشخصية أكثر واقعية، لكن القيمة العملية لهذه النماذج ستظل مرتبطة بالعتاد المستخدم وطريقة التشغيل ونوع المهام التي يحتاج إليها المستخدم.
المصدر: PrismML
