أثار أداء Manus المتميز جدلاً حول مسارات تطوير الذكاء الاصطناعي

مؤخراً، حققت Manus إنجازاً بارزاً في اختبار GAIA، حيث تفوقت أداؤها على نماذج اللغة الكبيرة من نفس المستوى. أظهرت Manus قدرتها على إتمام المهام المعقدة بشكل مستقل، مثل المفاوضات التجارية عبر الوطنية، والتي تشمل تحليل شروط العقد، ووضع الاستراتيجيات، وتوليد الحلول في عدة مراحل. مقارنةً بالأنظمة التقليدية، تكمن ميزة Manus في تفكيك الأهداف الديناميكية، والاستدلال عبر الأنماط المتعددة، وقدرتها على التعلم المعزز بالذاكرة. يمكنها تقسيم المهام المعقدة إلى مئات من المهام الفرعية القابلة للتنفيذ، في حين تتعامل مع أنواع متعددة من البيانات، ومن خلال التعلم المعزز، تقوم بتحسين كفاءة اتخاذ القرار وتقليل معدل الأخطاء بشكل مستمر.

أثارت إنجازات Manus مرة أخرى مناقشات داخل الصناعة حول مسارات تطوير الذكاء الاصطناعي: هل سيكون المستقبل نحو الذكاء الاصطناعي العام (AGI) الذي يسيطر على كل شيء، أم نحو أنظمة متعددة الوكلاء (MAS) التي تتعاون في القيادة؟

تتضمن فلسفة تصميم Manus احتمالين.

1. مسار AGI: من خلال تحسين مستوى الذكاء الفردي باستمرار، مما يجعله يقترب من القدرة على اتخاذ القرار الشامل للإنسان.

2. مسار MAS: كـ منسق رئيسي، يقود آلاف الوكلاء المتخصصين للعمل معًا.

يبدو أن هناك اختلافات في المسارات التكنولوجية المختلفة، ولكن في الواقع تعكس هذه الاختلافات التناقض العميق في كيفية تحقيق التوازن بين الكفاءة والأمان في تطور الذكاء الاصطناعي. كلما اقتربت الذكاء الفردي من الذكاء العام الاصطناعي، زادت مخاطر عدم الشفافية في عملية اتخاذ القرار؛ بينما يمكن أن يؤدي التعاون بين الوكلاء المتعددين إلى توزيع المخاطر، إلا أنه قد يفوت اللحظات الحاسمة في اتخاذ القرار بسبب تأخير الاتصالات.

تقدم Manus يبرز أيضًا المخاطر الكامنة في تطوير الذكاء الاصطناعي:

1. مسائل خصوصية البيانات: في السيناريوهات الطبية، هناك حاجة للوصول إلى بيانات المرضى الحساسة؛ في المفاوضات المالية، قد تتعلق بمعلومات غير معلنة عن الشركات.

2. تحيز الخوارزمية: قد تُقدم اقتراحات أجور غير عادلة لمجموعات معينة خلال مفاوضات التوظيف؛ أثناء مراجعة العقود القانونية، قد تكون هناك نسبة عالية من الأخطاء في الحكم على شروط الصناعات الناشئة.

3. الهجمات العدائية: قد يقوم القراصنة بزرع إشارات معينة لتعطيل حكم نظام الذكاء الاصطناعي.

تسلط هذه التحديات الضوء على واقع صارخ: كلما زادت ذكاء أنظمة الذكاء الاصطناعي، زادت مساحة الهجوم المحتملة.

لمواجهة هذه التحديات، تستكشف الصناعة استراتيجيات أمان متعددة:

1. نموذج الأمان صفر ثقة: يتطلب التحقق الصارم من الهوية والتفويض لكل طلب وصول.

2. الهوية اللامركزية (DID): تحقيق التعرف على الهوية القابلة للتحقق والدائمة، دون الحاجة للاعتماد على سجل مركزي.

3. التشفير المتجانس بالكامل (FHE): يسمح بإجراء حسابات على البيانات في حالة مشفرة، مما يحمي خصوصية البيانات.

يعتبر FHE التقنية الرئيسية لحل مشاكل الأمان في عصر الذكاء الاصطناعي. يمكن أن تلعب دورًا في الجوانب التالية:

• على مستوى البيانات: يتم معالجة جميع المعلومات التي يدخلها المستخدم في حالة مشفرة، حتى أن نظام الذكاء الاصطناعي نفسه لا يمكنه فك تشفير البيانات الأصلية.

• على مستوى الخوارزمية: تحقيق "تدريب نموذج مشفر" من خلال FHE، لضمان عدم تعرض عملية اتخاذ القرار للذكاء الاصطناعي للتجسس.

• المستوى التعاوني: تتواصل الوكلاء المتعددون باستخدام التشفير بالعتبة، لمنع فشل نقطة واحدة من التسبب في تسرب البيانات العالمية.

على الرغم من أن تطور تقنيات أمان Web3 قد لا يكون له علاقة مباشرة بالمستخدمين العاديين، إلا أنه بالغ الأهمية للصحة العامة للنظام البيئي. في ظل التطور السريع للذكاء الاصطناعي اليوم، فإن أهمية تقنيات الأمان لا تحتاج إلى تفسير.

مع اقتراب تقنية الذكاء الاصطناعي من مستوى الذكاء البشري، نحتاج إلى أنظمة دفاعية أكثر تطوراً. لا تعمل تقنيات الأمان مثل FHE على حل المشاكل الحالية فحسب، بل تمهد الطريق أيضاً لعصر الذكاء الاصطناعي الأقوى في المستقبل. في الطريق نحو الذكاء الاصطناعي العام، لم تعد هذه التقنيات الأمنية خياراً، بل أصبحت ضرورة للبقاء.