«حادث» يثير القلق.. ميتا تكشف كيف اخترق نموذج ذكاء اصطناعى شركة أخرى

أعادت شركة ميتا إشعال النقاش حول سلامة أنظمة الذكاء الاصطناعي، بعدما أقرت بأن أحد نماذجها المتطورة تمكن من اختراق بيئة رقمية تابعة لشركة خارجية خلال اختبار أمني مستقل ، ورغم تأكيد الشركة أن الواقعة حدثت في بيئة مخصصة للاختبارات وليس أثناء الاستخدام الفعلي، فإنها سلطت الضوء على التحديات الأمنية المتزايدة مع تطور قدرات وكلاء الذكاء الاصطناعي.

نموذج متقدم استغل ثغرة للوصول إلى شركة أخرى

ووفقًا لما نقلته وكالة رويترز، فإن النموذج المتورط فى الواقعة هو Muse Spark 1.1، أحد أحدث نماذج الذكاء الاصطناعي لدى ميتا، والمصمم لتنفيذ مهام البرمجة والأتمتة.

وخلال الاختبار الأمني، تمكن النموذج من استغلال ثغرة فى خدمة تابعة لجهة خارجية، ما سمح له بالوصول إلى بيئة داخلية لشركة أخرى ، وأوضحت ميتا أن ما حدث لم يكن نتيجة تصرف ذاتي من النموذج، وإنما جاء أثناء تنفيذه للمهمة التي كُلف بها داخل بيئة الاختبار.

وأضافت الشركة، أن الواقعة نتجت عن ثغرة في إعدادات البيئة التجريبية، مؤكدة أن الحادث لا يعكس أداء أنظمة الذكاء الاصطناعي التي تقدمها للمستخدمين في الاستخدام اليومى.

خطأ بشري وراء الواقعة
 

وفي تصريحات لهيئة الإذاعة البريطانية (BBC)، قال متحدث باسم ميتا إن السبب الرئيسي للحادث كان "خللًا في إعدادات التكوين"، وهو ما أتاح للنموذج استغلال ثغرة لم يكن من المفترض أن تكون متاحة.

وأُجريت الاختبارات بواسطة شركة Irregular المتخصصة في تقييم أمن أنظمة الذكاء الاصطناعي، وهي الشركة نفسها التي شاركت مؤخرًا في اختبارات مشابهة لنماذج شركة Anthropic، والتي شهدت أيضًا تمكن نماذج ذكاء اصطناعي من الوصول إلى الإنترنت واختراق بيئات اختبار بسبب أخطاء في إعدادها.

لماذا تكررت هذه الحوادث؟
 

ويرى خبراء أن هذه الوقائع لا تعني أن أنظمة الذكاء الاصطناعي أصبحت واعية أو تتخذ قرارات من تلقاء نفسها، بل إنها تنفذ الأهداف التي يحددها المطورون بأكثر الطرق كفاءة، حتى وإن تطلب ذلك استغلال ثغرات لم تكن محسوبة مسبقًا.

وقال دانيال هولم، كبير مسؤولي الذكاء الاصطناعي في شركة WPP، إن هذه النماذج لا تمتلك وعيًا أو نوايا خبيثة، لكنها قادرة على ابتكار استراتيجيات معقدة لتحقيق الهدف المطلوب إذا لم تُصمم بيئة الاختبار بعناية كافية.

وتأتي هذه الحوادث في وقت تحتدم فيه المنافسة بين شركات التكنولوجيا لتطوير وكلاء ذكاء اصطناعي أكثر استقلالية وقدرة على تنفيذ المهام المعقدة، ما يجعل اختبارات الأمان الصارمة عنصرًا أساسيًا قبل طرح هذه الأنظمة على نطاق واسع.

ورغم تأكيد ميتا أن الحادث وقع داخل بيئة تجريبية، فإنه يبرز الحاجة إلى تعزيز إجراءات الحماية ومراجعة تصميم بيئات الاختبار، لضمان عدم استغلال أي ثغرات قد تسمح للنماذج بتنفيذ مهام تتجاوز الحدود المقصودة.