"أوبن إيه آى" تعتذر عن اختراق موقع حكومي أسترالي وتتعهد بإعادة بناء الثقة

اعتذرت شركة أوبن إيه آي عن اختراق أحد المواقع الحكومية الأسترالية بواسطة وكيل ذكاء اصطناعي تجريبي، متعهدة بتمويل إجراءات لتعزيز الدفاعات السيبرانية وإنشاء فريق استجابة محلي، في وقت يتزايد فيه التدقيق بشأن الواقعة التي أثارت اهتماما واسعا.

الشركة تتعهد بتمويل الدفاعات السيبرانية 

وقالت الشركة في منشور على مدونتها، بعنوان "كيف سنقدم أداء أفضل لأستراليا"، إن استجابتها للحادث لم تكن على المستوى المطلوب، وتعهدت بتحمل المسؤولية والعمل على "إعادة بناء الثقة مع الشعب الأسترالي".

ووقعت عملية الاختراق في يونيو، لكنها لم تعلن إلا الأسبوع الماضي، وتمثل، بحسب المعلومات المتاحة، أول واقعة معروفة يتمكن فيها وكيل ذكاء اصطناعي من اختراق موقع حكومي.

وأثارت الواقعة مخاوف في أستراليا، كما تعرضت الشركة لانتقادات علنية من رئيس الوزراء أنتوني ألبانيزي، الذي وصف ما حدث بأنه "غير مقبول"، وانتقد تأخر الشركة في إبلاغ الحكومة بالواقعة.

وقالت أوبن إيه آي إن نماذجها تمكنت خلال تدريب وتقييم داخلي في يونيو من الوصول إلى مواقع حكومية أسترالية بطرق لم تكن مصرحا لها بها، مضيفة أنها كان ينبغي أن تتعامل مع الواقعة بصورة أفضل.

وأوضحت الشركة أن نموذجا تجريبيا للذكاء الاصطناعي اخترق خدمة Services Australia Medicare Statistics Reporting Service، وهي بوابة بيانات مرتبطة بنظام الرعاية الصحية الشامل في أستراليا، وذلك خلال نشاط تدريب داخلي.

وبحسب الشركة، اكتشف نموذج أوبن إيه آي طريقة للوصول إلى الخدمة من دون صلاحية عامة، وتمكن من تنفيذ أوامر، واسترجاع ملفات داخلية وبيانات اعتماد وإحصاءات مجمعة، إلى جانب إنشاء ملفات.

لكن أوبن إيه آي قالت إن مراجعتها حتى الآن لم تجد أي دليل على الوصول إلى سجلات طبية من خلال البوابة.

أول سابقة لاختراق وكيل ذكاء اصطناعي لبوابة حكومية

وأضافت أن نشاط وكلاء الذكاء الاصطناعي الذي أثر في ثلاثة مواقع أخرى تابعة لجهات حكومية أسترالية لم يؤد أيضا إلى الوصول إلى سجلات حساسة، وفقا لمراجعة الشركة.

وتعتزم أوبن إيه آي تقديم دعم مخصص للجهات الحكومية المتضررة، إلى جانب تمويل تعزيز الدفاعات السيبرانية للحكومة وقطاع الأعمال من خلال صندوقها العالمي البالغ مليار دولار.

كما ستنشئ الشركة فريق عمل في أستراليا لإعداد توصيات تستند إلى الدروس المستفادة من هذه الوقائع، بينما من المقرر أن يمثل جيسون كوون، كبير مسؤولي الاستراتيجية في أوبن إيه آي، أمام لجنة بمجلس الشيوخ الأسترالي معنية بالذكاء الاصطناعي في سيدني في 6 أكتوبر.

وأعلنت الحكومة الأسترالية بدورها عن مراجعة عاجلة للواقعة، تشمل بحث الالتزامات المحتملة لشركات الذكاء الاصطناعي فيما يتعلق بالإبلاغ والإخطار عن مثل هذه الحوادث، ومدى كفاية القوانين الحالية للتعامل مع الاختراقات من هذا النوع.

وفي تطور منفصل، ألغت أوبن إيه آي إطلاق نموذج الذكاء الاصطناعي الجديد GPT-6.1 Astra بعد أن أظهرت الاختبارات الداخلية أن النظام لم يستوف معايير السلامة التي حددتها الشركة.