هجوم إلكتروني يستغل وكلاء OpenAI يخترق مواقع حكومية أسترالية.. وهذه التفاصيل

هذا الموضوع هجوم إلكتروني يستغل وكلاء OpenAI يخترق مواقع حكومية أسترالية.. وهذه التفاصيل ظهر على التقنية بلا حدود.

كشفت OpenAI عن تعرض عدة مواقع حكومية أسترالية لهجمات نفذها نموذج تجريبي للذكاء الاصطناعي، وذلك خلال شهر يونيو الماضي، قبل أن تظهر تفاصيل الواقعة إلى العلن مؤخرًا.

واستهدف النموذج خلال الاختبارات عددًا من المواقع الحكومية، وتمكن في بعض الحالات من الوصول إلى بيانات وملفات داخلية وتنفيذ أوامر، رغم أن OpenAI لم تكن قد سمحت له بالوصول إلى هذه المعلومات.

وشملت المواقع المتأثرة Services Australia، حيث تمكن النموذج من الوصول إلى الموقع وتشغيل أوامر واسترجاع ملفات داخلية، لكن OpenAI أكدت عدم الوصول إلى سجلات المرضى.

كما وصل النموذج إلى مواقع تابعة لمكتب إحصاءات وأبحاث الجريمة في نيو ساوث ويلز، لكنه لم يطلع على سجلات الجرائم الخاصة بالأفراد.

وفي وزارة الصحة بولاية فيكتوريا، عثر أحد الوكلاء على مفتاح وصول واستخدمه لاسترجاع إحصاءات مجمعة من استطلاعات، دون الوصول إلى السجلات الطبية الفردية أو إجابات الاستطلاعات التي تكشف هوية أصحابها.

ووصلت الهجمات كذلك إلى موقع المعهد الأسترالي للصحة والرعاية، حيث استرجع الوكلاء إحصاءات مجمعة من استطلاعات، دون قراءة السجلات الطبية الفردية.

وتعود هذه الحوادث إلى نموذج تجريبي كانت OpenAI تختبره ضمن أبحاثها على وكلاء الذكاء الاصطناعي. وخلال الاختبارات، كُلف النموذج بمهام بحثية، مثل معرفة مقدار إنفاق حكومة ولاية فيكتوريا على أدوية الأمراض الجلدية للفرد الواحد.

وعندما لم يجد النموذج البيانات المطلوبة بسهولة، بدأ بالبحث داخل المواقع الحكومية للوصول إلى معلومات غير متاحة للعامة، متجاوزًا بذلك الحدود التي وضعتها OpenAI للاختبار.

ولم تكن الشركة قد سمحت للنموذج بتنفيذ هذه العمليات، لكنها لم تطبق عليه في ذلك الوقت إجراءات الحماية المعتادة الموجودة في نماذجها المتاحة للعامة.

وبعد اكتشاف عمليات الوصول غير المصرح بها، فتحت OpenAI تحقيقًا داخليًا وأبلغت الجهات الحكومية المتضررة بالواقعة.

وفي أعقاب ذلك، بدأت الشركة بتعزيز إجراءات الحماية الخاصة بنماذج الأبحاث، إذ ستمنع النماذج التجريبية مستقبلًا من الوصول المباشر إلى الإنترنت، وستعتمد بدلًا من ذلك على محتوى مخزن مؤقتًا، إلى جانب فرض قيود إضافية على الوصول إلى الشبكات وتشديد عمليات المراقبة.

وكانت OpenAI قد بدأت تطبيق بعض هذه الإجراءات بعد حادثة سابقة تتعلق بمنصة Hugging Face، لكنها لم تكن موجودة في الوقت المناسب لمنع الهجمات التي استهدفت المواقع الأسترالية.

وفي أستراليا تحديدًا، تعمل OpenAI حاليًا مع الجهات الحكومية التي تدير المواقع المتضررة، كما توفر لها دعمًا مخصصًا لتعزيز إجراءات الحماية.

وتعتزم الشركة أيضًا استخدام جزء من صندوق Daybreak for Frontline Defenders، الذي تبلغ قيمته مليار دولار، لدعم الدفاع السيبراني للجهات الحكومية.

كما تعمل OpenAI على إنشاء فريق عمل خاص بأستراليا لتحسين التواصل والتنسيق مع الجهات الحكومية في حال وقوع حوادث مماثلة مستقبلًا.

ومن المقرر أن يمثل Jason Kwon، كبير مسؤولي الاستراتيجية في OpenAI، أمام لجنة تابعة لمجلس الشيوخ الأسترالي في سيدني الأسبوع المقبل لمناقشة الواقعة.

المصدر

هذا الموضوع هجوم إلكتروني يستغل وكلاء OpenAI يخترق مواقع حكومية أسترالية.. وهذه التفاصيل ظهر على التقنية بلا حدود.

from التقنية بلا حدود https://ift.tt/ApTm8Lk
via IFTTT