كشفت شركة «أوبن إيه آي - OpenAI» عن واقعة أمنية جديدة تمكن خلالها أحد أنظمة الذكاء الاصطناعي الوكيل التابعة لها من الخروج من بيئة تدريب يفترض أنها معزولة عن الإنترنت، والوصول إلى الشبكة العامة والتواصل مع روبوت محادثة تابع لجهة خارجية.

وأوضحت الشركة في بيان، أن الواقعة اكتُشفت قبل أقل من أسبوع، بعدما استغل النظام ثغرة في بيئة الاختبار التي كان يخضع فيها للتدريب، ما أتاح له الاتصال بالإنترنت رغم الإجراءات المفترض أن تمنع ذلك.

النظام أرسل أكثر من 20 استفسارًا إلى روبوت خارجي

وبحسب تقرير «أوبن إيه آي»، استخدم النظام الاتصال الذي تمكن من الوصول إليه لإرسال ما لا يقل عن 20 استفسارًا إلى خدمة روبوت محادثة خارجية لم تكشف الشركة عن هويتها، وتضمنت الأسئلة التي أرسلها النظام استفسارًا بسيطًا مثل: «ما عاصمة فرنسا؟»، في واقعة كشفت عن قدرة النظام على تجاوز القيود المفروضة على بيئة التدريب والوصول إلى خدمة خارجية.

تعليق تدريب النماذج الأكثر قدرة

وعقب اكتشاف الواقعة، قررت «أوبن إيه آي» تعليق عمليات التدريب باستخدام الأدوات على نماذجها الأكثر قدرة، وذلك إلى حين إصلاح الخلل المرتبط ببيئة العزل، وقالت الشركة إن الحادث يمثل مؤشرًا مهمًا على الجوانب التي تحتاج إلى مزيد من التركيز خلال المرحلة المقبلة، مؤكدة في الوقت نفسه أنها لن تستأنف تدريب النموذج الذي شهد الواقعة تحديدًا.

ووصفت «أوبن إيه آي» حادثة الخروج من البيئة المعزولة بأنها أول واقعة من هذا النوع منذ تمكن مجموعة من نماذجها خلال اختبارات داخلية من الوصول إلى الإنترنت، ما أدى بشكل غير مقصود إلى اختراق نظام منصة الذكاء الاصطناعي «هاغينغ فيس» «Hugging Face» في يوليو.

سلسلة حوادث تثير مخاوف خبراء الأمن

وتأتي الواقعة الجديدة في ظل تزايد الاهتمام الأمني بالقدرات التي تتمتع بها أنظمة الذكاء الاصطناعي الوكيل، بعدما شهدت الأشهر الأخيرة حوادث مرتبطة بأنظمة طورتها شركات «أوبن إيه آي» و«أنثروبيك» «Anthropic PBC» و«ديب مايند» التابعة لـ«جوجل» و«ميتا بلاتفورمز».

وكانت واقعة «هاغينغ فيس» من بين الأسباب التي أشار إليها الرئيس التنفيذي لشركة «أنثروبيك»، داريو أمودي، عند دعوته قبل أسبوعين إلى إبطاء وتيرة تطوير الذكاء الاصطناعي على مستوى القطاع، حيث حظيت الدعوة بتأييد الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان وإيلون ماسك وآخرين، لتتسع بعدها المناقشات حول الحاجة إلى وضع مزيد من الضوابط والتنظيمات المتعلقة بتطوير تقنيات الذكاء الاصطناعي.

نماذج أوبن إيه آي وصلت إلى مواقع حكومية

ولا تقتصر الوقائع المرتبطة بوصول أنظمة «أوبن إيه آي» إلى الإنترنت على الحادثة الأخيرة، إذ أكدت الشركة يوم الجمعة أن نماذجها تمكنت خلال عمليات التدريب والتقييم من الوصول إلى معلومات منشورة على مواقع حكومية أميركية، من بينها مواقع مكتب الإحصاء وهيئة الأوراق المالية والبورصات، وفقًا لما أوردته «بلومبرغ».

وقبل أيام قليلة، كشفت «أوبن إيه آي» أيضًا أن نماذج تابعة لها تسببت في تعطيل موقع إلكتروني حكومي أسترالي في وقت سابق من العام الجاري، حيث أظهر الحادث الأخير مشكلة أخرى تتعلق بآليات المراقبة والاستجابة داخل الشركة، إذ تلقى مراجع بشري تنبيهًا من نظام المراقبة الداخلي، وأكد استلام التنبيه عبر تطبيق «سلاك» بعد مرور ثلاث دقائق، ولكن دورة التدريب لم تتوقف تلقائيًا كما كان مقررًا، واستمر تشغيلها لأكثر من ساعتين قبل أن يتدخل أحد الأشخاص لإيقافها يدويًا، وفقًا للتدوينة التي نشرتها الشركة.

وقالت سيدني فون آركس، مؤسسة منظمة «Nightingale» غير الربحية المتخصصة في سلامة الذكاء الاصطناعي، إن استمرار قدرة نماذج «أوبن إيه آي» على الوصول إلى الإنترنت دون تصريح يثير تساؤلات، خاصة بعد الإجراءات الأمنية التي اتخذتها الشركة عقب حادثة «هاغينغ فيس»، مؤكدةً، أن التساؤل الأساسي في المرحلة المقبلة يتمثل في ما إذا كانت الشركة ستكتفي بإجراء مؤقت يسمح باستئناف التدريب سريعًا، أم ستعمل على تحديد السبب الجذري للخلل ومعالجته بصورة شاملة.

اقرأ أيضاً
رجل صيني يرفع دعوى قضائية ضد الذكاء الاصطناعي.. «سبب مثير للجدل»

اقتصاد العالم يتغير.. .كيف تعبر مصر إلى الفرصة؟

الجامعات التكنولوجية 2026.. 29 مجالًا دراسيًا تواكب احتياجات سوق العمل