أعلنت شركة «أوبن إيه آي» تعليق تدريب نماذجها الأكثر تطورًا في مجال الذكاء الاصطناعي مؤقتًا، في ظل تزايد المخاوف المتعلقة بسلامة وأمن النماذج المتقدمة، وقدرة الشركات المطورة على مراقبة سلوكها والسيطرة على المخاطر المرتبطة بها.

وأكدت الشركة أنها لن تستأنف عمليات تطوير هذه النماذج إلا بعد التأكد من توفير إجراءات أمنية إضافية، في خطوة تعكس تصاعد الاهتمام بقضايا السلامة مع التطور السريع لقدرات أنظمة الذكاء الاصطناعي.

تحقيقات في آلاف الحوادث

وبحسب المعلومات المتداولة، يجري خبراء من «أوبن إيه آي» وشركة «أنثروبيك» تحقيقات في عشرات الآلاف من الحوادث التي وقعت خلال الأشهر الأخيرة، سواء أثناء الاختبارات أو في ظروف استخدام حقيقية.

وتشمل هذه الوقائع حالات مرتبطة بسلوك النماذج ومحاولات تجاوز بعض الضوابط الأمنية، فيما لم يتم الكشف علنًا عن تفاصيل عدد كبير من الحوادث التي تخضع للتحقيق.

وتشير المعطيات الأولية إلى أن طبيعة بعض هذه الوقائع قد تكون أكثر تعقيدًا مما هو معروف لدى الجمهور حتى الآن، في ظل استمرار الشركات والباحثين في تحليل سلوك النماذج المتقدمة.

مخاوف بشأن السيطرة على النماذج

وتأتي هذه التطورات وسط نقاش متزايد داخل قطاع الذكاء الاصطناعي بشأن مدى قدرة الشركات على إحكام السيطرة على النماذج الأكثر تقدمًا، خصوصًا مع ارتفاع مستوى استقلاليتها وقدرتها على تنفيذ مهام معقدة واستخدام أدوات وموارد خارجية.

وأظهرت نتائج أولية للتحقيقات أن السيطرة الكاملة على سلوك النماذج المتقدمة لا تزال تمثل تحديًا تقنيًا، وهو ما يدفع شركات الذكاء الاصطناعي إلى تطوير أنظمة إضافية للمراقبة والاختبار والحماية قبل توسيع قدرات هذه النماذج.

السلامة تفرض نفسها على سباق تطوير الذكاء الاصطناعي

ويعكس قرار «أوبن إيه آي» تعليق التدريب مؤقتًا تزايد أهمية إجراءات السلامة بالتوازي مع السباق العالمي لتطوير نماذج أكثر قدرة وكفاءة.

وتسعى شركات الذكاء الاصطناعي إلى تحقيق توازن بين سرعة تطوير النماذج الجديدة وبين ضمان خضوعها لاختبارات أمنية كافية، خاصة مع ظهور سلوكيات غير متوقعة خلال مراحل التدريب والتقييم.

ومن المنتظر أن يرتبط استئناف تدريب النماذج الأكثر تطورًا بمدى نجاح إجراءات الحماية الإضافية في معالجة المخاطر التي تكشف عنها الاختبارات والتحقيقات الجارية.

للمزيد تابع

خليجيون نيوز على: فيسبوك | إكس | يوتيوب | إنستغرام | تيك توك