ألغت "أوبن إيه آي" خطط إطلاق نموذج الذكاء الاصطناعي GPT-6.1 Astra، بعدما كشفت اختبارات داخلية مشكلات تتعلق بالسلامة ومواءمة سلوكه مع تعليمات المستخدمين، في قرار جاء عشية مؤتمرها السنوي للمطورين DevDay في سان فرانسيسكو.

وبحسب تقرير "وول ستريت جورنال"، الذي كشف القرار، كان النموذج يستهدف الظهور في تشرين الأول/أكتوبر، مع قدرات تفوق نماذج الشركة السابقة في تنفيذ مهام معقدة من البداية إلى النهاية من دون مساعدة بشرية، إلى جانب قدراته في الكتابة. وأكدت "رويترز" لاحقاً أن الشركة ألغت الإصدار المخطط له في تشرين الأول/أكتوبر.

لماذا ألغت "أوبن إيه آي" إطلاق Astra؟

قالت ساتشي جاين، رئيسة أنظمة السلامة في "أوبن إيه آي"، لـ"وول ستريت جورنال" إن GPT-6.1 Astra أظهر تراجعاً في مجالين مقارنة بسلفه GPT-6 Astra.

المشكلة الأولى ارتبطت بالمواءمة، أي بمدى التزام النموذج بما يريده البشر منه. وأظهرت الاختبارات مستويات أعلى من الخداع، إذ لم يكن النموذج دائماً دقيقاً في إبلاغ المستخدمين بالإجراءات التي نفذها أو لم ينفذها.

المشكلة الثانية تعلقت بما تسمّيه الشركة "تفويض النطاق". كان النموذج يمضي أحياناً في تنفيذ المهمة من دون طلب إذن المستخدم، كما حاول اللجوء إلى أدوات وخدمات خارجية في حالات قد يكون استخدامها غير آمن.

ورغم تحسن Astra في جوانب مثل الحد من "كسل النموذج"، قالت جاين إنه لم يصل إلى معايير الشركة المطلوبة في السلامة والمواءمة.

حوادث أمنية ترفع مستوى الحذر

يأتي القرار بينما تحقق "أوبن إيه آي" في حوادث أمنية مرتبطة بوكلاء الذكاء الاصطناعي. ووفق "وول ستريت جورنال"، انتهى الأمر بمئات الوكلاء الداخليين، خلال اختبار للأمن السيبراني هذا الصيف، إلى اختراق شركة Hugging Face.

كما اكتشفت جهات بينها الحكومة الأسترالية والأمم المتحدة استخدام وكلاء للشركة تقنيات مشابهة، لكن بصورة أقلّ اتساعاً، للوصول إلى مواقعها. وردت "أوبن إيه آي" بإدخال نظام مراقبة جديد لاكتشاف سوء سلوك الوكلاء بصورة أسرع، وتشديد الضوابط الأمنية المستخدمة خلال اختبار أنظمتها.

صورة تعبيرية تظهر شعار شركة أوبن إيه آي وإسم النموذج

القرار يسبق كلمة سام ألتمان

يتزامن إلغاء GPT-6.1 Astra مع انعقاد مؤتمر OpenAI DevDay اليوم، 29 أيلول/سبتمبر، في سان فرانسيسكو. ووفق البرنامج الرسمي لـ"أوبن إيه آي"، لا تزال الكلمة الافتتاحية مقررة عند الساعة العاشرة صباحاً بتوقيت المحيط الهادئ بمشاركة الرئيس التنفيذي سام ألتمان.

وأكدت "أسوشيتد برس" أيضاً أنه من المقرر أن يخاطب سام ألتمان المطورين خلال المؤتمر السنوي للشركة.

لكن البرنامج الرسمي المنشور لمؤتمر DevDay لا يشير إلى أن GPT-6.1 Astra كان مقرراً الكشف عنه خلال المؤتمر. المؤكد - وفق "وول ستريت جورنال" و"رويترز" - أن إطلاق النموذج كان مستهدفاً في تشرين الأول/أكتوبر، وأن قرار إلغائه جاء قبيل مؤتمر المطورين.

في المقابل، لا تعتزم "أوبن إيه آي" التخلّي كلياً عن الأساس التقني للنموذج، إذ تخطط لاستخدامه في جولات إضافية من التعلم المعزز، بهدف تطوير أجيال مستقبلية من نماذج GPT-6.