أوبن إيه آي تعترف بتحدي ‘الهلوسة’ في تطوير GPT 5

أعلنت شركة أوبن إيه آي أن النموذج الأحدث من الذكاء الاصطناعي، المعروف بـ GPT-5، لا يزال يعاني من ظاهرة تُعرف بـ “الهلوسة”، وهي إنتاج إجابات تبدو مقنعة لكنها غير دقيقة، ورغم أن معدل هذه الأخطاء انخفض مقارنة بالإصدارات السابقة، إلا أن الشركة تعتبرها جزءًا عميقًا من طريقة عمل النماذج اللغوية.

تعود أصول هذه المشكلة إلى طرق تدريب الأنظمة التي تعتمد على توقع الكلمة التالية بالنص، ورغم أن هذه الاستراتيجية تبرز كفاءتها في جوانب اللغة، مثل القواعد والأسلوب، إلا أنها تتعثر عند التعامل مع المعلومات الدقيقة أو النادرة، مما يؤدي إلى تقديم إجابات قد تكون واثقة لكن غير صحيحة في الواقع.

تشير نتائج الاختبارات الداخلية إلى أن تحسين دقة النموذج لا يعني تقليل الأخطاء، فقد وُجد أن بعض النماذج السابقة سجلت نسباً أعلى من الإجابات الصحيحة، بينما ارتكبت في الوقت نفسه نسبًا ملحوظة من الأخطاء، أما GPT-5، فقد قدم مستوى أقل من الدقة الإجمالية لكنه أظهر قدرة أفضل على تجنب التخمين في حالات عدم المعرفة، مما جعله أكثر حذرًا وأقل عرضة للهلوسة.

تعتبر أوبن إيه آي أن أحد أسباب هذه المشكلة يتعلق بأساليب تقييم الأداء في السوق، حيث تركز معظم المؤشرات فقط على نسبة الإجابات الصحيحة، مما يتجاهل المخاطر المرتبطة بالإجابات الخاطئة التي تُعرض كحقائق مؤكدة، وبالتالي تدعو أوبن إيه آي إلى إعادة صياغة المعايير بحيث توفر للنماذج فرصة للاعتراف بعدم المعرفة بدلاً من الضغط عليها لتقديم إجابة خاطئة بثقة.

بالنسبة للمستخدمين، الرسالة الأساسية هي أن GPT-5 يمثل خطوة إيجابية نحو تقليل ظاهرة “الهلوسة”، رغم أنه لم يتخلص منها تمامًا، ويظل التحدي الحقيقي هو تحسين مناهج التدريب والتقييم لضمان نماذج أكثر موثوقية، والتقليل من الفجوة بين ما يبدو صحيحًا وما هو صحيح فعلاً.