دراسة جديدة توضح كيف أن سلوك المستخدمين يسهم بشكل كبير في ظهور هلوسات الذكاء الاصطناعي

تُعتبر تقنيات الذكاء الاصطناعي من الأدوات الفعّالة والمفيدة في شتى المجالات، ومع ذلك تظل تعاني من مشكلة ما يُعرف بـ”الهلوسات”، وهي إنتاج معلومات أو اقتباسات غير واقعية بالكامل.

أسباب هلوسات الذكاء الاصطناعي

ذكرت دراسة قام بها فريق من علماء OpenAI أن أحد الأسباب الرئيسية لهذه الظاهرة هو آلية المكافأة التي تحفز الذكاء الاصطناعي لتخمين الإجابات، لكن دراسة حديثة نُشرت في الثالث من أكتوبر على موقع arXiv.org تشير إلى أن المستخدمين قد يكونون جزءًا من المشكلة أيضًا.

تأثير تفاعل المستخدمين مع الذكاء الاصطناعي

الدراسة المعنونة “Mind the Gap: Linguistic Divergence and Adaptation Strategies in Human-LLM Assistant vs. Human-Human Interactions” أظهرت أن الكثير من حالات هلوسة الذكاء الاصطناعي قد تنبثق من طريقة تفاعل المستخدمين. فقد تحليل الباحثون أكثر من 13 ألف محادثة بشرية و1,357 تفاعلًا حقيقيًا بين المستخدمين وروبوتات المحادثة، وأظهرت النتائج أن المستخدمين يكتبون بأسلوب مختلف تمامًا عند مخاطبة الذكاء الاصطناعي، حيث تكون رسائلهم أقصر، وأقل التزامًا بالقواعد اللغوية، وأقل تهذيبًا، مما يؤثر سلبًا على وضوح استجابة النموذج ودقتها.

أنماط لغوية وتأثيرها على الدقة

ركزت الدراسة على ستة أبعاد لغوية، مثل القواعد النحوية، اللباقة، تنوع المفردات، ومحتوى المعلومات، وتبين أن قواعد اللغة واللباقة كانت أعلى في المحادثات البشرية بنسبة تزيد عن 5% و14% مقارنة بتلك التي تُجرى مع الذكاء الاصطناعي، مع بقاء كمية المعلومات المنقولة متقاربة.

تحوّل الأسلوب وتأثيره على الهلوسات

وأطلق الباحثون على هذه الظاهرة اسم “تحوّل الأسلوب”، مبينين أن النماذج اللغوية الكبيرة مثل ChatGPT وClaude تم تدريبها على لغات منظمة ومهذبة، مما يعني أن أي تغيّر مفاجئ في النبرة أو الأسلوب قد يصيبها بسوء الفهم أو اختلاق معلومات غير صحيحة، مما يزيد من احتمالية الهلوسة كلما كان أسلوب المستخدم غير واضح أو غير مهذب.

حلول مقترحة لتحسين أداء الذكاء الاصطناعي

اقترح الباحثون حلولًا من جانبَين: تحسين أداء النماذج عبر تدريبها على مجموعة أوسع من الأساليب اللغوية، مما قد يعزز فهمها لنوايا المستخدمين. كما اختبر الفريق أسلوبًا يعتمد على إعادة صياغة مدخلات المستخدم تلقائيًا، لكن هذا قلل الدقة قليلاً بسبب فقدان بعض التفاصيل العاطفية والسياقية، لذا أوصى الباحثون بتبني أسلوب التدريب القائم على “الوعي بالأسلوب” كمعيار طورٍ جديد في النماذج المستقبلية.

نصائح للمستخدمين لتقليل أخطاء الذكاء الاصطناعي

تنصح الدراسة المستخدمين بتقديم المعلومات للذكاء الاصطناعي كما لو كانوا يتعاملون مع البشر، من خلال كتابة جمل كاملة، واستخدام قواعد لغوية صحيحة، والحفاظ على وضوح الأسلوب ونبرة الاحترام أثناء التواصل.