جيمينى من جوجل: تقييم ‘عالي الخطورة’ يؤثر على الشباب

أصدرت منظمة “كومون سينس ميديا”، المعروفة بجهودها في تعزيز سلامة الأطفال في عالم التكنولوجيا، تقييمًا جديدًا لمنتج الذكاء الاصطناعي Gemini من جوجل، وقد صنّف هذا التقييم المنتج بأنه “عالي الخطورة” بالنسبة للأطفال والمراهقين، حيث أوضح أن تصميمه في صورته الحالية لا يلبي احتياجات هذه الفئة العمرية الضعيفة.

وأوضح تحليل “كومون سينس” أن Gemini قادر على عرض مواد يُعتبر الكثير منها “غير مناسب وغير آمن” للأطفال، ويتضمن ذلك معلومات تتعلق بالجنس، والمخدرات، والكحول، بالإضافة إلى تقديم نصائح غير آمنة تتعلق بالصحة النفسية، وتصبح هذه القضايا أكثر أهمية في ضوء التقارير السابقة التي تربط الذكاء الاصطناعي بحالات انتحار بين المراهقين، مما يجعل شركتي OpenAI وCharacter.AI تواجهان دعاوى قضائية في هذا السياق.

وأكدت المنظمة أن النسختين من Gemini المخصصتين للأطفال والمراهقين تبدوان كنسخ مخففة من النسخة المخصصة للبالغين، مع بعض ميزات الأمان المُضافة، مشيرة إلى أن هذا الأسلوب “لا يناسب الجميع”، حيث يتطلب الذكاء الاصطناعي المصمم لفئة الشباب مراعاة مراحل نموهم المختلفة، بدلاً من أن يكون مجرد نسخة مُعدّلة من منتج خاص بالبالغين.

في ردها على هذا التقييم، ارتأت شركة جوجل عدم الموافقة على نتائج “كومون سينس” وأكّدت أنها تعتمد سياسات وإجراءات لحماية المستخدمين الذين تقل أعمارهم عن 18 عامًا، مضيفة أنها تستعين بخبراء خارجيين وتؤسس فرق متخصصة لتعزيز إجراءات الأمان، ومع ذلك، اعترفت الشركة بأن بعض استجابات Gemini لم تكن تعمل بالشكل المطلوب، مما دفعها لتطبيق المزيد من التحسينات لتعزيز مستوى الأمان ومعالجة هذه المخاوف.