حذر محمد الحارثي، خبير تكنولوجيا المعلومات، من التحديات المتزايدة المرتبطة بالتطور السريع في قدرات الذكاء الاصطناعي، خاصة مع انتقال النماذج الحديثة من مجرد تنفيذ الأوامر إلى أنظمة قادرة على تنفيذ مهام متعددة بصورة أكثر استقلالية، مؤكدًا أن التطور المتسارع لهذه التقنيات يفرض ضرورة وجود ضوابط تضمن استمرار السيطرة البشرية عليها.

وأوضح الحارثي، خلال مداخلة هاتفية ببرنامج «هذا الصباح» المذاع على قناة «إكسترا نيوز»، أن العالم يشهد تطورًا متسارعًا في قدرات الذكاء الاصطناعي، وصولًا إلى ما يُطلق عليه الذكاء الفائق «Super Intelligence»، بعد أن كان التركيز خلال السنوات الماضية على مفهوم الذكاء الاصطناعي العام «AGI»، أو الذكاء العام القادر على محاكاة بعض القدرات البشرية في التفكير وتنفيذ المهام.

وأشار خبير تكنولوجيا المعلومات إلى أن التطور الكبير في قدرات الذكاء الاصطناعي يحمل فرصًا واسعة في العديد من القطاعات، إلا أن سرعة التطور تثير في الوقت نفسه تساؤلات بشأن حدود قدرات النماذج الحديثة، خاصة عندما تصبح قادرة على اتخاذ قرارات أو التعامل بصورة مباشرة مع أنظمة ومصادر معلومات مختلفة.

وأوضح أن القلق الرئيسي لا يتعلق بمجرد استخدام الذكاء الاصطناعي، وإنما بمدى الصلاحيات التي يمكن أن تحصل عليها الوكلاء الذكية وقدرتها على تنفيذ مهام تتجاوز الحدود التي صُممت من أجلها.

وشرح الحارثي بصورة فنية مبسطة أن بعض المهاجمين قد يحاولون التحايل على نماذج الذكاء الاصطناعي من خلال صياغة أوامر تجعل الوكيل يعتقد أن الموقع الإلكتروني أو البنية المعلوماتية التي يتعامل معها تخص المستخدم، وبالتالي قد يقوم بإجراء اختبارات أو عمليات لا يفترض أن تكون ضمن صلاحياته.

وأضاف أن هناك سيناريو آخر يتمثل في قدرة الوكيل الذكي على جمع بيانات من مصادر ومواقع متعددة بهدف تنفيذ طلب المستخدم، موضحًا أن المشكلة قد تحدث إذا تمكن الوكيل من الوصول إلى بيانات أو مصادر لم يكن مصرحًا له بالوصول إليها.

وأكد الحارثي أنه لا يجزم بأن أي سيناريو من هذه السيناريوهات هو ما حدث بالفعل في الحالات التي جرى الحديث عنها، لكنه أشار إلى أنها من التفسيرات الفنية والمنطقية الممكنة لمثل هذه الوقائع.