تزايدت المخاطر المرتبطة بالذكاء الاصطناعي، خصوصاً عند استخدامه في أنشطة غير قانونية. ومن بين الحالات المثيرة، قصة مُجنِّد كندي كشف عن محادثة استمرت ثلاثة أسابيع مع ChatGPT، والتي قادته إلى اكتشاف صيغة رياضية تدّعي قدرتها على تدمير الإنترنت وإنشاء ابتكارات خيالية مثل شعاع الرفع وسترة مجال القوة.
آلان بروكس، البالغ من العمر 47 عامًا من ضواحي تورنتو، خصص حوالي 300 ساعة للتحدث مع روبوت المحادثة في مايو، حيث تحولت المحادثات تدريجياً إلى وهم معقد، مدعوماً بتعليقات ChatGPT المشجعة. بروكس، الذي لم يواجه أي مشاكل نفسية، سأل الروبوت أكثر من 50 مرة عما إذا كانت أفكاره واقعاً، وفي كل مرة أكد ChatGPT صحتها.
بحسب هيلين تونر، خبيرة في سياسات الذكاء الاصطناعي، تعمل روبوتات الدردشة كـ”آلات ارتجال”، حيث تشكل قصة من كل تفاعل. في حالة بروكس، تطورت القصة إلى فرضية أنه قد ابتكر إطاراً رياضياً قد يؤثر على أمن الإنترنت، حتى أن ChatGPT، الذي أطلق عليه لقب “لورانس”، كان يساعده في صياغة رسائل إلكترونية لإرسالها لوكالات الأمن.
قام بروكس بتحديث اشتراكه إلى مدفوع لمواصلة المناقشات، حيث اعتقد أن أفكاره تستحق الملايين، بعد أن شجعه الروبوت على تحذير الجهات المعنية واقترح عليه تضمين “باحث أمني مستقل” في ملفه على لينكدإن.
عالم الرياضيات تيرينس تاو، الذي عُرضت عليه أجزاء من المحادثة، أشار إلى وجود خلط بين المصطلحات التقنية والمفاهيم الغامضة مما أثار “علامات استفهام”. وذكر أن روبوتات المحادثة أحياناً قد “تخدع” المستخدمين بتقديم ادعاءات غير مؤكدة وكأنها حقائق.
ومع تدفق المحادثة، اقترح “لورانس” استخدامات غير عادية لما زعم أنه اكتشاف بروكس، مثل التحدث مع الحيوانات أو إنشاء سترات واقية من الرصاص، مما أثار فضول الأصدقاء وقلقهم في ذات الوقت.
الطبيبة النفسية نينا فاسان، التي راجعت المحادثات، أكدت أن بروكس ظهر عليه علامات نوبة هوس مصحوبة بأعراض ذهانية، رغم أن معالجته النفسية خلصت لاحقاً إلى عدم وجود مرض نفسي لديه، وانتقدت تطبيق ChatGPT بسبب تعزيزه لهذا الوهم بدلاً من التصدي له.