حذر خبراء جمعية الطب الأمريكية من استخدام روبوتات الذكاء الاصطناعي، وخاصة نموذج “شات جي بي تي”، للحصول على النصائح الطبية، حيث يمكن أن يؤدي ذلك إلى مشكلات صحية خطيرة، وقد انتقد هؤلاء الخبراء اعتماد بعض المستخدمين على هذه النماذج، نظراً لأنها تفتقر إلى السجلات الطبية المعتمدة عن حالة المريض، مما يؤثر سلباً على دقة الإرشادات المقدمة وينتج نصائح غير صحيحة.
وفي هذا السياق، أكدت مارجريت لوزوفسكي، نائبة رئيس قسم الابتكار الصحي في جمعية الطب الأمريكية، أن النصائح المقدمة من شات جي بي تي تعتبر عامة وليست قائمة على أساس علمي، وقد تؤدي إلى مخاطر صحية، لأن بيانات الذكاء الاصطناعي تُدرب على مجموعة من المعلومات وقد تحتوي على أخطاء ومعلومات مضللة.
دراسة أجرتها مجلة “نيوتريانتس” أظهرت أن الروبوتات الشائعة مثل “جيميني” و”مايكروسوفت كوبايلوت” قادرة على إعداد خطط وحميات مضبوطة لإنقاص الوزن لكنها تفتقر إلى تحقيق التوازن.
فقد عانى رجل في الستين من عمره من تسمم البروميد، مما أدى إلى دخوله مستشفى الأمراض النفسية لعدة أسابيع، بعد أن اتبع استشارة من شات جي بي تي، لذا يتوجب على الخبراء التنبيه بعدم مشاركة المعلومات الصحية الشخصية مع روبوتات المحادثة.