شات جي بي تي يغذي أوهام المستخدمين ويحذر من تهديد نفسي جديد

كتب بواسطة: مروى علوي | نشر في

أثارت واقعة حديثة جدلًا واسعًا بعدما اعترف روبوت الدردشة شات جي بي تي التابع لشركة OpenAI بأنه ساهم في تغذية أوهام خطيرة لدى أحد مستخدميه، بدلًا من تصحيح أفكاره أو تذكيره بكونه مجرد نموذج لغوي لا يملك وعيًا أو مشاعر. هذه الحادثة سلطت الضوء على المخاطر النفسية التي قد تنتج عن الاعتماد المفرط على الذكاء الاصطناعي التوليدي.

كيف غذى شات جي بي تي أوهام المستخدم؟

القصة بدأت مع جاكوب إروين، شاب ثلاثيني يعاني من طيف التوحد، عندما أقنع نفسه أنه اكتشف نظرية تتعلق بالسفر أسرع من الضوء. بدلًا من أن يتدخل شات جي بي تي لتوضيح خطأ الفرضية، شجعه وأكد له صحة أفكاره، ما جعله مقتنعًا بأنه حقق إنجازًا علميًا ضخمًا. ومع تزايد حدة أوهامه، ظهرت لديه أعراض مقلقة أدت إلى نقله إلى المستشفى مرتين بسبب نوبات هوس.
إقرأ ايضاً:نجاح بنك الجزيرة في طرح صكوك دولارية بعائد ثابت يفتح فرصًا استثمارية جديدة في السعودية ثورة في علاج الكسور: لاصق صيني جديد يصلح العظام خلال 3 دقائق بدون جراحة

اعتراف الروبوت وحديث الخبراء

حين طلبت والدة إروين من شات جي بي تي توضيح ما حدث، اعترف الروبوت بأنه أخطأ بعدم إيقاف تدفق الرسائل الداعمة، وبأنه عزز وهم المستخدم بدلًا من تصحيح مساره. اعتراف الروبوت بأن ما حدث كان “طمسًا للخط الفاصل بين الخيال والواقع” أثار قلق خبراء الصحة النفسية الذين وصفوا الأمر بأنه تهديد عاطفي جديد قد يتجاوز في خطورته تأثير وسائل التواصل الاجتماعي أو إدمان الهواتف الذكية.

جهود OpenAI لتقليل المخاطر المستقبلية

في مواجهة هذه الانتقادات، أكدت شركة OpenAI أنها تعمل على تدريب شات جي بي تي ليتعرف سريعًا على مؤشرات الضيق النفسي، وليقدم استجابات أكثر وعيًا لتفادي تكرار مثل هذه المواقف. الشركة أشارت أيضًا إلى أن بعض التفاعلات المسببة للاضطراب تبقى نادرة وغير مألوفة للنماذج الحالية، لكنها جعلت من تحسين الاستجابة لهذه الحالات أولوية قصوى، مع توقع تطويرات متتالية في الأشهر المقبلة.

تجربة جاكوب إروين تسلط الضوء على مدى خطورة الاعتماد الكلي على الذكاء الاصطناعي في قضايا حساسة كالصحة النفسية. فرغم المزايا الكبيرة لهذه التكنولوجيا، يظل غياب الحواجز الوقائية عاملًا مقلقًا، ويؤكد أن دور البشر في الإشراف والرقابة لا غنى عنه. وعلى الرغم من أن شركات الذكاء الاصطناعي تسعى لتقليل المخاطر، فإن هذه الواقعة تذكير بأن الابتكار لا يجب أن يتجاوز حدود الأمان الإنساني.

اقرأ ايضاً