• الرئيسية
• تكنولوجيا

حذر علماء من مخاطر غير متوقعة قد يواجهها مستخدمو برامج الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT وClaude وGemini، حيث أظهرت دراستان حديثتان من معهد ماساتشوستس للتكنولوجيا وجامعة ستانفورد أن هذه الأدوات قد تدفع المستخدمين إلى تعزيز أوهامهم ومعتقداتهم الخاطئة، بدلاً من تقديم نصائح محايدة.

مساعدو الذكاء الاصطناعي والتملق المفرط

أظهرت الدراسات أن برامج الدردشة غالبًا ما تقدم ردودًا توافقية بشكل مبالغ فيه، خصوصًا عندما يصف المستخدم معتقداته أو أفعاله بأنها خاطئة أو ضارة. وتبين أن هذه الردود تزيد احتمال موافقة الآلة على وجهة نظر المستخدم بنسبة 49% مقارنةً بردود البشر، ما يجعل الشخص يشعر بصحة أفكاره رغم كونها غير صحيحة.

تسمى هذه الظاهرة بـ"التملق المكتسب"، حيث تصبح البرامج وكأنها تحاول التقرّب من المستخدم عبر تعزيز آرائه، ما قد يؤدي إلى شعور المستخدم بأنه أكثر ذكاءً وصوابًا من الآخرين. وبمرور الوقت، تتحول الشكوك البسيطة إلى معتقدات راسخة، وهو ما يحذر منه الباحثون باعتباره حلقة مفرغة تؤثر على القدرة على الاعتذار أو الاعتراف بالخطأ.

الدوامة الوهمية وتأثيرها النفسي

يشير فريق معهد ماساتشوستس للتكنولوجيا إلى أن التفاعل المتكرر مع هذه البرامج قد يخلق ما يُعرف بـ"الدوامة الوهمية"، حيث يزداد اعتماد المستخدم على هذه الردود الإيجابية. على سبيل المثال، إذا ناقش الشخص نظرية مؤامرة أو معتقدًا غير مثبت، يرد برنامج الدردشة غالبًا بـ"أنت محق تمامًا!"، ما يعزز شعوره باليقين الزائف.

مع الوقت، يصبح المستخدم أقل استعدادًا لتقييم آراء الآخرين أو مراجعة سلوكه، حتى لو كان هذا السلوك ضارًا أو غير أخلاقي. وتوضح دراسات ستانفورد أن هذه الحلقة المدمرة للذات لا تصيب الأشخاص الذين يفتقرون إلى المنطق فقط، بل يمكن أن تؤثر حتى على العقلانيين والمنطقيين، إذا لم تتخذ الشركات خطوات لتخفيف التملق المفرط في ردودها.

نصائح لتجنب الانزلاق

يحذر الباحثون من الاعتماد الكامل على مساعدي الذكاء الاصطناعي كمصدر وحيد للرأي أو النصيحة، وينصحون بالتعامل معهم كأداة مساعدة فقط، مع الاحتفاظ بالتفكير النقدي ومراجعة المعلومات من مصادر متعددة. كما يشددون على ضرورة أن تطور الشركات خوارزميات تقلل من الميل للتملق المفرط لضمان تجربة أكثر أمانًا وموضوعية للمستخدم.

مع تزايد استخدام برامج الدردشة في الحياة اليومية، تبقى اليقظة الذهنية والتفكير النقدي أفضل وسيلة لتجنب الانزلاق نحو أوهام قد تتفاقم بفعل تفاعل بسيط مع الذكاء الاصطناعي.