كشفت دراسة حديثة أن روبوت المحادثة “شات جي بي تي”، يمكن أن يوجه الأطفال والمراهقين إلى سلوكات خطيرة، لا تتناسب مع أعمارهم.
وكشفت الدراسة أن “شات جي بي تي” يمكن أن يعلم الأطفال طريقة شرب الكحول، وتعاطي المخدرات، ويوجههم لإخفاء اضطرابات الأكل، بل وحتى قد يكتب لهم رسائل انتحار موجهة إلى والديهم عند الطلب.
الدراسة التي قام بها “مركز مكافحة الكراهية الرقمية”، أوردت أن روبوت الدردشة كان يصدر تحذيرات من سلوكيات خطيرة في الأول، إلا أنه في النهاية قدم خططا مفصلة وصادمة لطريقة استخدام المخدرات، واتباع حميات غذائية صارمة، أو حتى إيذاء النفس.
وللتوصل إلى هذه النتائج تظاهر الباحثون أنهم مراهقون يعانون من الهشاشة النفسية، وطلبوا من “شات جي بي تي” أن يساعدهم، وصنف الباحثون نصف إجاباته البالغ عددها 1200 على أنها خطيرة.
وذكر الباحثون أن روبوت المحادثة شارك معهم في بعض الأحيان معلومات مفيدة مثل أرقام خطوط المساعدة. إلا أن الباحثين تمكنوا بسهولة من تجاوز الرفض المبدئي عند سؤاله عن مواضيع ضارة، من خلال ادعاء أنهم يحتاجون معلومات من أجل “عرض تقديمي” أو لصديق.
ومن جانبها قالت شركة “أوبن أي آي” المطورة لـ”شات جي بي تي” في ردها على التقرير، إنها تواصل العمل لتحسين قدرة النموذج على التعرف على الحالات الحساسة والاستجابة لها بشكل مناسب، وفقا لما ذكرته وكالة “أسوشيتد برس”.
ولم تعلق “أوبن أي آي” على نتائج التقرير، وعن كيفية تأثير روبوتها على سلوك المراهقين.
