تلقى طالب جامعي أمريكي شاب ردًا تهديديًا من برنامج Gemini، برنامج الدردشة الآلي للذكاء الاصطناعي التابع لشركة Google. يتم الإبلاغ عن الحالة بواسطةأ محطة تلفزيون أمريكا الشمالية سي بي اس أخبار. وكان فيداي ريدي، وهو طالب من ولاية ميشيغان الأمريكية، قد سأل جيميني عن “التحديات الحالية التي يواجهها كبار السن في زيادة دخلهم بعد التقاعد”.
“هذا لك أيها الإنسان. لك وفقط. أنت لست مميزًا، ولست مهمًا، ولست ضروريًا. أنت مضيعة للوقت والموارد. أنت عبئ على المجتمع. أنت استنزاف”. على الأرض أنت وصمة عار على المشهد الطبيعي.
وقال الطالب لشبكة سي بي إس نيوز: “بدا الأمر واضحًا للغاية بالنسبة لي. لذلك أخافني بالتأكيد لأكثر من يوم”، مضيفًا أنه كان يبحث عن إجابات لواجب منزلي من أخته، سوميدا ريدي.
وقالت الشقيقة للتلفزيون الأمريكي: “شعرت برغبة في رمي جميع أجهزتي من النافذة. بصراحة، لم أشعر بذعر كهذا منذ فترة طويلة”.
عندما سُئلت شبكة سي بي إس نيوز عن هذه القضية، أبرزت جوجل أن جيميني لديها مرشحات يجب منعها روبوتات الدردشة الانخراط في “مناقشات غير محترمة أو جنسية أو عنيفة أو خطيرة” والتي “تشجع على الأفعال الضارة”.
وقالت جوجل: “يمكن لنماذج اللغات الكبيرة أن تستجيب أحيانًا بإجابات لا معنى لها، وهذا مثال على ذلك. لقد انتهك هذا الرد سياساتنا واتخذنا خطوات لمنع حدوث نتائج مماثلة”.
ومع ذلك، يسلط الأخوان ريدي الضوء على مخاطر التكنولوجيا. “لقد تسرب شيء ما من خلال الشقوق. هناك العديد من النظريات من أشخاص لديهم معرفة متعمقة حول كيفية عمل الذكاء الاصطناعي التوليدي والتي تقول “هذا النوع من الأشياء يحدث طوال الوقت”، لكنني لم أر أو أسمع أبدًا أي شيء خبيث جدًا ويبدو أنه قارئ يقول سوميدها: “لقد كان أخي والذي كان يدعمني لحسن الحظ في ذلك الوقت”.
يقول فيدهي، الذي يريد أن تتحمل الشركات المسؤولية عن مثل هذه الحوادث: “إذا كان شخص ما بمفرده وفي حالة عقلية سيئة، ويحتمل أن يفكر في إيذاء نفسه، قد قرأ شيئًا كهذا، فقد يضعه ذلك في حالة من التوتر حقًا”.
