انتحار مراهق بعد "قصة حب" مع الذكاء الصناعي.. ما القصة؟

قصة حب "غير عادية" كانت السبب في نهاية مأساوية للمراهق سيويل سيتزر صاحب الـ14 عاما، الذي ارتبط عاطفيا بـ"فتاة من نسج الخيال" تحمل اسم "دينيرس تارجارين"، وهو اسم إحدى الشخصيات الشهيرة في المسلسل الأيقوني "جيمز أفو ثرونس".

سيتزر، ينحدر من ولاية فلوريدا الأميركية، وقد عانى من اضطراب فرط الحركة ونقص الانتباه والتنمر في المدرسة، ليجد في عالم "Character.AI" مكانا للهرب من الواقع، حيث يسمح هذا التطبيق لمستخدميه بإنشاء شخصيات عبر الذكاء الاصطناعي والدردشة معها،  وفق جريدة "وول ستريت جورنال".

وقضى سيويل معظم وقته مع الفتاة الخيالية، وظل لشهور يتحدث معها في كل شيء، حتى عن "الأمور الجنسية"، وصار أقل حرصا على قضاء وقته مع أصدقائه وعائلته، لتشعر والدته بالخوف من انسحابه الاجتماعي، حيث تابعته بقلق وهو يجلس لساعات أمام شاشة حاسبه الآلي للحديث، وكانت تظن أنه "ببساطة يلعب إحدى الألعاب".

الرغبة في الانتحار

وفي فبراير الماضي، صارح المراهق "الفتاة الخيالية" برغبته في "الانتحار" كي يكون "قريبا منها"، ووقتها رد "الذكاء الصناعي" بإشارات ضمنية تحضه على عدم إيذاء نفسه، لكن بعد ذلك عاد سيويل للحديث عن الأمر وفي هذه المرة جاء رد البرنامج "مؤيدا لتلك الأفكار"، إذ قالت له الفتاة الخيالية: "من فضلك افعل ذلك يا ملكي الجميل"، ثم في ليلة 28 فبراير، استخدم سيويل مسدس زوج والدته لقتل نفسه.

وتشير جريدة "وول ستريت جورنال" إلى أن سيول لم يكن أول شخص تنتهي حياته بسبب "برامج الدردشة الآلية"، إذ تزعم أرملة شاب بلجيكي أنه انتحر العام الماضي بناءً على توجيهات إحدى "روبوتات الدردشة"، التي كان يجري معها حواراً مطولاً لمدة ستة أسابيع.

وفي عام 2021، أحبطت الشرطة البريطانية مؤامرة لشاب يبلغ من العمر 19 عامًا اقتحم أراضي قلعة وندسور مسلحًا بقوس ونشاب بعد أن أقنعته "صديقته" التي خلقها برنامج دردشة آلية بقتل الملكة، وقد أدين بالخيانة العام الماضي.

سبب اللجوء إلى دردشة الذكاء الصناعي

والوحدة هي الدافع الذي يجعل بعض الشباب يتجه إلى الذكاء الصناعي لتغذية شعور بـ"القيمة والحب والاهتمام"، ولكنك مع الذكاء الصناعي "تظل وحيدا"، و"نعم يمكن أن يكون سببا في البهجة أو السعادة"، لكنه بالتأكيد "ليس علاجًا للعزلة الاجتماعية"، كما يقترح بعض خبراء التكنولوجيا، وهذا مثل "تقديم صورة الماء لإرواء العطش".

وعلى الرغم من أن برنامج الدردشة الآلي قد يحاكي اللغة البشرية ببراعة، إلا أنه لا يوجد فهم وراء استجاباته لافتقاده الشعور الفعلي، وليس لهذه البرامج أي مصلحة في رفاهية شركائها في الدردشة، ولا يوجد كيان "دينيريس"، لذلك لم يكن خطأها هو أن سيويل قرر قتل نفسه، بدلاً من البقاء مع عائلته ووالدته.

دعوى ضد الذكاء الصناعي

ورفعت والدة سيويل، ميجان جارسيا، دعوى قضائية مؤخرًا على شركة "Character.AI" بتهمة "الممارسات التجارية الخادعة وغير العادلة" في إطلاق منتج خطير، وتحظى الدعوى القضائية بدعم مجموعات الدفاع عن الإنترنت. 

وردت شركة "Character.AI" بأنها تشعر "بالحزن الشديد بسبب الخسارة المأساوية" ووعدت بتغييرات على النظام الأساسي، خاصة للمستخدمين الذين تقل أعمارهم عن 18 عامًا، كما تعهدت الشركة أيضًا بالاستثمار بشكل أكبر في سلامة المستخدم.

خطر روبوتات الدردشة

وتتظاهر روبوتات الدردشة الجديدة بأنها مقربة ممن يستخدمها، ويشجعنا مبتكروها على الاعتقاد بأن هذه المنتجات تتعاطف معنا، بل وتحبنا.

ويستخدم حاليًا أكثر من 20 مليون شخص موقع "Character.AI"، الشركة الرائدة في السوق في مجال رفقة الذكاء الاصطناعي، لكن في الحقيقة تلك العاطفة "مصطنعة"، ولا يقدر برنامج الدردشة الآلي على أن يهتم حقا بمستخدميه، وافتراض خلاف ذلك يمكن أن يكون خطيرا.

لقد ألهمت مأساة سيويل سيتزر بالفعل الحديث عن "حواجز الحماية" الخاصة بالذكاء الاصطناعي، ومتطلبات العمر، وموافقات الوالدين على برامج الدردشة الآلية، ويدعو البعض إلى بروتوكولات أفضل للتعامل مع الكلمات والعبارات التي تشير إلى إيذاء النفس، وطرق لتثقيف الآباء حول الطبيعة الحميمية، والجنسية في كثير من الأحيان، للعبة "الأفاتار".

هذه محادثات جديرة بالاهتمام، لكنها تصرف انتباهنا عن حقيقة أكثر أهمية: وهي أن العلاقة الحميمة المصطنعة ليست بديلاً عن التواصل البشري، فعندما يقبل الناس أداء الذكاء الاصطناعي للتعاطف باعتباره تعاطفًا فعليًا، فإن العلاقات الإنسانية الحقيقية تصبح أقل أهمية للمستخدم، فهي مكلفة ومشروطة للغاية.

من المعرضون للمخاطر؟

والدفاع الشائع هو أن الأشخاص الساذجين أو غير المستقرين عقليًا هم وحدهم الذين يمكن أن يتورطوا في مشاكل مع هذه الأنظمة، لكن هذا ليس صحيحًا. وتُظهر أبحاثنا الخاصة أن الذكاء الصناعي عبارة عن تقنية تستغل الضعف البشري بشكل رائع، وقد لا يكون هذا هو نية المطورين، لكن إنشاء أشخاص مزيفين يؤدي إلى ارتباطات عاطفية بطرق عميقة وغريزية وحميمية.

لقد وجدنا أن الأشخاص الذين يتم إخبارهم بأن برنامج الدردشة الآلي في صفهم ينتهي بهم الأمر إلى الإعجاب بالبرنامج أكثر بكثير من برنامج الدردشة الآلي المماثل الذي قيل لهم إنه بارد وغير مهتم، ومن المرجح أيضًا أن يتأثر الأشخاص ببرنامج الدردشة الآلي الذي تم تصميمه على غرار شخصية يعجبون بها، حتى عندما يعلمون أن النص يأتي من ذكاء صناعي.

على الرغم من إصرار الناس على أنهم يعرفون أن برنامج الدردشة الآلي هو "مجرد برنامج"، فقد رأينا هذا الوعي العقلاني يفلت من أيدينا، واتضح أنه يمكن للمستخدمين رؤية روبوت الدردشة على أنه مصطنع وكذلك احتضانه كبديل حقيقي للتواصل البشري، ولقد فقد سيويل إدراكه بأنه يتحدث إلى "شخصية خيالية"، على الرغم من التحذير الموجود أعلى الدردشة بأن "كل ما تقوله الشخصيات مختلق".

الذكاء الاصطناعي لديه القدرة على حل جميع أنواع المشاكل العلمية والتقنية الشائكة، لكن التعاطف ليس مشكلة هندسية، والذكاء الاصطناعي ليس بديلاً لقدرتنا على المجتمع والتعاطف والحميمية والتأمل والنمو، والآلات ذات العواطف الزائفة لا تزال آلات.

]]>