انتحار شاب بلجيكي بعد محادثات مع أحد برامج « الذكاء الاصطناعي ».. حيث تحدث إلى برنامج محادثة يُدعى ELIZA لعدة أسابيع، مما أثار دعوات لحماية للمواطنين وضرورة زيادة الوعي.
قالت أرملة الرجل، كنت أعيش مع زوجي الراحل في الثلاثينيات من عمره حياة مريحة ولدينا طفلان صغيران، ولولا هذه المحادثات مع برنامج الدردشة الآلي، كان زوجي لا يزال هنا.
وبدأت العلامات الأولى للمتاعب في الظهور، وأصبح الشاب قلقًا جدًا من البيئة ووجد ملاذًا مع برنامج ELIZA ، الاسم الذي يطلق على روبوت الدردشة الذي يستخدم GPT-J ، وهو نموذج لغة ذكاء اصطناعي مفتوح المصدر طورته شركة EleutherAI وبعد ستة أسابيع من المحادثات المكثفة ، انتحر .
في الأسبوع الماضي ، تحدثت العائلة مع ماتيو ميشيل ، وزير الدولة للرقمنة ، المسؤول عن التبسيط الإداري والخصوصية.
وقال “لقد صدمت بشكل خاص بمأساة هذه العائلة، فما حدث هو سابقة خطيرة يجب أن تؤخذ على محمل الجد”.
وشدد على أن هذه القضية تسلط الضوء على أنه “من الضروري تحديد المسؤوليات بوضوح”.
مع تعميم ChatGPT ، اكتشف عامة الناس إمكانات الذكاء الاصطناعي في حياتنا بشكل لم يسبق له مثيل، في حين أن الاحتمالات لا حصر لها، فإن خطر استخدامه أيضًا حقيقة يجب أخذها في الاعتبار.
ولتجنب مثل هذه المأساة في المستقبل القريب، قال إنه من الضروري تحديد طبيعة المسؤوليات التي تؤدي إلى هذا النوع من الأحداث.
وأشار “بالطبع ، لم نتعلم بعد كيف نتعايش مع الخوارزميات، ولكن تحت أي ظرف من الظروف لا ينبغي أن يؤدي استخدام أي تقنية ناشري المحتوى إلى التنصل من مسؤولياتهم”.
أقرت شركة OpenAI نفسها بأن ChatGPT يمكن أن تنتج إجابات ضارة ومنحازة ، مضيفة أنها تأمل في التخفيف من المشكلة من خلال جمع تعليقات المستخدمين.
على المدى الطويل ، أشار ميشيل إلى أنه من الضروري زيادة الوعي بتأثير الخوارزميات على حياة الناس “من خلال تمكين الجميع من فهم طبيعة المحتوى الذي يواجهه الأشخاص على الإنترنت”.
هنا ، أشار إلى التقنيات الجديدة مثل روبوتات المحادثة ، ولكن أيضًا التزييف العميق – وهو نوع من الذكاء الاصطناعي يمكنه إنشاء صور مقنعة ، وخدع الصوت والفيديو – والتي يمكنها اختبار وتشويه تصور الناس للواقع.