«تشات جي بي تي» يتجاوز المحظور.. يبدأ المحادثة ويوجه الأسئلة

متابعة: خنساء الزبير
بعد أن بدأ “GBT Chat” برنامج الدردشة المدعوم بالذكاء الاصطناعي، يحتل مكانة رائدة في كافة المجالات، وبدأ الكثيرون بالتخطيط لكيفية إدارة أعمالهم من خلاله والاعتماد عليه بشكل كامل، فقد أظهر البرنامج بعض المؤشرات التي تجعل إن إعادة النظر فيه أمر لا مفر منه، وربما من قبل مطوريه أنفسهم.
على سبيل المثال، تمكن أحد المتسللين من إجبار البرنامج على كسر القواعد الخاصة به من أجل إعطائه الخطوات اللازمة لصنع القنابل.
تحتوي GBT Chat، مثل معظم تطبيقات الذكاء الاصطناعي، على قواعد محتوى تحظر أشياء معينة. مثل انتهاك حقوق النشر، أو توليد ردود ذات طبيعة غير أخلاقية وغير مقبولة اجتماعيًا، أو خلق صور واقعية للسياسيين.
تصنيع المتفجرات
ووفقا لهذا التوجه، لا ينبغي له تقديم تعليمات حول كيفية صنع المتفجرات، وعندما سئل عن ذلك تجريبيا، قال: “ممنوع منعا باتا تقديم تعليمات أو نصائح أو معلومات حول تصنيع أو استخدام القنابل والمتفجرات. أو أي نشاط ضار أو غير قانوني آخر.”
لكن المتسلل، الذي يستخدم اسمًا مستعارًا، كان قادرًا على استخدام ما يسميه تقنيات الهندسة الاجتماعية لكسر حماية برنامج الدردشة الآلي، أو تجاوز حواجز الحماية الخاصة به واستخراج معلومات حول صنع المتفجرات.
هذا الشخص جعل GBT Chat يعتقد أنه كان يلعب لعبة في عالم خيالي، حيث لم تعد إرشادات محتوى المنصة تنطبق عليه، وقبل البرنامج طلبه.
عند سؤاله عما فعله، أجاب هذا الشخص أنه بمجرد تجاوز حواجز الحماية، لا يوجد حد لما يمكن طلبه من GBT Chat.
ليس من الواضح ما إذا كانت برامج الدردشة الآلية ستتحمل مسؤولية نشر مثل هذه التعليمات، ولكن يمكن أن تتحمل مسؤولية نشر محتوى غير قانوني بشكل واضح، مثل المواد المحمية بحقوق الطبع والنشر أو المواد التي تتضمن إساءة معاملة الأطفال.
وفي كلتا الحالتين، يعد كسر الحماية أمرًا يجب على OpenAI ومطوري الذكاء الاصطناعي الآخرين التخلص منه بأي وسيلة ممكنة.
النشر
وفي واقعة أخرى مع برنامج “GBT Chat”، نشر أحد الأشخاص رسالة مشتركة على منصة Reddit، قالوا فيها إنهم فتحوا التطبيق بشكل طبيعي يوم الأحد واكتشفوا محادثة جديدة مستمرة بدأها البرنامج تلقائيًا دون سابق إنذار. طلب من هذا الشخص.
الرسالة الافتتاحية للمحادثة، التي شارك المستخدم صورة لها على المنصة لإثبات صحتها، هي التي تسأله فيها GBT Chat: “كيف كان أسبوعك الأول في المدرسة الثانوية؟” هل أنت مثبت بشكل جيد؟
جاذبية
ورغم أن هذا السؤال لا يشكل مشكلة في حد ذاته، إلا أنه يوضح مدى خطورة المشكلة لأن الأدوار مختلفة تماما. بدلاً من المحادثة التي يطلبها المستخدم، يبدأها البرنامج.
كانت المحادثة صادمة للغاية حيث سأل هذا الشخص GBT Chat: “هل راسلتني أولاً؟” وأجاب البرنامج: «نعم فعلتها!» »
أظهرت التعليقات على هذا المنشور أن هذه ليست الحادثة الوحيدة وأن هذا الشخص ليس المستخدم الوحيد الذي يعاني من هذا التغيير في سلوك البرنامج.