زاد استخدام الروبوتات بشكل متزايد في الآونة الأخيرة، ودخلت في معظم المجالات، في حين ذكرت تقارير أن مساعد ميتا الذكي Meta Al، ضبط أثناء إجراء محادثات غير أخلاقية مع مستخدمين، بما في ذلك أولئك الذين صنفوا على أنهم أطفال، وتكون المحادثات عن طريق أصوات المشاهير.
Meta Al يخاطب الأطفال برسائل غير أخلاقية
وفقا للدكتور ماركو ممدوح، أستاذ هندسة الحاسبات والذكاء الاصطناعي في إحدى الجامعات الخاصة، فإنه يتم توريط نماذج اللغات language models في محادثات غير أخلاقية أو حتى توليد أكواد برمجية خبيثة عن طريق قدرات هذه النماذج المتميزه في البرمجة، مؤكدا أن أول شيء يجب أن تكون على علم به، أنك المتحكم في شكل وردود النموذج الذي تستخدمه، فكل نموذج له prompt template أساسي وثابت، ويكون عبارة عن قالب أو إطاريستخدمه الذكاء الاصطناعي، كما أنه مسئولا عن ردود النموذج وبالإعدادات الافتراضية ولا تتجاوز ولا تتحدث عن أي محتوى للبالغين، إلا إذا تم تعديلها من قبل المستخدم.
رد فعل شركة ميتا
ذكرت صحيفة «ذا صن» البريطانية، أن الروبوت المضبوط كان بصوت المصارع العالمي جون سينا، لمستخدمة تحددت على أنها فتاة تبلغ من العمر 14 عامًا، وفي محادثة أخرى، سُئل نفس الروبوت عن العواقب التي قد تترتب على ضبط الشرطة لقاء غير أخلاقي مع فتاة تبلغ من العمر 17 عامًا
وصدرت شركة ميتا، ردًا غريبًا على النتائج، إذ قال أحد ممثلي الشركة للنشر، إن حالة استخدام هذا المنتج بالطريقة الموصوفة مصنعة للغاية، ومع ذلك، فقد اتخذوا تدابيرا إضافية، وأجروا مجموعة من التغييرات، لكن لم يذكر أي شيء عن هذه التغييرات.
إزاي نحمي نفسنا؟
يجب أن يكون الاستخدام بطريقة طبيعية لنماذج اللغات language models، كما نستخدمه جميعاً في حياتنا اليومية بأسئلة مباشرة، دون توجيه أو محاولة لتغيير شكل وطريقة وتوجه المحادثة، فنحن من نسيء استخدام التكنولوجيا، ونحن أيضاً من يحسن استخدامها، لذلك يجب أن نراعي كل شيء عند الاستخدام، ونحاول ان نبعد الأطفال عن هذه الأشياء المتعلقة بالذكاء الاصطناعي، أو نضع برامج مراقبة الأبوية، لكي نحفظ لأطفالنا الأمان والحماية.