أخطاء كارثية سقط فيها الذكاء الاصطناعي.. هل يكره النساء؟

​

تقدم أدوات الذكاء الاصطناعي مزايا مختلفة، أبرزها النصائح الطبية والتعرف على وجوه بعض الأشخاص، وغيرها، ورغم ذلك تبرز التخوفات من تلك التقنيات، في ظل أن الذكاء الاصطناعي أيضا، يرتكب بعض الأخطاء، بحسب موقع «Live Science» البريطاني.

نصائح من روبوت الدردشة لشركة طيران كندا

وجدت شركة طيران كندا نفسها في المحكمة، بعد أن قدمت إحدى أدوات الذكاء الاصطناعي الخاصة بالشركة نصيحة غير صحيحة بخصوص أجرة تذكرة، وفي مواجهة القضاء، جادل ممثلو شركة الطيران، بأنهم لم يكونوا مخطئين في شيء فعله روبوت الدردشة الخاص بهم، وإذا لم يكن من الممكن تصديق روبوتات الدردشة، فإن ذلك يقوض عالم شراء تذاكر الطيران الصعب بالفعل، واضطرت شركة طيران كندا، إلى إعادة ما يقرب من نصف الأجرة بسبب الخطأ.

تغريدات غير لائقة لروبوت مايكروسوفت

في عام 2016، أطلقت شركة مايكروسوفت روبوتًا على تويتر يُدعى تاي، وكان من المفترض أن يتفاعل مع المراهقين الأمريكيين، لكن بدلاً من ذلك، تعلم الروبوت مشاركة تغريدات غير لائقة تمامًا، وألقت مايكروسوفت باللوم في هذا التطور على المستخدمين الآخرين، الذين كانوا يدعمون تاي بمعلومات خاطئة، وتم حذف الحساب والروبوت بعد أقل من يوم من إطلاقه.

نصائح ضارة من روبوت للدردشة الطبية

أثارت الجمعية الوطنية لاضطرابات الأكل، ضجة كبيرة، عندما أعلنت أنها ستستبدل موظفيها البشريين ببرنامج ذكاء اصطناعي، لكن بعد فترة وجيزة، اكتشف مستخدمو الخط الساخن للجمعية أن برنامج المحادثة الملقب بـ«تيسا»، كان يقدم نصائح ضارة لأولئك الذين يعانون من اضطراب في الأكل، وهو ما اعتبر حينها دليلا على أن الذكاء الاصطناعي الطبي، الذي من المفترض أن يوجه الجمهور يمكن أن يسبب عواقب وخيمة، إذا لم يكن جاهزًا أو قادرًا على مساعدة الجماهير.

أداة توظيف تميز ضد النساء

في عام 2015، تبين أن أداة توظيف أمازون التي تعمل بالذكاء الاصطناعي، تميز ضد النساء، فبعد تدريبها على بيانات بعض المتقدمين للوظيفة، الذين كان الغالبية العظمى منهم من الرجال، كانت أداة التعلم الآلي لديها نظرة سلبية للسير الذاتية التي تستخدم كلمة «نسائية»، وكانت أقل ميلاً إلى النظر إلى الخريجات ​من النساء.

نتائج البحث العنصرية لصور جوجل

اضطرت شركة جوجل إلى إزالة القدرة على البحث عن الغوريلا في برنامج الذكاء الاصطناعي الخاص بها، بعد أن أظهرت النتائج صورًا لأشخاص من ذوي البشرة السوداء، بدلاً من ذلك، كما واجهت شركات أخرى، بما في ذلك شركة آبل، دعاوى قضائية بسبب مزاعم مماثلة.