تطبيق Image Playground من آبل يعانى من مشاكل التحيز وفقا لمهنتك وشكلك

يعاني ملعب Imaage من Apple من بعض التحيز ، وقد شارك عالم التعلم التلقائي مؤخرًا في العديد من المخرجات التي تم إنشاؤها باستخدام تطبيق الذكاء الاصطناعي وادعى أنه يحتوي على لون بشرة غير صحيح وملمس شعر في عدة مناسبات.

قيل أيضًا أن هذه الأخطاء ترتبط بقوالب نمطية محددة ، مما يزيد من المشكلة ، ومن الصعب تحديد ما إذا كانت المشكلة المزعومة هي مرة واحدة حادثًا أو مشكلة واسعة النطاق.

تجدر الإشارة إلى أن عملاق التكنولوجيا ، ومقره في Cubino ، قدم الطلب أولاً كجزء من بدلة Apple Intelligence مع تحديث iOS 18.2.

يعاني تطبيق ملعب IMAAGE من Apple من مشاكل متحيزة.

شارك Jochem Gietema ، رئيس قسم العلوم الآلية في Onfido ، منشورًا على مدونته ، مع تسليط الضوء على تجاربه في استخدام تطبيق Imaage Playground من Apple.

في المنشور ، قامت عدة مجموعات من النتائج التي تم إنشاؤها باستخدام تطبيق ملعب الصور وتسليط الضوء على حالات التحيز العنصري من خلال نموذج اللغة الرائعة التي تدعم التطبيق ، ومن الجدير بالذكر أن أعضاء فريق Gadgets 360 لم يلاحظوا أي شيء من هذا القبيل التحيزات أثناء اختبار التطبيق.

قال Jetima في منشور على موقع LinkedIn ، أثناء إجراء التجارب ، لاحظت أن التطبيق غير لون بشرتي وشعري بناءً على المهنة للمستخدم. في مقابل الدعوى ، الأكثر إشكالية ، الأثرياء مقابل الفقراء. “

وأضاف أن مثل هذه الأخطاء والتحيزات ليست غير عادية في برامج الماجستير في القانون ، والتي يتم تدريبها في مجموعات البيانات الكبيرة التي قد تحتوي ، لا يمكن للشركات غير قادرة تمامًا على منع مثل هذه الأجيال وغالبًا ما تنفذ طبقات مختلفة من السلامة لمنعها.

يأتي تطبيق ملعب الصور أيضًا من Apple أيضًا مع قيود معينة لمنع المشكلات المتعلقة بالصور التي أنشأتها الذكاء الاصطناعي ، على سبيل المثال ، يدعم تطبيق Apple Intelligence أنماط الرسوم المتحركة والرسوم التوضيحية فقط لتجنب حالات التزوير العميقة.

بالإضافة إلى ذلك ، يتم إنشاء الصور التي تم إنشاؤها في مجال الرؤية الضيقة والتي عادة ما تلتقط الوجه فقط بكمية صغيرة من التفاصيل الإضافية ، ويتم ذلك أيضًا لتقليل أي حالات من حالات التحيز وعدم الدقة.

لا تسمح شركة التكنولوجيا العملاقة بأي مطالبات تحتوي على كلمات سلبية أو مشاهير أو أرقام عامة ، وأكثر من ذلك لتقليل إساءة استخدام المستخدم للأداة في حالات الاستخدام غير المقصودة ، ومع ذلك ، إذا كانت الادعاءات صحيحة ، فسوف يحتاج iPhone إلى تضمين طبقات إضافية من السلامة للتأكد من أن المستخدمين لا يشعرون بالتمييز أثناء استخدام التطبيق.