المحتوى
- النساء ومنظمة العفو الدولية
- No Bugs، No Stress - دليلك خطوة بخطوة لإنشاء برامج لتغيير الحياة دون تدمير حياتك
- معالجة التحيز المخبوز في الذكاء الاصطناعي
- تأثير الذكاء الاصطناعى على القوى العاملة
- The AI Talent Pool Now and Down the Road
- التعليم لتطوير تجمع المواهب لمنظمة العفو الدولية
يبعد:
تتزايد أهمية الذكاء الاصطناعى للعمليات التجارية ، وعلى الرغم من أنها تهدف إلى العمل بموضوعية ، فقد ثبت أنها تعزز التحيزات الجنسانية. ولكن مع الوعي والتعليم ، يمكن استخدامه لسد الفجوات بدلاً من تعزيزها.
كما رأينا في Minding the Gender Gap ، لا تزال النساء متخلفات عن الرجال في المجال التكنولوجي ، سواء من حيث التمثيل (الذي يصل إلى حوالي 25 ٪ في الولايات المتحدة) ، ومن حيث الأجور ، حيث الفجوة بين الرجال والنساء قريب من 12 ٪.
في حين أن الأرقام الخاصة بتفاوت الأجور في التكنولوجيا لا تركز على المتخصصين في الذكاء الاصطناعي (AI) ، فإن تمثيل الإناث هناك أقل.
وفقًا للتقرير ، "الأنظمة التمييزية: الجنس ، العرق ، والسلطة" ، تشكل النساء 18٪ فقط من المؤلفين الممثلين في مؤتمرات منظمة العفو الدولية وأقل من 20٪ من أساتذة منظمة العفو الدولية. إنهم أكثر سوءًا في الشركات حيث يشكّلون 15٪ فقط من وظائف أعضاء هيئة التدريس في Google و 10٪ فقط في Google.
نظرًا لأن منظمة العفو الدولية تزداد أهمية في العمليات التجارية ، فإن السؤال الذي يجب استكشافه هو: ما هو التأثير الذي يمكن أن تحدثه منظمة العفو الدولية على الفجوات بين الجنسين والقوة العاملة بشكل عام؟ (اقرأ هل يمكن لعلم الوراثة أن يشرح الفجوة بين الجنسين بين الرجال والنساء في التكنولوجيا؟)
لقد وصلت إلى عدد قليل من الخبراء في هذا المجال للتعرف على الدور الذي يمكن أن تلعبه منظمة العفو الدولية في تعزيز أو تجاوز التحيز الجنساني. بشكل عام ، هم متفائلون بالمستقبل.
النساء ومنظمة العفو الدولية
يعتقد أنيش جوشي ، نائب رئيس قسم التكنولوجيا في Fusemachines (المزود الرائد للخدمات والحلول والتعليم في منظمة العفو الدولية) أن الذكاء الاصطناعى "يزيل التحيز من عملية التوظيف التي فضلت الرجال تاريخياً".
وهذا يتوافق مع ما لاحظته إيمي تشن ، مديرة قسم العمليات في Cortex Labs ، حول الذكاء الاصطناعي الذي يمثل تعارضًا مع المنظورات العاطفية أو الذاتية التي لا تزال تؤثر على القرارات: "يمكننا في المستقبل أن نكون أكثر استنادًا إلى وقائع موضوعية بأقل من الصور النمطية والتحيز ،" .
وأوضح جوشي أن الطريقة التي ستعمل بها هي كما يلي:
No Bugs، No Stress - دليلك خطوة بخطوة لإنشاء برامج لتغيير الحياة دون تدمير حياتك
لا يمكنك تحسين مهارات البرمجة لديك عندما لا يهتم أحد بجودة البرنامج.
- تستطيع خوارزميات الذكاء الاصطناعي دمج البيانات التي تهم عند التوظيف (المؤهلات ، التعليم ، الخبرة ، إلخ) وتجاهل البيانات التي لا تهم (الجنس ، العرق ، العمر ، إلخ).
- يمكن لهذه التقنية أيضًا قياس الاتجاهات ذات الصلة واستخدام التحليل التنبئي لجعل التعيينات القائمة على الجدارة أفضل.
- قد يقدر الموظفون أشياء مختلفة في مكان العمل ، ويمكن للتحليل التنبئي المعزز لمنظمة العفو الدولية تحديد هذه الاختلافات.
لاحظ جوشي أن هذا ليس افتراضياً بشكل صارم ، لكن تم تطبيقه بالفعل من خلال استخدام برامج صنعتها شركات مثل Gapsquare و Pipeline و Plum و Pymetric لدفع القرارات بناءً على البيانات. ومع ذلك ، فهو يقر بأن التحيز المبرمج في الذكاء الاصطناعي يمكن أن يؤدي إلى تفاقم التباين بين الجنسين في التوظيف.
وأوضح قائلاً: "إذا تم تدريب الخوارزميات على البيانات المتحيزة ، فسوف ينتج عنها نتائج متحيزة. يمكن أن يكون ذلك ضارًا بشكل خاص بالنساء في مجال الموارد البشرية والتوظيف. كان هناك العديد من الأمثلة البارزة على ذلك ، بما في ذلك حالة مع أمازون التي تعاقب تكنولوجيا التعليم الآلي على توظيفها يستأنف أن صاحبها كان أنثى ، على سبيل المثال ، المرأة. "
"تشير تقارير رويترز إلى أن نماذج كمبيوتر أمازون قد تم تدريبها على فحص المتقدمين من خلال مراقبة الأنماط في السير الذاتية المقدمة إلى الشركة خلال فترة 10 سنوات. معظمهم جاءوا من الرجال ، وهو ما يعكس هيمنة الذكور على قطاع التكنولوجيا".
ومع ذلك ، يحتفظ جوشي "بالأمل في أن تساعد منظمة العفو الدولية في زيادة عدد النساء المعينات." وأشار إلى تقرير يونيليفر بأن تنوع الموظفين قد تحسن بنسبة 16 ٪ ، وذلك بفضل تطبيق الذكاء الاصطناعى.
وضع Michal Neufeld ، CPO من Ubimo الأمر على هذا النحو: "باختصار ، تكون أي خوارزمية جيدة مثل المدخلات التي تحصل عليها والنماذج التي تستخدمها." إن الخطر الحقيقي في الذكاء الاصطناعي المنغمس في التحيز من برمجتها هو أنها يمكن أن تحمل ظهور وتحمل سلطة "العلم الموضوعي".
ومع ذلك ، فإن الوعي بذلك ينمو ، وهذا هو الحلول الملهمة.
وقال نيوفيلد: "يرجع ذلك جزئيًا إلى النتائج المؤسفة مثل قضية COMPAS ، ويرجع ذلك جزئيًا إلى وجود حاجة عملية لشرح النتائج التي توفرها هذه الأنظمة والوقوف وراءها ، ونأمل أيضًا لأننا نحاول القيام بعمل أفضل".
معالجة التحيز المخبوز في الذكاء الاصطناعي
أوضح نيوفيلد أن الكثير من المشكلة تنبع من الصعوبة الكامنة في فهم ما يحدث بالضبط في نماذج الذكاء الاصطناعي. هذا ما أصبح يعرف باسم مشكلة "الصندوق الأسود" (انظر AIs حصلت على بعض الشرح للقيام به).
وأوضحت أن هناك طريقة واحدة لمعالجة "تطوير مفسرين مثل LIME ، تهدف إلى" هندسة عكسية "للمدخلات والمخرجات والنموذج للإشارة إلى الميزات من المدخلات التي استخدمت في نهاية المطاف من أجل حساب نتائج النموذج."
وهذا من شأنه أن يجعل من الممكن "تحديد المتنبئين المتحيزين ، أو افتراض السببية مقابل الارتباط".
إنها تعتقد أيضًا أنه من المهم الوصول إلى السبب الأساسي للتحيز ، وليس فقط الطريقة التي تظهر بها في نتائج الذكاء الاصطناعي. طريقة القيام بذلك هي من خلال "التركيز على التعليم وشرعية التحيز الثقافي". نوفيلد متفائل بأنه سيكون من الممكن إزالة التحيز من الناس وستتبعه البرامج الخالية من التحيز بشكل طبيعي.
هذا التوقع المتفائل يشاركه الآخران أيضًا.
تأثير الذكاء الاصطناعى على القوى العاملة
يقر جميع المجيبين بأنه سيكون هناك بعض النزوح الوظيفي لأن بعض المهام تتم آليا من خلال الذكاء الاصطناعى. اعترف جوشي كذلك كيف يمكن أن يكون لذلك تأثير ضار على النساء.
"الأدوار التي كانت عادةً ما تحتلها النساء (إدارية ، خدمة العملاء ، إلخ) يجري تشغيلها تلقائيًا ، مما يعرض بعض النساء لخطر استبدالهن إذا لم يكن لديهن مهارات عالية و / أو تم تدريبهن."
ومع ذلك ، فهم يؤكدون أن الخسارة في منطقة ما ستقابلها فرص في منطقة أخرى. وضعه نوفيلد بهذه الطريقة:
"كما هو الحال في الثورة الصناعية ، عندما تم استبدال عمل الناس بالآلات ، كانت لا تزال هناك حاجة إلى بناء تلك الآلات. في حالة اليوم ، لا يزال العمل المعرفي الذي تقوم به الآلات يفتقر إلى القدرات التي تتعدى المهام (مثل التصميم النموذج الذي سيكمل المهمة) أو هكذا نحن البشر لا نستطيع "تعليم" بسهولة ، مثل الإبداع ".
"على الرغم من الخسارة الواضحة للوظائف بسبب بدائل الذكاء الاصطناعي ، أعتقد أنه سيتم خلق العديد من الفرص الجديدة في مشهد" حراسة "الآلات - سواء في تدريبهم ، أو مراقبة نتائجهم الأخلاقية والاجتماعية ، أو شرح ناتجهم وسد الفجوة بين "هم" والبشر. سيكون الأشخاص مسؤولين عن تفسير وترجمة مجموعات البيانات التقنية والتنفيذ والنتائج إلى جانب قطاع الأعمال (الفنيون لوكلاء الأعمال). "
وأضاف جوشي أن القوى العاملة في المستقبل لن يتم تقليصها على الأشخاص أو الآلات بقدر ما يمكن للأشخاص الذين لديهم آلات.
"سيتعين على الناس أن يعتادوا على العمل إلى جانب الأجهزة الذكية ، وليس مجرد استبدالهم بها". واستشهد بمثال الابتكارات في تشخيص السرطان الآن. "لا يزال التقييم البشري ضروريًا قبل استخدام الذكاء الاصطناعي". (اقرأ لقاحات السرطان والذكاء الاصطناعي: الانتصار في الحرب ضد السرطان؟)
The AI Talent Pool Now and Down the Road
مشكلة نقص المواهب في التكنولوجيا شيء يشكو منه العديد من الشركات. يتفق جوشي وتشن ونيوفيلد على أن هذا هو الحال الآن. لكنهم جميعا يعتبرون هذا انتكاسة مؤقتة. يعتقد جوشي أن البرامج مثل تلك التي تقدمها برامج مثل مركز Fuse AI Center ستجعل التعليم الذكاء الاصطناعي أكثر سهولة ، وسيؤدي ذلك إلى "توسيع مجموعة المواهب في منظمة العفو الدولية وإعداد المهندسين بشكل أساسي لسوق الوظائف العالمية المتنامية بسرعة".
فيما يتعلق بالتعليم اللازم للوظائف ، يرى Neufeld أن وضع مواهب الذكاء الاصطناعى مشابه لما رأيناه من قبل ويتوقع أن يكون هناك تأرجح في الاتجاه الآخر:
"أعتقد أن هناك نقصًا في علم البيانات ومطوري الذكاء الاصطناعى اليوم ، مثله مثل نقص مطوري الويب في نهاية القرن السابق. وعلى غرار ذلك ، نرى التأثير الاقتصادي الطبيعي للعرض والطلب الذي يرفع الأجور وربحية مثل هذه المواقف ".
"إذا اضطررت للتنبؤ ، فسوف نرى ظواهر البندول للتشبع في السوق قبل تحقيق التوازن".
التعليم لتطوير تجمع المواهب لمنظمة العفو الدولية
يتوقعون جميعًا أنه سيتم تعليم المزيد من الأشخاص المهارات الفنية التي يحتاجون إليها للتقدم إلى الذكاء الاصطناعى في المستقبل وتحول المناهج الدراسية لإعداد الأفراد للقوى العاملة الحديثة. ومع ذلك ، يعتقد تشن أنه يجب أن يبدأ حتى في مستوى المدرسة الثانوية.
حجتها هي أن المناهج الدراسية تتكيف مع احتياجات العصر. في الجزء السابق من القرن الماضي الذي تركزت فيه التكنولوجيا حول المحركات ، شملت الموضوعات التي تم تدريسها على مستوى المدارس الثانوية الكيمياء والفيزياء والرياضيات. ثم تقدمت التكنولوجيا "لتركز حول أجهزة الكمبيوتر والهواتف المحمولة والآن AI و blockchain."
وبناءً على ذلك ، يقول تشن ، يجب أن يشمل التعليم الآن "الترميز ، وعلوم الكمبيوتر ، وهندسة الكمبيوتر" بين "المقررات الإلزامية".
من ناحية أخرى ، يعتقد نوفيلد أن التخصصات مثل الفلسفة وعلم النفس والأنثروبولوجيا قد تصبح ذات أهمية متزايدة في تدريب الأشخاص الذين يقومون ببرنامج الذكاء الاصطناعي. شرحت ذلك بهذه الطريقة:
"الجزء المثير للاهتمام من التغييرات في مجموعة المواهب هو في الوظائف التي لا نعرف عنها ، أو تلك التي تتطلب مؤهلات لا نعرف كيفية تدريسها. كيف يمكنك تدريب شخص ما على إنشاء جهاز يُظهر التعاطف أو يتعرف على السخرية ؟ "
"بهذا المعنى ، قد تصبح موضوعات الدراسة مثل الفلسفة وعلم النفس والأنثروبولوجيا أكثر استعدادًا لتدريب الجيل المقبل من مشغلي الذكاء الاصطناعي. وقد ينتج عن ذلك فجوة أكبر في المستقبل القريب ، حيث يتطلب الأمر بناء هذه القدرات وتكييف برامج التعليم من الألف إلى الياء."