المحتوى
- أطلقت من قبل الجهاز
- الأتمتة وتعطيل الوظيفة
- No Bugs، No Stress - دليلك خطوة بخطوة لإنشاء برامج لتغيير الحياة دون تدمير حياتك
- تطبيقات من الالكترونيات الاستهلاكية
- استعادة السيطرة
- كيف يمكن أن تعمل
المصدر: Artinspiring / Dreamstime.com
يبعد:
من أجل أن تعمل الأتمتة مع الإنسانية ومن أجلها وليس ضدها ، نحتاج إلى ضمانات وأفراد مطلعين لديهم القدرة على إيقاف أو إصلاح خطأ في النظام.
"كل ابن آدم خطاء؛ قام ويليام إي فوجان بهذه الملاحظة مرة أخرى في عام 1969. إن السيطرة على نظام أوتوماتيكي يحمل إمكانات على النظام أن ينفجر ويتسبب في أضرار جسيمة قبل أن يتم فحصه.
الأتمتة ليست جديدة ، لكنها أصبحت أكثر انتشارًا بفضل تكامل النظم الرقمية والمادية. الاتجاه الصعودي للأتمتة على نطاق واسع هو كفاءة كبيرة. لكن الجانب السلبي للاعتماد على نظام ضبط وتنسى هو أن شخص ما قد يفشل في ضبطه بشكل صحيح.
مع وجود نظام يتبع ببساطة دون تدخل ودون أي وسيلة لإيقاف الماكينة ، يمكنك الحصول على تأثيرات مدمرة. وفقًا لذلك ، يمكن للتكنولوجيا أن تخلق نوع الموقف الموضح في "The The Sorcerer Apprentice" ، عندما يبدو أن ما يجعل الحياة أسهل عن السيطرة.
أطلقت من قبل الجهاز
الأتمتة دون تدخل هي التي أدت إلى إيجاد عامل تقني في المملكة المتحدة لإيجاد نفسه من العمل دون سبب في العام الماضي. لاحظ إبراهيم ديالو أن بطاقات التخليص الأمنية الخاصة به لم تكن تعمل ، واكتشف أنه كان بسبب عدم وجود وظيفة. "The Fired Me" هو العنوان الذي أعطاه لمنشورته الموسعة للمدونة حول الحدث.
في نهاية المطاف ، لم يكن سبب إنهاء Diallo نوعًا من تقييم الخوارزمية الذي حدد من الذي يجب إزالته. لم تكن المشكلة داخل النظام ، ولكنها كانت مشكلة خطأ بشري. في هذه الحالة ، كان كل ذلك استجابة تلقائية لفشل الإنسان في وضع معلومات تجديد عقد شركة Diallo.
ليس الأمر أن الآلة قررت إطالقه على وجه الخصوص. لقد نفذت ببساطة الخطوات المبرمجة فيه لشخص لم تظهر حالته كموظف. كما يوضح في التعليقات ، هذا ليس حقًا الذكاء الاصطناعى ولكنه "نص تلقائي". (لمعرفة كيف يمكن أن تساعد الذكاء الاصطناعى (بدلاً من الأذى) في الشركات ، راجع ما الذي يمكن أن تفعله منظمة العفو الدولية للمؤسسة.)
الأتمتة وتعطيل الوظيفة
هذا النوع من التأثير ليس بالضبط ما يتخيله الناس عند وصف الفوائد الرائعة التي يمكن أن نتوقعها في المستقبل الآلي. النظرة المتفائلة المعتادة لتغيير الوظائف حيث يتم تنفيذ المهام عن طريق التشغيل الآلي ، سيتم إعادة تعريف الوظائف - لا يتم إنهاؤها بواسطة الأنظمة الآلية. ولكن الحقيقة هي أنه سيتم إلغاء بعض الوظائف ، ولن يتمكن الأشخاص الذين شغلوها من إجراء انتقال سلس إلى وظائف جديدة في صناعة مؤتمتة إلى حد كبير.
يعد اضطراب الوظيفة أحد المخاطر البسيطة التي تصورها إيلون موسك لظهور الذكاء الاصطناعي ، على الرغم من أن رؤيته الخاصة للتأثير على الوظائف أكثر تشاؤماً من تصورات فيتزجيرالد. من وجهة نظر Musk ، فإن الذكاء الاصطناعى يحتاج إلى تنظيم صارم لأنه يمثل "خطرًا وجوديًا أساسيًا على الحضارة الإنسانية".
No Bugs، No Stress - دليلك خطوة بخطوة لإنشاء برامج لتغيير الحياة دون تدمير حياتك
لا يمكنك تحسين مهارات البرمجة لديك عندما لا يهتم أحد بجودة البرنامج.
تطبيقات من الالكترونيات الاستهلاكية
على الرغم من أوراق اعتماد Musk التقنية الخاصة ، يقول بعض الخبراء في هذا المجال مثل رودني بروكس ، الذي شغل منصب المدير المؤسس لمختبر علوم الكمبيوتر والذكاء الاصطناعي بمعهد ماساتشوستس للتكنولوجيا ، ومؤسس معهد كل من iRobot و Rethink Robotics ، إن Musk مخطئ بشأن تهديد الذكاء الاصطناعي وكيف تعمل فعلا.
في مقابلة مع TechCrunch ، أشار Brooks إلى أنه من الحماقة الدعوة إلى لوائح دون نضج التكنولوجيا إلى النقطة التي يمكننا عندها تحديد ما يجب تنظيمه بالضبط. لقد تحدى المسك: "أخبرني ، ما هو السلوك الذي تريد تغييره ، إيلون؟"
اعترف بروكس بأن الروبوتات ستؤدي إلى نزوح الوظائف. لكنه يعتقد أيضًا أنه من الممكن تحويل النموذج في الصناعة إلى اتباع نموذج الإلكترونيات الاستهلاكية.
كانت طريقة تعبيره في مقابلة TechCrunch هي: "لدينا تقليد في تصنيع المعدات بأن لديها واجهات مستخدم رهيبة ومن الصعب عليك أخذ دورات ، بينما في الأجهزة الإلكترونية الاستهلاكية ، صنعنا الآلات التي نستخدمها لتعليم الناس كيفية استخدامها. "
هذا ما قاله يجب أن يكون الهدف من تغيير الطريقة التي نتعامل بها مع "المعدات الصناعية وغيرها من أنواع المعدات ، لجعل الآلات تعلم الناس كيفية استخدامها."
استعادة السيطرة
إن ما يقترحه بروكس قد يوجهنا نحو حل لمشكلة الخطأ البشري الذي ينطلق العملية الآلية التي يبدو أنها تخرج عن نطاق السيطرة. للإشارة إلى مغامرة ميكي الخاطئة في "The The Sorcerer's Apprentice" ، فإن المشكلة تنبع من الشخص الذي يقوم بتنشيط النظام ولكن ليس لديه طريقة حقيقية للتواصل معه لإيقافه أو تغيير اتجاهه.
ولكن إذا تم تصنيع الواجهة على غرار الإلكترونيات الاستهلاكية بدلاً من النماذج الصناعية التقليدية ، فبإمكانها أن تعيد التحكم في أيدي البشر. لكي تكون فعالة حقًا ، لا يجب أن تكون الواجهة سهلة الوصول فحسب ، بل يجب تصميمها لإبقاء الأشخاص في حلقة مستمرة حول ما يحدث ، وتوفير بيانات حول التحديثات التي تلقتها والإجراءات التي اتخذتها.
كيف يمكن أن تعمل
في حالة إنهاء Diallo العرضي ، فإن هذا يعني أن النظام الآلي لن يحبسه فقط خارج النظام ومن ثم يقدم إلى مجنده أنه تم إنهائه. سوف تدرك أولاً أن تجديد العقد لم يتم في الموعد المتوقع. قبل البدء في إجراءات الإنهاء ، فإنه سيقدم للمدرب والموظف التحديث بشأن عدم التجديد والعواقب التي ستتبع ذلك خلال اليوم إذا لم يتم اتخاذ أي إجراء.
سيسمح هذا النوع من التنبيه للناس باتخاذ قرارات مستنيرة حول ما إذا كان يجب السماح بتشغيل الأتمتة أو التدخل لتصحيح الخطأ البشري الذي كان السبب الأصلي للمشكلة. لكن يتعين على الأشخاص أيضًا أداء دورهم والرد على التنبيه واتخاذ الإجراء المناسب. بمعنى آخر ، فإن إجابة السؤال الذي طرحه بروكس حول السلوك ينطبق على البشر ؛ يجب أن يكونوا أقل فاعلية في مواجهة الأتمتة. (لمزيد من المعلومات حول كيف يمكن للبشر والآلات العمل بشكل تعاوني ، راجع توجيه العنصر البشري: السياسة والإجراءات والعملية.)
وكما كتب ديالو في قسم التعليقات في مدونته ، فإن السبب في ذلك كان قادراً على الوصول إلى الحد الذي فعله هو أن الناس رفضوا التعارض مع الآلة:
شيء آخر يتم تجاهله ، هو أنه على الرغم من أن الجميع يعلمون أنه كان خطأً إنسانياً أدى إلى ذلك ، وأنه كان خطأً بحتاً ، فقد اختاروا اتباعه. يشبه وضع علامة "التدخين مسموح" في المستشفى والناس يحترمون العلامة بدلاً من استخدام الحس السليم.
وفقًا لذلك ، فإن السياسات التي نحتاج إلى تبنيها من أجل أن تعمل الأتمتة مع الإنسانية ومن أجلها وليس ضدها ذات شقين: من ناحية الآلة ، نحتاج إلى واجهات يمكن الوصول إليها وغنية بالمعلومات ، وعلى الجانب الإنساني ، نحن بحاجة إلى أن يكون الناس مخوّل تحديد متى لا يكون هناك شيء صحيح والتدخل لتصحيحه.