هل يستخدم المتسللون الذكاء الاصطناعى للنوايا الخبيثة؟

المحتوى

• القرصنة منظمة العفو الدولية
• القتال مرة أخرى
• No Bugs، No Stress - دليلك خطوة بخطوة لإنشاء برامج لتغيير الحياة دون تدمير حياتك

المصدر: Sdecoret / Dreamstime.com

يبعد:

الذكاء الاصطناعى لديه القدرة على حماية البيانات كما لم يحدث من قبل ، ولكن لديه أيضا القدرة على سرقة البيانات كما لم يحدث من قبل. يحاول المحترفون الأمنيون والمتطفلون على حد سواء الاستفادة القصوى من هذه التكنولوجيا.

يبحث محترفي الأمن السيبراني في الذكاء الاصطناعي (AI) بكل من الحماس والخوف. من ناحية ، لديها القدرة على إضافة طبقات جديدة تمامًا للدفاع للبيانات والبنية التحتية الهامة ، ولكن من ناحية أخرى ، يمكن استخدامها أيضًا كسلاح قوي لإحباط تلك الدفاعات دون ترك أي أثر.

مثل أي تقنية ، تتمتع الذكاء الاصطناعي بنقاط القوة التي يمكن الاستفادة منها ونقاط الضعف التي يمكن استغلالها. التحدي الذي يواجه خبراء الأمن اليوم هو الحفاظ على خطوة واحدة للأشرار ، والتي يجب أن تبدأ بفهم واضح لكيفية استخدام الذكاء الاصطناعي كسلاح هجومي.

القرصنة منظمة العفو الدولية

يقول نيكول كوبي ، من Wired ، إنه يجب علينا أن ندرك أنه ، مثل أي بيئة بيانات ، يمكن اختراق الذكاء الاصطناعي نفسه. توجد في كل عملية ذكية خوارزمية ، وتستجيب الخوارزميات للبيانات التي تتلقاها. لقد أظهر الباحثون بالفعل كيف يمكن للشبكات العصبية أن تخدع في التفكير بأن صورة السلحفاة هي في الواقع صورة لبندقية وكيف يمكن لاصق بسيط على علامة توقف أن يتسبب في قيادة سيارة مستقلة إلى التقاطع. هذا النوع من التلاعب لا يكون ممكنًا فقط بعد نشر الذكاء الاصطناعي ، ولكن عندما يتم تدريبه أيضًا ، فمن المحتمل أن يمنح المتسللين القدرة على إحداث جميع أنواع الخراب دون الحاجة إلى لمس البنية التحتية لمؤسسة العميل.

في حين أنه من المؤكد أنه لا يوجد نقص في المهربين الذين يتمثل هدفهم الوحيد في إيذاء الناس والتسبب في الرعب ، فإن الجائزة الحقيقية في لعبة القرصنة هي اكتشاف كلمة المرور وجميع إمكانيات السرقة / الابتزاز التي تأتي معها. في العام الماضي ، أنشأ معهد ستيفنز للتكنولوجيا برنامجًا لإظهار القوة التي تجلبها منظمة العفو الدولية في هذه العملية. قام الباحثون ببث عدد من البرامج المعروفة لتكسير كلمات المرور باستخدام خوارزميات ذكية تم تدريبها على تخمين مجموعات الحروف المحتملة الخاصة بالأحرف ، وخلال دقائق حصلوا على أكثر من 10 مليون كلمة مرور من LinkedIn. مع اكتشاف المزيد من كلمات المرور ، بالطبع ، يمكن استخدامها لتدريب هذه الخوارزميات التعليمية ، بحيث تصبح أكثر فاعلية بمرور الوقت حتى لو تم استخدام تدابير دفاع مشتركة ، مثل تغيير كلمة المرور بشكل روتيني. (لمزيد من المعلومات حول كلمات المرور ، راجع ببساطة تأمين: تغيير متطلبات كلمة المرور أسهل على المستخدمين.)

هل من الممكن أن يتم استخدام هذه الأدوات بالفعل من قبل المجرمين تحت الأرض؟ مع توافر خدمات AI المستندة إلى مجموعة النظراء بسهولة والعمل على شبكة الإنترنت المظلمة كغرفة مقاصة لجميع أنواع برامج التشفير ، سيكون من المدهش إذا لم يكن الأمر كذلك. تقول شركة Darktrace لتحليل التهديدات إنها ترى علامات مبكرة على وجود برامج ضارة مشهورة مثل TrickBot تظهر الوعي التعويضي في مهامها لسرقة البيانات وإغلاق الأنظمة. يبدو أنهم يعرفون ما الذي تبحث عنه وكيفية العثور عليه من خلال دراسة البنية التحتية المستهدفة ، ثم يقررون بأنفسهم أفضل طريقة لتجنب الاكتشاف. هذا يعني أن البرنامج لم يعد بحاجة إلى الحفاظ على اتصال مع المتسلل من خلال خوادم الأوامر والتحكم أو وسائل أخرى ، والتي عادة ما تكون واحدة من أكثر الوسائل فعالية لتتبع الجاني.

وفي الوقت نفسه ، بدأت عمليات احتيال الخداع التقليدية تبدو أصيلة أكثر فأكثر ، إلى حد كبير لأن أدوات الذكاء الاصطناعي يمكن أن تجعل الظهور الأولي يأتي من مصدر موثوق. على سبيل المثال ، تم تصميم معالجة اللغة الطبيعية لتقليد الكلام البشري. عندما يتم دمجها مع البيانات المتاحة بسهولة مثل الأسماء التنفيذية والعناوين ، يمكن أن ينتج عنها خطأ واقعي لدرجة أنه يمكن أن يخدع حتى المقربين. المستهلك العادي معرض بنفس القدر ، نظرًا لقدرة الذكاء الاصطناعى على استخراج كل أنواع البيانات لتزويد المحتال بمعلومات شخصية.

القتال مرة أخرى

كما ذكر أعلاه ، ومع ذلك ، AI هو شارع ذو اتجاهين. في حين أنه قد يسمح للمتسللين بإدارة دوائر حول أنظمة الأمان التقليدية ، إلا أنه يجعل أنظمة الأمان الحالية أكثر فاعلية. وفقًا لمجلة التأمين ، فقد تمكنت شركة Microsoft من إحباط محاولة اختراق لسحابة Azure الخاصة بها مؤخرًا عندما اكتشف نظامها الأمني ​​المتسلل من منظمة العفو الدولية اقتحامًا خاطئًا من موقع بعيد. كان من الممكن أن تمر المحاولة دون أن يلاحظها أحد بموجب البروتوكولات السابقة المستندة إلى القواعد ، لكن قدرة الذكاء الاصطناعى على التعلم والتكيف مع التهديدات الجديدة يجب أن تحسن بشكل كبير من قدرة المؤسسة على حماية نفسها حتى عندما تدفع البيانات والبنية التحتية جدار الحماية التقليدي إلى السحابة والإنترنت من الأشياء. يقوم كل من مزودي السحابة الفائقي المستوى بتنفيذ AI بقوة على أجهزتهم الأمنية ، لأنه كلما تم وضعه موضع التنفيذ ، كلما تعلمت أكثر في الوقت الذي واجهت فيه الاختراقات الممكّنة لمنظمة العفو الدولية. (لمعرفة المزيد ، راجع كيف تؤثر التطورات المتقدمة على الأمن والأمن السيبراني والقرصنة.)

وبهذه الطريقة ، فإن الذكاء الاصطناعي هو مجرد تصعيد في الحرب الأمنية المتبادلة التي استمرت لعقود. مع ظهور تهديدات جديدة ، ترتفع دفاعات جديدة لمواجهتها ، مع نفس التقنيات الأساسية التي تغذي كلا الجانبين.

No Bugs، No Stress - دليلك خطوة بخطوة لإنشاء برامج لتغيير الحياة دون تدمير حياتك

لا يمكنك تحسين مهارات البرمجة لديك عندما لا يهتم أحد بجودة البرنامج.

إذا كان هناك أي شيء ، فمن المحتمل أن تسرع منظمة العفو الدولية هذه العملية بينما تزيل في الوقت نفسه العديد من الأنشطة العملية من المشغلين البشريين. هل سيكون هذا شيئًا جيدًا أو شيئًا سيئًا لمحاربي الإنترنت اليوم؟ ربما مزيج من كل من القبعات البيضاء والقبعات السوداء تتخلى عن المكسرات والمسامير لترميز هجماتهم والدفاعات والتركيز على الجوانب الاستراتيجية أكثر من الحرب الإلكترونية في العصر الحديث.