أطلق خبير مختص في مجال الأمن الإلكتروني تحذيراً عاجلاً وبالغ الخطورة بشأن الأضرار التي يُمكن أن تحدث من جراء الذكاء الاصطناعي في حال انفلت وخرج عن السيطرة، مؤكداً أن هذه التكنولوجيا يُمكن أن تقضي على الولايات المتحدة بأكملها خلال يوم واحد.
ونقلت جريدة «دايلي ميل» البريطانية في تقرير لها اطلعت عليه «القدس العربي» هذا التحذير عن الخبير العالمي جيمس نايت الذي يدير موقع «ديجيتال وار فير» المختص في قضايا الإنترنت وأمن المعلومات والذكاء الاصطناعي.
وقال إن الاختراق الأمني الصادم الذي نفذه نظام ذكاء اصطناعي «خارج عن السيطرة» قد يكون الأول ضمن جيل جديد من الكوابيس السيبرانية التي تهدد المجتمع.
وكانت شركة «OpenAI» التي تمتلك التطبيق الأشهر «تشات جي بي تي» قد كشفت علناً في 21 تموز/يوليو الماضي أن أحد نماذجها المتقدمة قد أفلت من قيود التحكم، ووصل إلى شبكة الإنترنت، واخترق أنظمة شركة أخرى متخصصة في الذكاء الاصطناعي.
ويسود الاعتقاد أن هذا الاختراق هو الأول من نوعه حيث يتسلل فيه نموذج ذكاء اصطناعي بشكل مستقل إلى قواعد بيانات شركة أخرى من دون توجيه بشري، فيما أثار هذا التطور غير المسبوق حالة من القلق العالمي، واستدعى مقارنات بانتفاضات الروبوتات التي صوّرتها أفلام شهيرة كثيرة في السابق.
وصرح جيمس نايت بأن هذا الأمر ليس مجرد خيال، محذراً من أن برامج القرصنة المدعومة بالذكاء الاصطناعي يمكن أن تدمر دولة بأكملها في يوم واحد؛ وذلك من خلال اختراق آلاف الشبكات التابعة للشركات والحكومات في آن واحد، وسرقة بيانات حساسة، وشلّ الأنظمة الحيوية باستخدام برمجيات الفدية. وقال نايت، وهو خبير مخضرم في الأمن السيبراني تعمل شركته على كشف الثغرات في أنظمة الكمبيوتر لدى الشركات الكبرى: «منذ عامين وحتى الآن، لدينا برمجيات ذكاء اصطناعي قادرة بالفعل على تحقيق هذا المستوى من الاختراق في غضون 15 دقيقة فقط».
وأضاف أن السيناريو الكارثي يتمثل في استخدام «الذكاء الاصطناعي الفاعل ذاتياً، والذي يُطلق عليه اسم «Agentic AI»، وهي برامج قرصنة تعمل بالذكاء الاصطناعي، حيث إن الكارثة هو أن يتم استخدامه من قبل جماعات إرهابية أو دول معادية لاستهداف آلاف الشركات دفعة واحدة ودون أي تدخل بشري، مشيراً الى أن هذا «قد يصبح حقيقة واقعة في غضون 25 عاماً فقط».
وتوقع نايت أنه خلال هذه الفترة الزمنية، ستتمكن أنظمة الذكاء الاصطناعي المتمردة من إدارة حملات قرصنة كاملة بسرعة فائقة (سرعة الآلة)؛ بدءاً من مسح الأهداف واختراق الأنظمة والتنقل عبر الشبكات وسرقة البيانات، وصولاً إلى نشر برمجيات الفدية لتصيب آلاف الشركات وملايين الأفراد.
كما حذر نايت من أن الذكاء الاصطناعي قد يُدمج في النهاية مع أجهزة كمبيوتر جديدة فائقة القوة قادرة على كسر أقوى وسائل الحماية الأمنية الرقمية، ما يتيح للمجرمين الوصول إلى كل شيء، من رسائل البريد الإلكتروني والسجلات المالية وحتى الأسرار العسكرية، في غضون ثوانٍ معدودة فقط.
وقال محذراً: «نحن نعلم ما يمكن لهذه الأنظمة فعله. ولسنا ساذجين لدرجة الاعتقاد بأن الحكومات لا تمتلك بالفعل إمكانية الوصول إلى هذه القدرات».
وأوضح نايت أن هذه الأسلحة سريعة التطور قد تتمكن قريباً من التخطيط والتصرف وتعديل استراتيجيتها بشكل ذاتي لإلحاق أقصى قدر من الضرر بالشركات والأفراد العاديين، وذلك بسرعة تضاهي سرعة الحواسيب العملاقة.
وصرح قائلاً: «إنها تنتقل بالفعل من مرحلة الأبحاث إلى حيز الاستخدام العملي»، مشيراً الى أن هذه النماذج تتجاوز بمراحل روبوتات الدردشة البسيطة التي يستخدمها الملايين يومياً، إذ يُمكنها التصرف باستقلالية وذكاء عالٍ بفضل أحدث تقنيات برمجة الذكاء الاصطناعي.
وتمثّل الاختبار في تقييم قدرة نماذج الذكاء الاصطناعي المتقدمة من شركة «OpenAI» على تنفيذ مهام معقدة تتعلق بالاختراق والأمن السيبراني؛ وهي تجربة أولية لـ«الأنظمة ذاتية التصرف» التي يخشى نايت أن تتجاوز قريباً قدرة الدفاعات الرقمية التي يديرها البشر.
وكان من المفترض أن يظل هذا الذكاء الاصطناعي -الذي خرج عن السيطرة- محصوراً في بيئة رقمية آمنة داخل حواسيب «OpenAI» ودون إمكانية الوصول المباشر إلى شبكة الإنترنت العامة، إلا أنه نجح في استغلال ثغرة غير مكتشفة في نظام الشركة ونشر نفسه عبر الشبكة.
واخترق نظام الذكاء الاصطناعي المتمرد الأنظمة الداخلية لشركة «Hugging Face»، وهي شركة تستضيف نماذج لغوية ضخمة ومجموعات بيانات للذكاء الاصطناعي، وسرق بيانات تسجيل دخول سرية وإجابات مخفية لاختبار الأمن السيبراني الذي كان البرنامج المارق يخضع له.
وصرحت شركة «Hugging Face» بأنها رصدت الاختراق وقامت بتأمين أنظمتها، مؤكدة عدم تعرض أي بيانات عامة أو معلومات خاصة بالعملاء للكشف.
وحذّر نايت قائلاً: «إن الدفاع بالسرعة البشرية ضد هجوم يتم بسرعة الآلة ليس منافسة عادلة». وأضاف: «في غضون دقائق، كان بإمكانها السيطرة بالكامل على عدد كبير منها. وكنا سنسمع كل يوم عن مئات الآلاف من الشركات الجديدة التي تعرضت للاختراق». وفي حين وصف الكثيرون عبر الإنترنت فكرة خروج برنامج حاسوبي عديم المشاعر عن السيطرة واختراق أي جهة يختارها بأنها «مخيفة»، أكد نايت أنه لم يكن هناك أي «سحر» في واقعة خروج نموذج «أوبن إيه آي» عن السيطرة.
وكشف نايت، الذي يتمتع بخبرة تمتد لثلاثة عقود في مجال الأمن السيبراني، عن كيفية اختراق نموذج الذكاء الاصطناعي لأنظمة أمان شركة «Hugging Face»، وهي الشركة التي تتيح لأي شخص رفع ابتكاراته في مجال الذكاء الاصطناعي أو استخدام ابتكارات الآخرين.
وأوضح أن الذكاء الاصطناعي المتمرد قام بنفس ما يفعله المخترقون البشر حالياً ولكن بسرعة أكبر بكثير، حيث استهدف كلمات مرور ضعيفة واستغل ثغرات في برمجيات تفتقر إلى أحدث التحديثات الأمنية.
وقال: «ما نراه في نماذج الذكاء الاصطناعي الحديثة هذه هو قدرات ذكية مؤتمتة تحاكي ما كان يتم يدوياً في الماضي؛ إلا أن كل شيء أصبح مؤتمتاً ويعتمد على ذكاء عالٍ مدعوم بقدرات حوسبة هائلة».
وأضاف نايت: «إذا استبعدنا كل العوامل الأخرى، فما مدى صعوبة أن يقوم أي ذكاء اصطناعي -ناهيك عن أحدث النماذج- باختراق نظام محمي بكلمة مرور ضعيفة؟ الأمر ليس صعباً على الإطلاق».
ووصف توماس وولف، الشريك المؤسس لشركة «Hugging Face» الحادث بأنه تحذير مرعب للصناعة بأكملها.
وأضاف وولف أن الاختراق كان بمثابة «جرس إنذار»؛ إذ يعتقد أن معظم الشركات غير مستعدة حالياً لهذا التهديد المتزايد، مشيراً إلى أنها لا تدرك أن «قواعد اللعبة قد تغيرت».
وفي بيان صحافي أقرّت فيه بواقعة الاختراق التي نفذها الذكاء الاصطناعي، زعمت شركة «أوبن إيه آي» أن البرنامج خرج عن السيطرة بعد أن خفف المهندسون من قواعد الأمان التي تمنع عادةً برامج الاختراق الخطيرة من تجاوز الحدود المسموح بها. وأضافوا أن الذكاء الاصطناعي ركّز بشدة على إنجاز هدفه لدرجة أنه اكتشف ثغرة أمنية غير معروفة سابقاً في بيئة الاختبار تُعرف باسم ثغرة «اليوم صفر» مما أتاح للذكاء الاصطناعي «المخترق» الخروج من نظام «أوبن إيه آي» والوصول إلى شبكة الإنترنت.
وأبدى نايت تشكيكاً في مزاعم «أوبن إيه آي» بأن البرنامج كان في البداية يعمل ضمن «بيئة معزولة»، أي أنه كان يخضع للاختبار داخل شبكة حاسوبية مغلقة تماماً. وقال: «لا يمكن أن يكون هذا الكلام صحيحاً. فلو كان الأمر كذلك، لما اتصل البرنامج بأي شبكة أخرى، وبالتأكيد لم يكن ليتمكن من الوصول إلى الإنترنت».
وفي حين حذّر نايت من أنه لا يوجد ما يمنع برنامج الذكاء الاصطناعي تماماً من اختراق قواعد البيانات إذا خرج عن السيطرة، فإن أفضل وسيلة دفاع تظل متمثلة في الإجراءات التي يتخذها البشر حالياً لصد المخترقين البشريين، وهي استخدام أساليب أفضل للتحقق من الهوية.
وكشف نايت قائلاً: «تشير الإحصائية الأكثر تداولاً إلى أن 80 في المئة من جميع عمليات الاختراق تنطوي على استخدام كلمات مرور ضعيفة، كما أن 60 في المئة منها كانت مرتبطة بغياب تحديث أمني ضروري».
كما أن الاستعانة بالذكاء الاصطناعي لإدارة مهام الأمن السيبراني والتحول إلى أساليب المصادقة متعددة العوامل -حيث يتلقى المستخدمون رمزاً خاصاً عبر هواتفهم للوصول إلى المواقع الإلكترونية- من شأنه أن يبطئ وتيرة الهجمات التي يشنها الذكاء الاصطناعي الخارج عن السيطرة.
وحذّر نايت قائلاً: «يمكن تجنب هذا السيناريو الكارثي، ولكن الأمر يتطلب تحركاً فورياً من الشركات للاستثمار في توظيف عدد كافٍ من الموظفين للتعامل مع الأساسيات وحماية أنفسهم».