اختبارات حكومية تكشف قصور إجراءات الحماية في الذكاء الاصطناعي
أظهر تقرير حديث صادر عن مكتب المحاسبة الحكومي الأمريكي أن نماذج الذكاء الاصطناعي التوليدي ما زالت تعاني من ثغرات أمنية جوهرية، حيث تمكن محققون حكوميون من استغلال أربعة من أشهر البرامج المتاحة لإعداد خطط هجومية خطيرة في زمن قياسي لم يتجاوز 12 ساعة، رغم وجود حواجز أمان مخصصة لمنع هذه التجاوزات.

تفاصيل الاختبارات السرية وتجاوز معايير الأمان
خضعت أدوات متعددة للاختبار في هذه التحقيقات، شملت برنامج ChatGPT المطور من شركة OpenAI، ومنصة Claude التابعة لشركة Anthropic، وأداة Gemini الممتلكة لشركة Google، بالإضافة إلى نموذج Grok. وقد قام المحققون بمحاكاة أدوار مهاجمين واستخدموا تقنيات كسر الحماية الشائعة لإجبار الأنظمة على تجاهل قيود السلامة.
- تقديم مساعدات عملية لتخطيط هجمات باستخدام عبوات ناسفة مبتكرة في مناطق حضرية مزدحمة.
- توفير بيانات حساسة لاستهداف البنية التحتية لشبكات الكهرباء.
- التحقق من صحة البيانات الموفرة عبر تقييمات ميدانية واستشارات مع خبراء متخصصين.
ردود الشركات المطورة والحدود الفنية للاختبارات
أوضحت السلطات أن التقييم ركّز على مدى قابلية التطبيق الميداني للمعلومات المقدمة من أدوات الذكاء الاصطناعي وليس تنفيذ الهجمات بالفعل. ومن جانبها، أشارت شركات التكنولوجيا مثل شركة OpenAI وشركة Google إلى أن الاختبارات جرت على إصدارات قديمة، بينما أقرت شركة Anthropic بوجود ثغرات تسمح للمستخدمين المصممين باستخراج محتوى حظرته معايير السلامة.
تسارع الثغرات البرمجية وضغوط الصيانة الأمنية
تأتي هذه النتائج بالتزامن مع ارتفاع غير مسبوق في عدد الثغرات البرمجية المكتشفة عالميًا، حيث تظهر البيانات تسجيل أكثر من 100 ألف ثغرة برمجية حتى منتصف نوفمبر، وهو ما يتجاوز ضعف الأرقام المسجلة في أعوام سابقة. وتعود هذه الزيادة الحادة إلى قدرة أدوات التقييم الذكية على اكتشاف العيوب بسرعة تفوق قدرة البشر على المعالجة.
وقد أدى الاستعجال في إرسال التحديثات الأمنية لإصلاح عيوب البرمجيات إلى اضطرابات تشغيلية غير مقصودة في مؤسسات كبرى مثل وكالة الأمن القومي الأمريكية وشركة Microsoft وعدد من البنوك، مما يبرز التحدي المزدوج الذي يواجهه المدافعون الرقميون.
تحركات تشريعية ورؤية مستقبلية للتنظيم
حذرت السيناتور ماغي حسان من سهولة حصول أطراف معادية على دليل عملي للتنفيذ خلال ساعات قليلة باستغلال تقنيات الذكاء الاصطناعي. وأعلنت أن تنظيم هذا القطاع وتعزيز سلامة البنية التحتية سيكونان على رأس أولويات اللجنة البرلمانية المختصة مع بداية العام الجديد، بهدف وضع أطر قانونية تحد من هذه المخاطر المتزايدة.
إرسال تعليق