هجمات متصاعدة تستهدف “أطلس”: OpenAI تحذر من تهديد سيبراني دائم.
هجمات حقن الأوامر Prompt Injection لا تزال تشكل تهديدًا كبيرًا لأنظمة الذكاء الاصطناعي الوكيلي في المتصفحات؛ هذا ما أكدته شركة OpenAI، حتى بعد التحسينات الأمنية التي أدخلتها على متصفحها الذكي ChatGPT Atlas، مما يثير تساؤلات جدية حول مدى أمان استخدام هؤلاء الوكلاء عبر المتصفحات.
OpenAI تعترف باستمرار خطر هجمات حقن الأوامر
أكدت OpenAI في مقال نشرته مؤخرًا أن هجمات حقن الأوامر، تمامًا مثل عمليات الاحتيال والهندسة الاجتماعية المنتشرة على الإنترنت، من المستبعد أن يتم القضاء عليها بشكل كامل؛ وأشارت الشركة إلى أن تفعيل “وضع الوكيل” في متصفح Atlas يزيد بشكل ملحوظ من المخاطر الأمنية المحتملة، مما يستدعي اتخاذ إجراءات وقائية إضافية. إطلاق متصفح Atlas من قبل OpenAI كان في شهر أكتوبر الماضي، وسرعان ما قام باحثون أمنيون بتجارب عملية تظهر سهولة التلاعب بسلوك المتصفح عن طريق إدخال أوامر خفية داخل مستندات أو رسائل بريد إلكتروني، مما يسلط الضوء على الثغرات الأمنية المحتملة. تعتبر OpenAI هجمات حقن الأوامر تحديًا أمنيًا مستمرًا وطويل الأمد، وتؤكد التزامها بتعزيز دفاعاتها بشكل مستمر؛ تعتمد الشركة على آلية استجابة سريعة واستباقية تهدف إلى اكتشاف أساليب الهجوم الجديدة داخليًا قبل أن يتم استغلالها في هجمات حقيقية، مما يضمن حماية أفضل لمستخدميها.
استراتيجيات OpenAI لمواجهة هجمات Prompt Injection
تتبنى OpenAI نهجًا فريدًا من خلال ما تسميه “مهاجمًا آليًا قائمًا على نماذج اللغة”، وهو عبارة عن روبوت تم تدريبه باستخدام التعلم المعزز ليقوم بدور المخترق؛ هذا الروبوت يبحث باستمرار عن طرق لإدخال أوامر خبيثة إلى وكلاء الذكاء الاصطناعي، مما يسمح للشركة باختبار الهجمات في بيئة محاكاة ودراسة كيفية تفكير الوكيل المستهدف واستجابته، ومن ثم تعديل الهجوم وإعادة المحاولة مرارًا وتكرارًا. يتيح هذا النظام اختبار السيناريوهات المختلفة ودراسة الثغرات المحتملة في بيئة آمنة، مما يساعد في تطوير استراتيجيات دفاعية أكثر فعالية؛ وأكدت الشركة أن هذا النهج ساعدها في اكتشاف استراتيجيات هجوم جديدة “لم تظهر خلال اختبارات الفرق البشرية أو في التقارير الخارجية”، بما في ذلك هجمات معقدة تتطلب عشرات الخطوات لتنفيذها بنجاح. هذه الاستراتيجيات المبتكرة تعزز بشكل كبير من قدرة OpenAI على حماية أنظمتها من التهديدات المتطورة.
توصيات وإجراءات لتعزيز أمان متصفح Atlas من هجمات حقن الأوامر
على الرغم من ذلك، لم تكشف OpenAI عما إذا كانت التحديثات الأخيرة قد أدت إلى انخفاض ملحوظ في الهجمات الناجحة، واكتفت بالإشارة إلى تعاونها مع أطراف خارجية لتعزيز أمان متصفح Atlas قبل إطلاقه؛ وتوصي OpenAI المستخدمين باتخاذ خطوات لتقليل المخاطر، مثل تقييد صلاحيات الوصول، وطلب تأكيد المستخدم قبل إرسال الرسائل أو تنفيذ المدفوعات، بالإضافة إلى إعطاء الوكلاء تعليمات محددة بدلًا من منحهم صلاحيات مفتوحة. هذه الإجراءات تهدف إلى توفير طبقة إضافية من الحماية للمستخدمين. تتشابه هذه المقاربة مع ما تعلنه شركات منافسة مثل أنثروبيك وجوجل، التي تؤكد أن مواجهة هذا النوع من الهجمات يتطلب طبقات متعددة من الحماية واختبارات مستمرة؛ مع تركيز جوجل حديثًا على ضوابط معمارية وسياسات تخص أنظمة الوكلاء الأذكياء.
تعتبر OpenAI حماية مستخدمي Atlas أولوية قصوى، إلا أن بعض الخبراء يرون أن الفوائد الحالية لهذه المتصفحات لا تبرر مستوى المخاطر المرتبطة بها بعد.
