صور مزيفة وتشهير: الذكاء الاصطناعي سلاح جديد لانتهاك خصوصية النساء

صور مزيفة بالذكاء الاصطناعي تثير الجدل، حيث كشف تقرير حديث عن استغلال البعض لروبوتات الدردشة لإنشاء صور مسيئة لنساء، وهو ما يثير المخاوف بشأن إساءة استخدام هذه التقنيات وتجاوز أنظمة الحماية، الأمر الذي يستدعي تضافر الجهود لمواجهة هذه الظاهرة وحماية خصوصية الأفراد.

التحايل على أنظمة الحماية في الذكاء الاصطناعي لإنتاج صور مزيفة

وفقًا للتقرير الصادر عن مجلة “WIRED”، يقوم بعض المستخدمين بتبادل الإرشادات عبر منصات التواصل الاجتماعي، خاصة “ريديت”، حول كيفية الالتفاف على أنظمة الحماية المدمجة في أدوات الذكاء الاصطناعي؛ هذه الإرشادات تسمح لهم بتعديل صور النساء الحقيقية، وتحويلها إلى صور تظهر فيها بملابس غير محتشمة، الأمر الذي يمثل انتهاكًا صارخًا للخصوصية واستغلالًا غير أخلاقي للتكنولوجيا، هذا السلوك دفع “ريديت” إلى حظر مجتمع “r/ChatGPTJailbreak” الذي كان يضم أكثر من 200 ألف عضو، وذلك بسبب تبادلهم هذه الطرق المخالفة لسياسات المنصة؛ الجدير بالذكر أن المستخدمين ناقشوا كيفية دفع نموذج Gemini التابع لجوجل إلى توليد هذا النوع من الصور، ما يعكس مدى التحدي الذي تواجهه الشركات في حماية أدواتها من سوء الاستخدام.

وفي إحدى الحالات الموثقة، قام مستخدم بنشر صورة لامرأة ترتدي ساريًا هنديًا، وطلب تعديلها لتظهر بملابس كاشفة؛ سرعان ما استجاب مستخدم آخر بتقديم صورة مزيفة تم إنشاؤها باستخدام الذكاء الاصطناعي، قبل أن يتدخل فريق السلامة في المنصة لإزالة الصورة؛ هذا الحادث يوضح مدى السرعة التي يمكن بها استغلال هذه الأدوات لإنتاج صور مسيئة، وأهمية وجود آليات فعالة للكشف عن هذه الانتهاكات والاستجابة لها بسرعة.

مخاوف متزايدة من إساءة استخدام الذكاء الاصطناعي لإنشاء صور مزيفة

تتزايد المخاوف بشأن إساءة استخدام أدوات الذكاء الاصطناعي القادرة على إنتاج صور واقعية ولكنها غير حقيقية، وإمكانية استخدامها لتعديل صور الأشخاص بغرض الإساءة إليهم والتشهير بهم، هذه المخاوف ليست مجرد تكهنات، بل هي مدعومة بحالات واقعية مثل تلك التي تم الكشف عنها في تقرير مجلة “WIRED”، فمع تطور هذه الأدوات وقدرتها على إنتاج صور أكثر واقعية، يصبح من الصعب التمييز بين الصور الحقيقية والمزيفة، مما يزيد من خطر انتشار المعلومات المضللة والإساءة إلى الأفراد.

رغم أن معظم روبوتات الدردشة الشهيرة، مثل Gemini وChatGPT، تمنع عادةً إنشاء صور إباحية وتعتمد على أنظمة حماية، فإن بعض المستخدمين ينجحون في تجاوز هذه القيود؛ هذا الأمر يتطلب من الشركات المطورة لهذه الأدوات بذل المزيد من الجهد لتحسين أنظمة الحماية وتطوير آليات جديدة للكشف عن التحايل ومنعه، يجب أن يكون هناك توازن بين توفير الأدوات المفيدة للمستخدمين وحماية المجتمع من سوء استخدامها.

في سياق متصل، أطلقت جوجل في نوفمبر الماضي نموذج الصور الجديد Nano Banana Pro، المتخصص في تعديل الصور وإنشاء صور شديدة الواقعية؛ وردت OpenAI لاحقًا بإطلاق نموذجها المحدث ChatGPT Images؛ هذا التنافس في تطوير أدوات الذكاء الاصطناعي لإنتاج الصور قد يؤدي إلى تفاقم المشكلة، إذا لم يتم اتخاذ التدابير اللازمة لضمان استخدامها بشكل مسؤول؛ يحذر الخبراء من أن تطور هذه الأدوات قد يجعل الصور المزيفة أكثر إقناعًا في حال تجاوز أنظمة الحماية، مما يجعل من الضروري تطوير تقنيات للكشف عن الصور المزيفة والتحقق من صحتها.

جهود الشركات لمواجهة إساءة استخدام الذكاء الاصطناعي في الصور المزيفة

تتخذ الشركات خطوات لمواجهة إساءة استخدام الذكاء الاصطناعي في إنشاء صور مزيفة، فقد أكدت جوجل أن لديها “سياسات واضحة تمنع استخدام أدواتها في إنشاء محتوى جنسي صريح”، مؤكدةً العمل المستمر على تحسين الالتزام بهذه السياسات، من جانبها، أوضحت OpenAI أنها تمنع تعديل مظهر أي شخص حقيقي دون موافقته، مع اتخاذ إجراءات قد تصل إلى حظر الحسابات المخالفة؛ هذه الإجراءات تعكس التزام الشركات بحماية المستخدمين ومنع سوء استخدام أدواتها.

الشركة	الإجراءات المتخذة
جوجل	سياسات واضحة لمنع المحتوى الجنسي الصريح، تحسين مستمر للالتزام بالسياسات
OpenAI	منع تعديل مظهر الأشخاص دون موافقتهم، حظر الحسابات المخالفة

لتعزيز هذه الجهود، يجب على الشركات التعاون مع الحكومات والمنظمات غير الحكومية لتطوير معايير دولية لمكافحة إساءة استخدام الذكاء الاصطناعي، يجب أيضًا توعية المستخدمين بمخاطر الصور المزيفة وكيفية التعرف عليها، بالإضافة إلى ذلك، يجب تطوير تقنيات للكشف عن الصور المزيفة والتحقق من صحتها، مع التركيز على حماية خصوصية الأفراد وحقوقهم.

• تطوير معايير دولية لمكافحة إساءة استخدام الذكاء الاصطناعي
• توعية المستخدمين بمخاطر الصور المزيفة وكيفية التعرف عليها
• تطوير تقنيات للكشف عن الصور المزيفة والتحقق من صحتها

إن مواجهة إساءة استخدام الذكاء الاصطناعي في إنشاء صور مزيفة يتطلب تضافر الجهود من جميع الأطراف المعنية، من الشركات المطورة للأدوات إلى الحكومات والمستخدمين، من خلال العمل معًا، يمكننا ضمان استخدام هذه التقنيات بشكل مسؤول وأخلاقي، وحماية المجتمع من المخاطر المحتملة.