كشف تقرير حديث نشرته مجلة “WIRED” عن إقدام بعض مستخدمي روبوتات الدردشة المعتمدة على الذكاء الاصطناعي بإنشاء صور مزيفة لنساء يرتدين ملابس كاشفة اعتمادًا على صور حقيقية لهن كنّ يرتدين فيها ملابس كاملة.

وبحسب التقرير، فقد تبادل مستخدمون عبر منصة التواصل الاجتماعي “ريديت” إرشادات حول كيفية التحايل على أنظمة الحماية في أدوات الذكاء الاصطناعي، لاستخدامها في تعديل صور النساء وجعلهن يظهرن بملابس كاشفة. وظهر ذلك في منشور محذوف ناقش فيه المستخدمون طرق دفع نموذج Gemini التابع لشركة جوجل إلى توليد هذا النوع من الصور.

وفي إحدى الحالات، نشر مستخدم صورة لامرأة ترتدي ساريًا هنديًا، وطلب تعديلها لتظهر بملابس كاشفة. وردّ مستخدم آخر بصورة مزيفة اُنشئت بالذكاء الاصطناعي قبل أن يزيلها فريق السلامة في المنصة لاحقًا.

وأكد متحدث باسم ريديت أن هذا السلوك مخالف لسياسات المنصة، كما حظرت المنصة مجتمع “r/ChatGPTJailbreak”، الذي كان يضم أكثر من 200 ألف عضو، بسبب انتهاكه قواعد المنصة؛ إذ كان يتبادل فيه الأعضاء طرق التحايل على أنظمة الحماية في أدوات الذكاء الاصطناعي.

ويأتي ذلك في وقت تتزايد فيه المخاوف من إساءة استخدام أدوات الذكاء الاصطناعي القادرة على إنتاج صور واقعية لكنها غير حقيقية، وإمكانية استخدامها لتعديل صور الأشخاص بغرض الإساءة إليهم والتشهير بهم.

ومع أن معظم روبوتات الدردشة الشهيرة مثل Gemini وChatGPT، تمنع عادةً إنشاء صور إباحية وتعتمد على أنظمة حماية، فإن بعض المستخدمين ينجحون في تجاوز هذه القيود.

وفي نوفمبر الماضي، أطلقت جوجل نموذج الصور الجديد Nano Banana Pro، المتخصص في تعديل الصور وإنشاء صور شديدة الواقعية. وردّت OpenAI لاحقًا بإطلاق نموذجها المحدّث ChatGPT Images. ويحذّر خبراء من أن تطور هذه الأدوات قد يجعل الصور المزيفة أكثر إقناعًا في حال تجاوز أنظمة الحماية.

وقالت جوجل إن لديها “سياسات واضحة تمنع استخدام أدواتها في إنشاء محتوى جنسي صريح”، مؤكدةً العمل المستمر على تحسين الالتزام بهذه السياسات. ومن جانبها، أوضحت OpenAI تمنع تعديل مظهر أي شخص حقيقي دون موافقته، مع اتخاذ إجراءات قد تصل إلى حظر الحسابات المخالفة.

نسخ الرابط تم نسخ الرابط