Gemini 3 خطير .. يمكنه أن يخبرك بكيفية صنع الأسلحة الكيميائية في 5 دقائق

 

اخترق باحثون من كوريا الجنوبية  Gemini 3 في خمس دقائق فقط. وبفضل كسر الحماية، تمكنوا من تزويد نظام جوجل للذكاء الاصطناعي بأحدث التعليمات التي لا ينبغي له تقديمها عادةً. وشملت هذه التعليمات كيفية صنع فيروس الجدري، وكيفية تجميع المتفجرات محلية الصنع، وكيفية صنع غاز السارين، الذي استُخدم كسلاح كيميائي.

هذه القضية مثيرة للقلق حقًا، خاصةً بالنظر إلى السرعة التي تمكن بها الخبراء من اختراق حمايةGemini 3. ووفقًا لموقع Android Authority، فإن شركة Aim Intelligence، التي أجرت هذا الاختبار، مُكرسة لاستكشاف نقاط ضعف نماذج الذكاء الاصطناعي الرئيسية المتاحة في السوق.

بالطبع، لم تُنشر التفاصيل الدقيقة لكيفية تجاوز حماية Gemini 3 علنًا، ولسبب وجيه. فالسماح لأي شخص بتكرار هذا النوع من السلوك سيكون خطيرًا للغاية.

ومع ذلك، يُذكر أن المتخصصين استخدموا نوعًا من الهجوم مكّنهم من كسر حماية Gemini 3 في دقائق معدودة. مكّنهم هذا من الحصول على إجابات مفصلة لاستفسارات كان الذكاء الاصطناعي يرفض الإجابة عليها في الظروف العادية. وبالتالي، يُقال إن تقنية جوجل لم تتجنب إرشاداتها الأمنية فحسب، بل تجاهلتها بشكل مباشر.

يُقال إنه بعد اختراق إجراءات أمن Gemini 3، سأل الباحثون Gemini 3عن كيفية إنتاج فيروس الجدري. لم يكتفِ الذكاء الاصطناعي من جوجل بتوفير الخطوات التفصيلية بسرعة، بل رأى الخبراء أيضًا أن تنفيذه ممكن.

استجابت التقنية أيضًا دون تردد عندما طُلب منها إنشاء موقع إلكتروني يحتوي على تعليمات مفصلة لتطوير غاز السارين، وهو غاز أعصاب استُخدم كسلاح كيميائي، ومتفجرات منزلية الصنع. حتى أن Gemini 3 أنتج عرضًا تقديميًا يسخر من نفسه ويصف نفسه بـ"الغباء".

يعتقد الخبراء أن سهولة كسر حماية جيميني 3 تنبع من سرعة فقدان فعالية إجراءات الأمان التي يطبقها المطورون. ويرجع ذلك إلى تطور النماذج بوتيرة أسرع، وعدم مواكبة إجراءات الحماية المطبقة. حتى الآن، لم تُعلّق جوجل علنًا على تقرير Aim Intelligence. سنراقب الوضع عن كثب.