آن غاييل آميوت
منذ ظهور الذكاء الاصطناعي التوليدي (AI) و chatbots في عام 2022 ، قدم الباحثون أنفسهم ألعابًا ملتوية إلى حد ما. يحاولون خروج هذه الأدوات من أجل الحصول على إجابات أن المبدعين يود تجنب. كما ينطق الإهانات ، أو الإدلاء بتصريحات عنصرية أو تقديم المشورة بشأن الأنشطة غير القانونية (صنع قنبلة ، أو أموال مزيفة ، وما إلى ذلك). هذه التمارين هي أدلة مفهوم ، تستخدم لفهم عمل نماذج اللغة الكبيرة (LLM) ولتحسين سلامتها.
في هذا السياق ، 30 يوليو في فيينا (النمسا) ، فريق فرنسي من مدرسة Sudparis Telecom Engineering عرضت ، خلال الاجتماع السنوي لجمعية اللغويات الحسابية ، وهي عائلة جديدة من نقاط الضعف التي تعرضت ستة أو أقل من أفضل من أفضل الذكاء الاصطناعي: GPT ، ونسختين من Lama و Gemma و Mistral و Phi. يقول البروفيسور نويل كريسبي ، المشترك ، مع رضا فرحباخششششششر ، عمل طالب الدكتوراه سيرجي بيريزين: “لا نقارن الشركات ، بل التقنيات. نحن نختبر نقاط الضعف العامة”.
لديك 79.86 ٪ من هذه المقالة للقراءة. الباقي محجوز للمشتركين.
