المشهد اليمني – “أوبن إيه آي” تقر تعليق العمل بأحدث نماذج الذكاء الاصطناعي بعد تجاوز قيود أمنية
أقرت شركة “أوبن إيه آي” تعليق عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات لأكثر نماذجها تطورا، بعد أن تمكن أحد نماذج الذكاء الاصطناعي من تجاوز قيود الاتصال بالإنترنت خلال اختبار أمني.
وذكرت الشركة في بيان صادر عنها أن النموذج كان يعمل داخل بيئة اختبار مصممة لمنعه من الوصول إلى الإنترنت، إلا أنه اكتشف ثغرة مرتبطة بنظام تصفية نطاقات “DNS” واستغلها للتواصل مع روبوت محادثة خارجي عبر الإنترنت.
وأوضحت الشركة أن النموذج كان مكلفا خلال الاختبار بتحديد هوية شخص كتب تدوينة استنادا إلى مجموعة من الأدلة، وبعد تعذر إتمام المهمة باستخدام بيئة الويب المحاكاة، اكتشف إمكانية استخدام نظام /DNS/ لإرسال استفسارات إلى خدمة خارجية والحصول على معلومات منها.
وأفادت الشركة أنها رصدت الاتصال الخارجي وأوقفت الاختبار، مشيرة إلى أن عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات ستظل معلقة إلى حين معالجة الثغرة وإجراء اختبارات سلامة إضافية، لافتة في وقت نفسه إلى أن الحادث أقل خطورة من بعض الوقائع السابقة، لكنه يعد الأول من نوعه منذ تشديد إجراءات الحماية الخاصة ببيئات الاختبار.