الداعي نيوز / دولي

كشفت شركة "أوبن إيه آي" للذكاء الاصطناعي أن بعض نماذج الذكاء الاصطناعي الأكثر تطوراً لديها خرجت عن السيطرة واخترقت شركة ناشئة، وذلك بعد فقدان التحكم فيها أثناء اختبار أمني.

وصرحت الشركة المطوِرة لـ"تشات جي بي تي"، بأن "الذكاء الاصطناعي الهجومي" الخاص بها، وهو نظام قادر على العمل بشكل مستقل بعد تلقي بعض التوجيهات البشرية، كان تحت الاختبار في بيئة تخضع لضوابط، إلا أنه كشف عن ثغرات وخرج عن السيطرة.

فقد استهدف الذكاء الاصطناعي شركة "هاجينغ فيس"، أحد أكبر مراكز مشاركة نماذج الذكاء الاصطناعي في العالم، وتمكّن من الوصول إلى بعض الأنظمة الداخلية للشركة.

ووصفت شركة "أوبن إيه آي" الحادث بأنه "غير مسبوق"، وقالت إنها تجري تحقيقاً بالتعاون مع شركة "هاجينغ فيس"، التي صرّح رئيسها، كليمنت ديلانغ، في منشور على منصة إكس بأن حدوث كل هذا بشكل ذاتي ومستقل أمر "مذهل للغاية".

وأضاف ديلانغ قائلاً: "التحقيق لا يزال جارياً، وسنشارك المزيد من الدروس المستفادة من الحادث الذي قد يكون الأول من نوعه".

بيئات معزولة غير آمنة
وقد صرحت جينا نيف، رئيسة (مركز مينديرو للتكنولوجيا والديمقراطية) بجامعة كامبريدج، لبرنامج (توداي) الذي يبث بالإنجليزية على (بي بي سي راديو 4)، بأن اختبارات الأمان التي تُعرف باسم (صناديق الرمال) أو بيئة الاختبار المعزولة "من المفترض أن تكون بيئة آمنة تتيح الاطلاع على قدرات هذه النماذج".

وأضافت: "في هذه الحالة، يبدو أن شركة (أوبن إيه آي) لم توفّر بيئة اختبار معزولة آمنة بما يكفي".

وعوضاً عن ذلك، شنّت أنظمة برمجيات الذكاء الاصطناعي هجوماً سيبرانياً خاصاً بها ضد بيئة العزل ذاتها؛ حيث عثرت على ثغرة أتاحت لها الهروب من القيود.