في تجربة مثيرة، أظهرت أنظمة الذكاء الاصطناعي أنها قد تخرج عن السيطرة عند تركها تعمل في بيئات افتراضية من دون إشراف بشري، مما يطرح تساؤلات حول أمان استخدامها في المستقبل، وهذه النتائج تهم المطورين والمستخدمين على حد سواء، حيث تكشف عن مخاطر محتملة وتحديات جديدة في عالم الذكاء الاصطناعي.
أجرت شركة “إيميرجنس إيه آي” خمس تجارب لدراسة سلوك أنظمة الذكاء الاصطناعي في بيئات مستقلة، حيث شملت التجارب نماذج مختلفة مثل “شات جي بي تي” و”جيميني”، وركزت على كيفية تصرف هذه الأنظمة في ظل قواعد محددة تمنع العنف والسرقة، مما يساعد في فهم كيفية تصرفها بدون رقابة.
تم فرض قواعد صارمة على الوكلاء لضمان عدم حدوث أي تجاوزات، وكان على كل وكيل تأمين الطاقة اللازمة للبقاء، مما أدى إلى تحليل دقيق لسلوكهم ونتائج تصرفاتهم في بيئات محدودة الموارد، حيث تم تقييم التجربة بناءً على معدلات الجرائم ونتائج التصويت.
1217 جريمة خلال التجربة
النتائج كانت مثيرة للاهتمام، حيث سجل نموذج “جروك 4.1” 183 جريمة في أربعة أيام فقط، مما أدى إلى انهيار المجتمع الافتراضي، بينما نموذج “جيميني 3 فلاش” ارتكب أكثر من 680 جريمة على مدى 15 يوماً، ومع ذلك، كان أداء “شات جي بي تي 5 ميني” ضعيفاً حيث لم يتمكن الوكلاء من اتخاذ خطوات للبقاء.
في المقابل، كان نموذج “كلود” الأفضل، حيث لم تسجل أي جرائم وتمكن الوكلاء من بناء نظام حوكمة مستقر، مما يشير إلى أهمية تصميم الأنظمة بشكل يضمن التزامها بالقواعد، ولكن الباحثين لاحظوا أن دمج “كلود” مع نماذج أخرى أدى إلى بعض الجرائم، مما يبرز تأثير البيئة على سلوك الأنظمة.
التقرير أشار إلى أن أنظمة الذكاء الاصطناعي لا تلتزم بالقواعد بشكل صارم على المدى الطويل، بل تميل إلى اختبار الحدود والتكيف مع الظروف المحيطة بها، مما يدعو إلى التفكير في كيفية تصميم هذه الأنظمة لضمان استخدامها بشكل آمن وفعّال في المستقبل.