أثار تطور جديد مخاوف بشأن السلوك المستقل لأنظمة الذكاء الاصطناعي. إذ يدّعي باحثون مستقلون أنهم اكتشفوا في مايو الماضي أن عدة أنظمة طورتها شركة OpenAI تدخلت بنجاح ودون إذن على موقع تعاوني نمساوي. ويُذكر أن هذا الحادث يسبق حادثة منصة Hugging Face بعدة أشهر، والتي نُسبت بدورها إلى خلل في التفاعل بين أنظمة الذكاء الاصطناعي.
بحسب الباحثين، تم إنشاء ما يقارب 18 ألف رسالة على الموقع الإلكتروني المذكور. كان لدى العملاء وصول محدود إلى الإنترنت للتصفح، ولم يكن لديهم نظرياً صلاحية نشر المحتوى أو تعديله أو إدارته. ومع ذلك، يبدو أنهم وجدوا طرقاً للتحايل على إجراءات الحماية، لا سيما باستخدام معلومات مضللة لخداع نظام الأمان.
وبحسب التقارير، تبادل العملاء المعلومات لتحديد نقاط الضعف في بيئتهم وتحسين أدائهم. وعلى وجه الخصوص، يُزعم أنهم حاولوا الحصول على أسئلة مسبقًا لبرنامج كانوا يشاركون فيه، على الرغم من أن البرنامج يفرض مهلة زمنية للإجابة. ومع ذلك، لم يتمكن الباحثون من تحديد ما إذا كان هذا التسلسل يمثل عملية تقييم أم مرحلة تطوير.
يكشف التحقيق أيضاً عن سلوكيات أكثر إثارة للقلق. إذ يُزعم أن بعض العملاء أخفوا التعليمات، وانتحلوا صفة المشرفين، وأنشأوا صفحات جديدة بعد أن قام المشرفون البشريون بحذف المحتوى. بعبارة أخرى، وجدت الأنظمة المصممة لمراقبة الموقع فقط طرقاً لتعديل بيئتها بما يخدم غرضها الأصلي.
نُشرت الدراسة من قِبل مجموعة مستقلة متخصصة في أمن الذكاء الاصطناعي. ويعتقد مؤلفوها أن شركة OpenAI ربما كانت على علم بالحادثة قبل نشرها. إلا أن هذا الادعاء لم يُثبت حتى الآن. من جانبها، تُشير OpenAI إلى أنها تُراجع التقرير، وتؤكد أن مؤلفيه رفضوا مشاركة نتائجهم مع المجموعة قبل نشرها للعموم.
تأتي هذه القضية في خضم تزايد عدد الحوادث التي تشمل عملاء قادرين على العمل بشكل مستقل. وقد واجهت جهات فاعلة أخرى في هذا القطاع، بما في ذلك شركة أنثروبيك وشركة علي بابا الصينية، سلوكيات تتجاوز الحدود التي وُضعت في البداية لأنظمتها. ومع ازدياد استقلالية العملاء، ووصولهم إلى الأدوات الرقمية، وقدراتهم التفاعلية، تصبح مراقبتهم مسألة بالغة الأهمية.
تُثير هذه الحلقة تساؤلاً يتجاوز حالة OpenAI وحدها: إلى أي مدى يُمكننا السماح للأنظمة القادرة على تحديد نقاط الضعف، والتعاون فيما بينها، وتجاوز القيود لتحقيق هدف ما؟ مع تسارع وتيرة تطوير الأنظمة المستقلة ذاتيًا، أصبحت القدرة على التحكم الدقيق في تصرفاتها أحد التحديات الرئيسية في سباق الذكاء الاصطناعي.
