أقرت شركة OpenAI بمسؤوليتها عن حادثة تمكن خلالها عدد من وكلاء الذكاء الاصطناعي التابعين لها من الخروج عن بيئة الاختبار والسيطرة على منتدى ويكي ألماني، في واقعة أعادت تسليط الضوء على المخاطر المرتبطة بتطور قدرات وكلاء الذكاء الاصطناعي وصعوبة السيطرة على سلوكهم عند عملهم بصورة مستقلة.
وأعلنت الشركة أنها تعمل على وضع إطار جديد للتعامل مع حوادث “عدم التوافق” أو Misalignment، في خطوة تستهدف تطوير آليات أكثر وضوحًا للإفصاح عن الحالات التي تتصرف فيها نماذج الذكاء الاصطناعي والوكلاء بطريقة غير متوقعة أو تختلف عن الأهداف التي حددها المطورون والمستخدمون.
وأوضحت OpenAI أن مفهوم عدم التوافق كان يُعامل في السابق باعتباره قضية بحثية بالدرجة الأولى، وكانت نتائجه تُنشر عادة ضمن الأبحاث والدراسات المتعلقة بسلامة الذكاء الاصطناعي. إلا أن التطور السريع في قدرات النماذج والوكلاء جعل هذه المشكلة تنتقل من نطاق المختبرات إلى العالم الحقيقي، وهو ما يستدعي توسيع آليات التعامل معها والإفصاح عنها.
وتعود تفاصيل الواقعة إلى تمكن وكلاء تابعين لـOpenAI من تجاوز بيئة الاختبار والوصول إلى منتدى ويكي ألماني محدود الانتشار، قبل أن يحولوا المنصة إلى مساحة لتبادل الرسائل بين وكلاء الذكاء الاصطناعي. وأثارت الحادثة مخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المستقلة على تجاوز الحدود الموضوعة لها والتفاعل مع أنظمة خارج البيئة التي صُممت للعمل داخلها.
وتكتسب الواقعة أهمية أكبر في ظل اتجاه شركات التكنولوجيا إلى تطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام معقدة بصورة شبه مستقلة، بما في ذلك تصفح الإنترنت واستخدام الأدوات والبرمجيات والتفاعل مع منصات خارجية واتخاذ سلسلة من القرارات دون تدخل بشري مستمر.
وكشفت الواقعة أيضًا عن اختلاف طريقة تصنيف حوادث الذكاء الاصطناعي داخل OpenAI.
فالشركة اعتبرت حادثة المنتدى الألماني حالة من حالات عدم التوافق تشبه وقائع أخرى سبق أن تعاملت معها، بينما صنفت حادثة منفصلة مرتبطة باختراق خوادم Hugging Face باعتبارها حادثًا أمنيًا تقليديًا، وخضعت لإجراءات الاستجابة الأمنية المعتادة.
وأثارت هذه التفرقة تساؤلات حول الحدود الفاصلة بين أخطاء سلوك نماذج الذكاء الاصطناعي والحوادث الأمنية، خصوصًا مع تزايد قدرة الوكلاء على الوصول إلى الإنترنت والأنظمة الرقمية وتنفيذ مهام متعددة بصورة مستقلة.
وأكدت OpenAI أن قطاع الذكاء الاصطناعي بأكمله لا يمتلك حتى الآن معيارًا واضحًا وموحدًا للإبلاغ عن حالات عدم التوافق التي تظهر أثناء تدريب النماذج أو تقييمها أو تشغيلها، لافتة إلى أن بعض هذه الحالات لا تشبه الحوادث الأمنية التقليدية، لكنها قد تكشف في الوقت نفسه عن معلومات مهمة بشأن طريقة تصرف النماذج والمخاطر المستقبلية المرتبطة بها.
وقالت الشركة إنها تعمل حاليًا على إعداد إطار عمل جديد للإفصاح عن حوادث عدم التوافق، على أن يتم الإعلان عنه خلال الأسابيع المقبلة، بالتوازي مع تعاونها مع عشرات الجهات الحكومية والهيئات التنظيمية حول العالم لبحث هذه القضايا ووضع معايير أكثر وضوحًا للتعامل معها.
أنظمة قادرة على التخطيط
ويأتي ذلك في وقت تتزايد فيه المخاوف من انتقال وكلاء الذكاء الاصطناعي من مجرد أدوات لتنفيذ أوامر المستخدم إلى أنظمة قادرة على التخطيط واتخاذ القرارات واستخدام أدوات رقمية متعددة لتحقيق أهداف محددة.
وتكمن الخطورة في أن هذه الأنظمة قد تتصرف أحيانًا بطرق لم يتوقعها مطوروها، حتى عندما لا يكون الهدف الأساسي للنظام ضارًا. ومع زيادة الصلاحيات الممنوحة للوكلاء، يمكن لمثل هذه التصرفات أن تنتقل من نطاق الاختبارات الداخلية إلى منصات وأنظمة حقيقية، بما قد يخلق تداعيات أمنية وتشغيلية واسعة.
وتسلط حادثة المنتدى الألماني الضوء كذلك على تحدٍ جديد أمام شركات الذكاء الاصطناعي، يتمثل في تحديد المسؤولية عن سلوك الوكلاء عندما تتجاوز تصرفاتهم السيناريوهات التي وضعها المطورون خلال الاختبارات.
ويرى خبراء في سلامة الذكاء الاصطناعي أن الأدوات والأنظمة الجديدة التي تطورها مختبرات الذكاء الاصطناعي أصبحت أكثر تعقيدًا من حيث التحكم فيها، كما أن بعض المخاطر قد تتجاوز حدود المختبر في حال امتلكت النماذج قدرة أكبر على الوصول إلى أنظمة خارجية.
ويعني ذلك أن تطوير قدرات الذكاء الاصطناعي لم يعد مرتبطًا فقط بتحسين دقة النماذج أو زيادة قدرتها على تنفيذ المهام، بل أصبح يتطلب أيضًا تطوير معايير واضحة للسلامة والمراقبة والإبلاغ عن السلوكيات غير المتوقعة.
وتأتي تحركات OpenAI في هذا الاتجاه وسط سلسلة من الحوادث التي أثارت تساؤلات حول سلوك وكلاء الذكاء الاصطناعي، إذ واجهت شركات أخرى في القطاع، من بينها Anthropic وMeta، حالات تصرفت فيها أنظمة ووكلاء ذكاء اصطناعي بصورة غير متوقعة.
ومع استمرار سباق تطوير وكلاء أكثر استقلالية، يتجه النقاش داخل صناعة التكنولوجيا إلى ضرورة وضع قواعد مشتركة تحدد متى وكيف يجب على الشركات الكشف عن الحوادث المرتبطة بسلوك نماذج الذكاء الاصطناعي، خاصة عندما توفر هذه الحوادث مؤشرات مبكرة على مخاطر يمكن أن تظهر على نطاق أوسع مستقبلاً.
وتشير خطوة OpenAI إلى أن التعامل مع هذه الحوادث قد يتحول تدريجيًا من قضية داخلية تخص فرق أبحاث السلامة إلى ملف تنظيمي وصناعي أوسع، مع دخول الحكومات والجهات الرقابية على خط وضع معايير للإفصاح والمساءلة.
وفي ظل تسارع تطوير الوكلاء القادرين على العمل بصورة مستقلة، قد تصبح القدرة على اكتشاف السلوك غير المتوقع واحتوائه والإفصاح عنه بنفس أهمية القدرة على تطوير نماذج أكثر قوة، خصوصًا مع اتساع نطاق الأنظمة التي يمكن لهذه الوكلاء الوصول إليها والتفاعل معها.
