دعا عدد من الباحثين والعاملين في شركتي أوبن إيه آي وأنثروبيك إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، محذرين من مخاطر متزايدة قد تهدد البشرية مع وصول النماذج المتقدمة إلى مستويات أعلى من القدرات، خاصة مع تنامي المخاوف بشأن قدرتها على تحسين أدائها وتطوير نفسها بصورة متكررة.
وتصاعدت التحذيرات خلال الأيام الماضية عقب استقالة الباحث في أنثروبيك، جاكوب كوكسون، الذي اتهم الشركة ومنافستها أوبن إيه آي بـ”المقامرة بحياتنا”، محذرًا من أن بعض العاملين في مجال الذكاء الاصطناعي يعتقدون أن التكنولوجيا قد تصل إلى مرحلة قادرة فيها على التسبب في فناء البشرية قبل نهاية العقد الحالي.
وأثارت تصريحات كوكسون موجة جديدة من الجدل داخل قطاع الذكاء الاصطناعي، بعدما أعلن عدد من الباحثين العاملين في الشركتين تأييدهم لفكرة إبطاء تطوير النماذج المتقدمة، بالتزامن مع تزايد المخاوف بشأن قدرة هذه الأنظمة على تجاوز الضوابط الموضوعة لها.
وقالت جولي ستيل، وهي من العاملين في فريق السلامة التقنية بأوبن إيه آي، إنها ترى بشكل شخصي ضرورة إبطاء وتيرة التطوير، في تأييد علني للتحذيرات التي أطلقها كوكسون.
كما حذر الباحث في أنثروبيك صامويل ماركس من أن مطوري الذكاء الاصطناعي يعتقدون أن التكنولوجيا قد تتسبب في انقراض البشر أو وقوع نتائج كارثية مشابهة، مشيرًا إلى أن مثل هذه السيناريوهات قد تحدث خلال السنوات القليلة المقبلة، وأن القلق بشأن هذه المخاطر يبدو أكبر بين الموظفين الأكثر خبرة في شركات الذكاء الاصطناعي.
وتأتي هذه التحذيرات في وقت تتزايد فيه المخاوف من تطور ما يعرف بـ”التحسين الذاتي التكراري”، وهي عملية يمكن خلالها لنماذج الذكاء الاصطناعي المتقدمة أن تستخدم قدراتها لتحسين أدائها وتطوير قدراتها بصورة متكررة، ما قد يؤدي إلى تسارع كبير في مستوى الذكاء الذي تمتلكه هذه الأنظمة.
وحذرت الباحثة في أوبن إيه آي، جاسمين وانج، من خطورة تسريع الوصول إلى مرحلة التحسين الذاتي التكراري، معتبرة أن المخاطر المرتبطة بهذه المرحلة لا تزال من دون خطة علمية قابلة للتطبيق للتعامل معها بصورة كافية.
وفي السياق نفسه، قالت آنا وانج، الباحثة المتخصصة في سلامة الذكاء الاصطناعي والمواءمة لدى أنثروبيك، إن تطوير أنظمة قادرة على تحسين نفسها بصورة متكررة يمثل مصدر قلق كبير، في ظل عدم وجود حلول علمية واضحة للتعامل مع المخاطر المحتملة.
وكان كبير العلماء في أوبن إيه آي، جاكوب باتشوكي، قد أعرب عن توقع قوي باستمرار تسارع تقدم الذكاء الاصطناعي وصولًا إلى مرحلة التحسين الذاتي التكراري، مشيرًا إلى أن الأنظمة التي ستظهر خلال السنوات القليلة المقبلة قد تحقق قفزات إضافية في القدرات، وربما تكون مساوية أو أكبر من القفزات السابقة، مع تزايد قدرتها على دفع عملية تطويرها بنفسها.
استمرار الارتفاع السريع في مستوى ذكاء الآلات
وحذر باتشوكي من أن المرحلة الحالية تتطلب أقصى درجات الحذر، معربًا عن قلقه من أن يكون العالم غير مستعد للعواقب الناتجة عن استمرار الارتفاع السريع في مستوى ذكاء الآلات.
وتزامنت هذه المخاوف مع انضمام بول كريستيانو، الرئيس السابق للسلامة في مركز معايير وابتكار الذكاء الاصطناعي التابع لوزارة التجارة الأمريكية، إلى مجلس إدارة مؤسسة أوبن إيه آي، بعدما قال إن التطورات الأخيرة في قدرات الذكاء الاصطناعي دفعته إلى الاعتقاد بوجود مخاطر حقيقية من أن يؤدي التسارع السريع لهذه القدرات إلى فقدان كارثي وغير قابل للعكس للسيطرة على الأنظمة في المستقبل القريب.
ولا تقتصر المخاوف على احتمالات فقدان السيطرة على النماذج، إذ شهدت الأشهر الأخيرة عددًا من الحوادث والهجمات الإلكترونية المرتبطة باستخدام نماذج ذكاء اصطناعي متقدمة، ما زاد المخاوف بشأن إمكانية استغلال القدرات الجديدة في تنفيذ عمليات إلكترونية معقدة.
وكانت أنثروبيك قد أعلنت في وقت سابق عن نموذج Mythos، الذي قدمته باعتباره يتمتع بقدرات متقدمة في مجال الأمن السيبراني، ما أثار حالة من القلق بين المؤسسات المالية وغيرها من الجهات التي تراقب تطور قدرات الذكاء الاصطناعي.
كما أعلنت أوبن إيه آي في يوليو الماضي أن نماذجها ارتبطت بحادث إلكتروني استهدف شركة أخرى، بينما تورطت نماذج Claude التابعة لأنثروبيك في حوادث مرتبطة بالأمن السيبراني، شملت حالة استخدم فيها نموذج Mythos هويات مزيفة لخداع أشخاص حقيقيين.
وفي يوليو أيضًا، وقع نحو 1400 باحث في مجال الذكاء الاصطناعي، من شركات ومؤسسات من بينها أوبن إيه آي وأنثروبيك وميتا وجوجل ديب مايند، على رسالة مفتوحة دعت الحكومة الأمريكية إلى تطوير الأدوات اللازمة لإبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة بصورة متعمدة.
ويأتي ذلك في الوقت الذي تتسابق فيه شركات الذكاء الاصطناعي الكبرى على تطوير نماذج أكثر قوة، وسط منافسة متصاعدة للحصول على حصة أكبر من سوق التكنولوجيا، الأمر الذي يجعل الدعوات إلى التمهل أكثر تعقيدًا، خصوصًا مع سعي الشركات إلى الحفاظ على سرعة الابتكار وتطوير قدرات جديدة.
وتزايدت الضغوط أيضًا على المشرعين الأمريكيين لوضع قواعد أكثر وضوحًا لتنظيم الذكاء الاصطناعي، إذ ظهرت خلال الأشهر الماضية عدة مقترحات تشريعية تستهدف التعامل مع التطور السريع للنماذج المتقدمة ووضع أطر تحكم طريقة نشرها واستخدامها.
ومن بين هذه المقترحات قانون FRONTIER Act، الذي يستهدف وضع إطار لتنظيم نشر نماذج الذكاء الاصطناعي المتقدمة، إلى جانب مشروع قانون آخر يعرف باسم Ban Artificial Superintelligence Act، والذي يدعو إلى وقف مؤقت لتطوير أنظمة الذكاء الاصطناعي فائقة القدرات إلى حين وضع قواعد للسلامة.
وتعكس هذه التطورات اتساع الفجوة بين سرعة تقدم قدرات الذكاء الاصطناعي وبين قدرة الجهات التنظيمية والباحثين على وضع آليات فعالة لضمان سلامة هذه الأنظمة، في وقت يرى فيه عدد متزايد من الباحثين أن الوصول إلى مستويات أعلى من الذكاء الاصطناعي دون ضوابط كافية قد يحمل مخاطر تتجاوز الأضرار التقنية أو الاقتصادية التقليدية إلى تهديدات أوسع نطاقًا
