مع التوسع السريع لمحركات الذكاء الاصطناعي التوليدي (AI) في مختلف المجالات، أصبحت هذه التقنيات جزءًا لا يتجزأ من حياة المطورين، سواء في كتابة الأكواد، تحليل البيانات، أو حتى توليد الحلول التقنية.
ومع ذلك، فإن الاعتماد المتزايد على هذه الأدوات يطرح تحديات كبيرة تتعلق بالدقة والموثوقية، خاصة في ظل قدرتها على توليد إجابات قد تكون غير دقيقة أو مضللة في بعض الأحيان.
كشفت دراسة حديثة أجراها مركز تاو للصحافة الرقمية عن نسب دقة منخفضة لمحركات بحث الذكاء الاصطناعي، حيث تبين أن 60% من الإجابات التي تقدمها هذه الأدوات غير دقيقة.
من جانبهم استعرض خبراء تكنولوجيا المعلومات تأثير هذه التحديات على عمل المطورين، واستكشاف الحلول العملية لمواجهتها، لضمان استدامة الإنتاجية والجودة في بيئة تقنية متطورة.
في البداية قال المهندس خالد العسكري مدير غرفة صناعة تكنولوجيا المعلومات السابق أن محركات الذكاء الاصطناعي تعتمد على نماذج لغوية تم تدريبها على بيانات ضخمة، لكنها قد تنتج أحيانًا إجابات تبدو صحيحة ولكنها غير دقيقة أو غير مدعومة بمصادر موثوقة.
وضرب العسكري مثالا بأنه قد يقترح نموذج ذكاء اصطناعي كودًا برمجيًا يحتوي على أخطاء منطقية أو مكتبات غير موجودة، مما يؤدي إلى إضاعة وقت المطورين في التصحيح.
وكشف العسكري في تصريحات خاصة لـ ميجا نيوز يمكن أن يتسبب ذلك في تأخيرات في المشاريع، وانخفاض جودة المنتج النهائي، وزيادة مخاطر الأخطاء في التطبيقات مبيناً أن النماذج العامة للذكاء الاصطناعي تميل إلى عدم فهم السياق الخاص بمشاريع معينة أو متطلبات تقنية محددة، مما يؤدي إلى اقتراحات غير ملائمة. مثلاً، قد يقترح نموذج حلًا يعتمد على تقنية قديمة أو غير مناسبة.
من جانبه أشار أحمد أشرف استشاري الأمن السيبراني إلى أنه في ظل سهولة استخدام أدوات الذكاء الاصطناعي، يميل المطورون إلى الاعتماد عليها بشكل كامل دون التحقق من صحة المخرجات، مما قد يقلل من مهارات التفكير النقدي وحل المشكلات.
وأكد أشرف في تصريحات خاصة لـ ميجا نيوز أنه يمكن أن يؤدي ذلك إلى تراجع مهارات المطورين على المدى الطويل، وزيادة مخاطر الأخطاء غير المكتشفة موضحاً أنه يمكن أن تنتج محركات الذكاء الاصطناعي محتوى ينتهك حقوق الملكية الفكرية أو يعتمد على بيانات غير موثوقة، مما يعرض المطورين لمخاطر قانونية.
وصرح بأن الذكاء الاصطناعي يسرع بعض العمليات مثل توليد الأكواد الأولية، فإن الأخطاء الناتجة تتطلب وقتًا إضافيًا للتصحيح، مما يقلل من الفائدة الإجمالية قد يؤدي ذلك إلى تأخير في تسليم المشاريع وزيادة تكاليف التطوير.
وأوضح المهندس أحمد الليثي، خبير تكنولوجيا المعلومات أن التطور المتسارع لمحركات الذكاء الاصطناعي وتوسع استخدامها في مجالات التطوير التقني، أوجد اليوم تحديات كبيرة تتعلق بالدقة والموثوقية، والتي تؤثر بشكل مباشر على جودة المشاريع والإنتاجية.
وأضاف الليثي في تصريحات خاصة لـ ميجا نيوز من أبرز هذه التحديات، توليد إجابات غير دقيقة أو مضللة، ونقص السياق المتخصص الذي يلبي احتياجات المشاريع المعقدة، فضلاً عن الاعتماد المفرط على هذه الأدوات، مما قد يؤدي إلى تراجع مهارات التفكير النقدي لدى المطورين. كما لا يمكننا تجاهل التحديات الأخلاقية والقانونية المرتبطة بانتهاك حقوق الملكية الفكرية أو الاعتماد على بيانات غير موثوقة.
وشدد الليثي أن الحلول موجودة ويمكن تطبيقها بفعالية. يجب علينا تعزيز ثقافة التحقق المستمر من مخرجات الذكاء الاصطناعي، وتطوير نماذج متخصصة تدربت على بيانات دقيقة وحديثة، مع دمج هذه الأدوات مع الخبرة البشرية لضمان تحقيق التوازن بين الإنتاجية والجودة.
كما أن تحسين جودة البيانات التدريبية وتطوير أدوات مراقبة وتقييم أداء النماذج، بالإضافة إلى تدريب المطورين على التعامل مع هذه التقنيات، سيكون له دور حاسم في تعزيز الموثوقية.
وطالب الليثي أيضًا الالتزام بمعايير أخلاقية وقانونية صارمة لتجنب المخاطر القانونية، مع تعزيز الشفافية والتفسيرية في عمل نماذج الذكاء الاصطناعي. في النهاية، الذكاء الاصطناعي يجب أن يكون شريكًا مساعدًا، وليس بديلاً عن الخبرة البشرية. من خلال تحقيق هذا التوازن، يمكننا بناء مستقبل تقني أكثر كفاءة وموثوقية، يدعم الابتكار دون التضحية بالجودة.”
وحسب دراسة حديثة أجراها مركز تاو للصحافة الرقمية قام الباحثون باختبار ثمانية من أبرز محركات بحث الذكاء الاصطناعي، بما في ذلك ChatGPT Search، وPerplexity، وGemini، وDeepSeek Search، وGrok-2 Search، وGrok-3 Search، وCopilot وتم تقييم أداء كل أداة بناءً على قدرتها على الاستشهاد بشكل صحيح بالمقالات الإخبارية، والمؤسسات الناشرة، وعناوين URL.
اختار الباحثون عشوائيًا 200 مقالة إخبارية من 20 ناشرًا إخباريًا (10 لكل منها). وتأكدوا من ظهور كل مقال ضمن أفضل ثلاث نتائج في بحث جوجل عند استخدام مقتطف مقتبس منه. ثم أجروا نفس الاستعلام داخل كل أداة بحث للذكاء الاصطناعي، وقيّموا الدقة بناءً على ما إذا كان البحث قد استشهد بشكل صحيح