الذكاء الاصطناعي يفقد الدقة.. روبوتات المحادثة تتعثر في الإيجاز الواضح

تشير الأبحاث الحديثة إلى أن تقليص طول الإجابات المقدمة من روبوتات المحادثة، مثل ChatGPT، قد يزيد من احتمالية تقديم هذه الروبوتات لمعلومات غير دقيقة أو مختلقة، وهي الظاهرة المعروفة بـ”الهلوسة”. يُبرز هذا الأمر أهمية صياغة التعليمات الموجهة للنماذج بشكل دقيق، حيث يمكن للإيجاز المؤقت التأثير بشكل كبير على مصداقية هذه الأدوات الرقمية المتقدمة، خاصة عند التعامل مع مواضيع غير واضحة أو ذات افتراضات خاطئة.

تأثير الإجابات المختصرة على أداء روبوتات الذكاء الاصطناعي

أفادت دراسة أجرتها شركة “جيكسكارد” أن استخدام تعليمات مختصرة، مثل “كن موجزًا”، قد يؤدي إلى تزايد ميل النماذج لتقديم إجابات غير دقيقة أو متناقضة. تعتمد هذه النماذج على “الذكاء الاصطناعي التوليدي”، وتتأثر بمدة النص التي تُمنح له للتعمق في التحليل أو تصحيح المعلومات الخاطئة. عند تضييق الفسحة النصية، تصبح النماذج ميالة نحو اختصار المحتوى على حساب الجودة والدقة، ما قد يسبب انحرافات في استيعاب المستخدم للمعلومات.

كيفية تحسين جودة الإجابات مع الحفاظ على الموثوقية

أشارت الدراسة إلى بعض التدابير التي يمكن اتخاذها لتحسين تفاعل المستخدم مع روبوتات المحادثة، خاصة عند استخدام تقنيات الذكاء الاصطناعي. من بين هذه التدابير، تقديم أسئلة دقيقة ومباشرة بدلاً من الاكتفاء بتوجيه طلبات مختصرة. تحتاج هذه الروبوتات إلى مساحة أكبر لتفسير المعلومات، مما يسهم في تعزيز دقتها وموثوقيتها. كما يُوصى بتجنب صياغة استفسارات تحتوي على افتراضات غير صحيحة، والتحقق من مصادر المعلومات الدقيقة عند الاعتماد على هذه النماذج التوليدية.

نماذج الذكاء الاصطناعي المتأثرة بظاهرة الإيجاز

تشير الدراسة إلى أن التأثيرات السلبية لظاهرة الهلوسة لا تقتصر على نموذج ChatGPT فقط، بل تشمل أيضًا نماذج رائدة أخرى، مثل Mistral Large وClaude 3.7 Sonnet. ورغم تحسين تلك النماذج ليتمكن المستخدم من الحصول على ردود سريعة وشاملة، فإن بعض التطبيقات العملية تعاني من تناقض واضح بين توفير تجربة استخدام مريحة والحفاظ على صحة المعلومات بشكل كامل. الجدير بالذكر أن النماذج الأكثر شعبية بين المستخدمين ليست دائمًا الأكثر دقة.

بناء على ما سبق، يلزم رفع مستوى الوعي بشأن القضايا المتعلقة بمصداقية الذكاء الاصطناعي؛ حيث تشير هذه الدراسات إلى أن الإيجاز قد يكون مفيدًا على مستوى السرعة والكفاءة، لكنه قد يعرض التطبيقات لخطر تضليل المستخدم، خاصة في الحالات التي تتطلب معلومات دقيقة وصحيحة.