مخاوف من ‘انهيار النموذج’: ChatGPT يستخدم بيانات مولّدة بالذكاء الاصطناعي
مجلة أصوات
كشفت تقارير حديثة أن أحدث إصدار من نموذج ChatGPT، المعروف باسم GPT-5.2، يعتمد في بعض البيانات على Grokipedia، النسخة المولّدة بالكامل بالذكاء الاصطناعي من موسوعة ويكيبيديا، والتي أطلقتها شركة xAI.
وأوضحت صحيفة The Guardian أن النموذج يستخدم أحيانا هذه الموسوعة الإلكترونية لمواضيع غير شائعة، مثل تفاصيل عن المؤرخ البريطاني سير ريتشارد إيفانز.
وكانت قضية استخدام البيانات المولّدة بالذكاء الاصطناعي قد أثيرت منذ عدة سنوات، حيث حذر بعض الخبراء من أن تدريب النماذج على هذه البيانات قد يؤدي إلى تراجع جودة النتائج وحدوث ما يُعرف بـ “انهيار النموذج”.
وبينما يختلف الاستشهاد بالمحتوى المولّد بالذكاء الاصطناعي عن استخدامه في التدريب، إلا أن الاعتماد عليه في البحث يظل محفوفا بالمخاطر.
وأشارت التقارير إلى أن النماذج الكبيرة للغات مثل ChatGPT معروفة أحيانا بإنتاج معلومات خاطئة أو وهمية، وهو ما أظهره مثال مشروع شركة Anthropic مع ذكائها الاصطناعي “Claudius”، حيث صدرت عنه عدة معلومات خاطئة.
وأقر المدير التنفيذي لشركة Nvidia، جنسن هوانغ، في 2024 بأن حل هذه المشكلة لا يزال “يبعد عدة سنوات” ويتطلب موارد حوسبية ضخمة.
ويعتمد غالبية المستخدمين على المعلومات المقدمة من ChatGPT والنماذج الأخرى دون التحقق من مصادرها، مما يزيد من مخاطر نقل محتوى غير دقيق، خصوصا أن Grokipedia لا يتم تحريرها مباشرة من قبل البشر، بل يمكن للمستخدمين طلب تعديل المحتوى فقط دون الكتابة أو التحرير المباشر.
ويشير الخبراء إلى أن استخدام نماذج الذكاء الاصطناعي كمصدر لمعلومات أخرى يخلق حلقة مفرغة قد تؤدي إلى تكرار معلومات لم يتم التحقق منها، وهو ما يشبه الشائعات التي تنتقل بين البشر.
ويعرف هذا بـ “تأثير الحقيقة الوهمية”، حيث يُعتقد أن المعلومات الخاطئة صحيحة لأنها تكررت على نطاق واسع.
وتأتي المخاوف أيضا من أن بعض الجهات بدأت تستغل هذه الثغرات، حيث أفادت التقارير عن حالات “توجيه النماذج الكبيرة للغات” من خلال شبكات دعائية تنتج كميات ضخمة من المعلومات المضللة لمحاولة زرع الأكاذيب داخل النماذج.
ويحذر المختصون من أن استمرار استشهاد النماذج الكبيرة للغات بمصادر مولّدة بالذكاء الاصطناعي غير مُتحقّق منها قد يؤدي إلى انتشار واسع لما يمكن تسميته بـ “الفلكلور الرقمي”، مع كل استعلام يُدخل إلى هذه النماذج.