وصلت دراسات مختلقة ومراجع علمية لا وجود لها إلى لجان البرلمان الأسترالي، بعدما استخدم أفراد ومؤسسات أدوات الذكاء الاصطناعي في إعداد مذكرات يفترض أن تساعد النواب في صياغة السياسات والتشريعات.
وكشف تحليل أجرته "الغارديان أستراليا" أن 39 مذكرة على الأقل، مقدمة إلى تحقيقات برلمانية، تضمنت مراجع تبدو مولدة أو مشوهة بواسطة الذكاء الاصطناعي. وفي بعض الحالات، استشهدت تقارير اللجان بمذكرات كانت غالبية المصادر المدرجة فيها غير موجودة أصلا.
ويحذر خبراء من أن استمرار الظاهرة قد يقود البرلمانيين إلى اتخاذ قرارات استنادا إلى "أدلة لم توجد قط".
دراسة وهمية باسم باحثة حقيقية
من أبرز الأمثلة مذكرة قدمت إلى تحقيق بشأن العنف الأسري والانتحار، وتضمنت دراسة نسبت إلى ديفنا هاسلام، أستاذة علم النفس الإكلينيكي في جامعة كوينزلاند.
بدا المرجع أكاديميا ومتكاملا، لكنه كان مختلقا. كما نسبت المذكرة إلى فريق هاسلام نتائج لا تعكس أبحاثه الحقيقية.
وقالت الباحثة إن المرجع كان "مخيفا"، لأنه صيغ بطريقة قد تقنع أي شخص يكتفي بمراجعته سريعا.
واعترفت الجهة التي أعدت المذكرة، وهي "دريل داون ريبورتس"، باستخدام الذكاء الاصطناعي في عملية البحث. وقالت إنها اكتشفت الأخطاء وأعدت نسخة مصححة، لكن مهلة تعديل الوثيقة الأصلية كانت قد انتهت، وعزت بقاء الأخطاء إلى إخفاق بشري في رفع الملف الصحيح.
وفي حالة أخرى، تضمنت مذكرة عن عدم المساواة في الإسكان إحالات إلى أبحاث مزعومة لنيكول غوران، أستاذة التخطيط الحضري في جامعة سيدني، لكنها لم تكتبها.
كما ورد في مذكرة إلى تحقيق بمجلس الشيوخ حول المعلومات المناخية المضللة مقال منسوب إلى الصحفية والأكاديمية مارغريت سيمونز. وقالت سيمونز إنها لم تكتب المقال، رغم أن المرجع صيغ بدقة جعلتها تتساءل للحظة عما إذا كانت قد نسيته.
كيف اكتشفت المراجع؟
لم يعتمد "تحقيق الغارديان" على برامج كشف النصوص المولدة آليا، بسبب احتمال وقوعها في نتائج خاطئة.
وبنى فريق الصحيفة برنامجا استخرج المراجع من مذكرات التحقيقات البرلمانية الحالية، ثم بحث عنها في قاعدة "كروس ريف" للأبحاث والكتب و"غوغل سكولار"، وفحص معرفات الوثائق الرقمية.
وخضعت المذكرات التي تعذر العثور على 20 بالمئة أو أكثر من مصادرها لمراجعة بشرية، قبل التواصل مع عدد من أصحابها للتحقق من النتائج.
ووجد الفريق 39 مذكرة على الأقل تحتوي على مراجع مختلقة أو غير دقيقة، بينها وثائق لم يكن لأي مصدر مدرج فيها وجود.
كما احتفظ أكثر من 100 ملف بعلامات تضاف إلى الروابط عند نسخها من "شات جي بي تي" ChatGPT. لكن التحقيق شدد على أن هذه العلامات لا تثبت وحدها استخدام المنصة مباشرة، لأنها قد تنتقل عند نسخ رابط من مصدر آخر.
خطأ يعيد إنتاج نفسه
تزداد المشكلة خطورة عندما تتحول المذكرة البرلمانية إلى مصدر مفتوح على الإنترنت. ففي حالة الدراسة المنسوبة إلى هاسلام، قدم ملخص غوغل المدعوم بالذكاء الاصطناعي وصفا للبحث الوهمي كما لو كان حقيقيا، مستندا إلى الوثيقة التي احتوت على المرجع المختلق.
وهكذا تنشأ حلقة تضليل: يخترع الذكاء الاصطناعي دراسة، فتدخل إلى وثيقة برلمانية، ثم تعود محركات البحث إلى الوثيقة لتقديم الدراسة دليلا على صحة وجودها.
ولا يعني قبول مذكرة أو الاستشهاد بها أن البرلمان تبنى جميع ما ورد فيها. لكن مرور المراجع من دون تدقيق قد يؤثر في التوصيات الحكومية أو توزيع التمويل أو صياغة التشريعات.
وتحمل إرشادات مجلس الشيوخ الأسترالي مقدم المذكرة مسؤولية دقة المعلومات، محذرة من مخاطر استخدام الذكاء الاصطناعي.
وقالت "أوبن إيه آي" للصحيفة إن المستخدمين ينبغي أن يتعاملوا مع "شات جي بي تي" باعتباره "مسودة أولى لا مصدرا نهائيا"، وأن يتحققوا من الاقتباسات والأرقام والمراجع.
فالمشكلة لا تبدأ عندما يساعد الذكاء الاصطناعي في كتابة مذكرة، بل عندما تنتقل المذكرة إلى البرلمان من دون أن يفتح أحد الدراسة التي تزعم الاستناد إليها.