ظاهرة 'هلوسة' الذكاء الاصطناعي: خبراء قطريون يقدمون حلولاً مبتكرة

الدوحة - في تطور علمي لافت، كشف خبراء قطريون عن حلول مبتكرة لمعالجة ظاهرة 'هلوسة' الذكاء الاصطناعي، وهي الحالة التي تؤدي إلى توليد معلومات خاطئة تبدو حقيقية.

فهم ظاهرة الهلوسة في الذكاء الاصطناعي

يوضح الدكتور وجدي الزغواني، الأستاذ المشارك في برنامج الاتصال بجامعة نورثوسترن في قطر، أن هلوسة الذكاء الاصطناعي تحدث عندما تقوم نماذج اللغة الكبيرة بإنتاج معلومات تبدو صحيحة لكنها في الواقع خاطئة أو مختلقة. وفي إطار الجهود لحماية المستهلكين من المعلومات المضللة، يقود الخبراء مبادرات مبتكرة.

حلول قطرية مبتكرة

يقود الدكتور الزغواني تطوير أداة 'مرصد' الممولة من مجلس قطر للبحث والتطوير والابتكار، والتي تعد جزءاً من مشاريع قطر الرائدة في مجال التقنيات المستقبلية. ستعمل الأداة كمرصد للوسائط الاجتماعية لتحليل البيانات في الوقت الفعلي عبر منطقة الشرق الأوسط وشمال أفريقيا.

تقنيات التحقق والمراجعة

تشمل الحلول المقترحة:

• أنظمة تحقق تقوم بمراجعة مخرجات الذكاء الاصطناعي مقابل قواعد بيانات موثوقة
• تطوير نظام تقييم الثقة يسمح للذكاء الاصطناعي بالإقرار بعدم اليقين
• ربط الذكاء الاصطناعي بمصادر معلومات موثقة في الوقت الفعلي

المخاطر والتحديات

يحذر الخبراء من مخاطر الاعتماد المفرط على الذكاء الاصطناعي دون تحقق. وفي ظل تزايد أهمية التحقق من المعلومات في المنطقة، تبرز أهمية هذه الحلول المبتكرة.

"الذكاء الاصطناعي أداة قوية تحتاج إلى حكم بشري، وليس بديلاً عن الخبرة البشرية," - د. وجدي الزغواني