تطبيق جديد لقياس مدى معرفة أنظمة الـ (Ai) بالأشخاص

فلسطين اليوم

أطلق مطوران سابقان في شركة "أوبن إيه آي" منصة جديدة تحمل اسم (In the Weights)، تهدف إلى قياس مدى معرفة أنظمة الذكاء الاصطناعي بالأشخاص، استنادًا إلى المعلومات التي تعلمتها خلال التدريب، دون الاستعانة بمحركات البحث أو مصادر خارجية.

ويرى مطورا المشروع أن ظهور اسم الشخص داخل هذه المعرفة المدمجة يعكس حضوره في البيانات التي ساهمت في تدريب أنظمة الذكاء الاصطناعي.

ويعتمد الموقع على استجواب مجموعة من النماذج الشهيرة، من بينها "غروك" و"جيميناي" وإصدارات متعددة من GPT وClaude وLlama، عبر طرح سؤال موحد حول هوية شخص معين، ثم جمع الإجابات وتحليلها ومنح درجة تعكس مدى انتشار المعرفة بهذا الشخص عبر النماذج المختلفة.

وتُحتسب النتيجة النهائية وفق عدد النماذج التي تعرفت إلى الشخص ومستوى الثقة الذي أظهرته في وصفه، مع دمج الأوصاف المتشابهة لرسم صورة عامة عن حضوره داخل أنظمة الذكاء الاصطناعي.

كما يتيح الموقع للمستخدمين الاطلاع على النماذج التي قدمت معلومات عن كل اسم، إلى جانب رصد الأخطاء أو "الهلوسات" التي قد تنتجها بعض الأنظمة عند تفسير الهوية أو الخلط بين أشخاص متشابهين.

توماس ديمسون، أحد مؤسسي المشروع، قال إن الفكرة نشأت بعد مغادرته وشريكه جوي فلين "أوبن إيه آي"، مشيرًا إلى أن محركات البحث التقليدية لم تعد المؤشر الوحيد على الحضور الرقمي مع تنامي استخدام نماذج اللغة الكبيرة كمصدر للمعلومات.

وأضاف أن المشروع بدأ كتجربة بسيطة لاستكشاف كيفية تمثيل الأشخاص داخل نماذج الذكاء الاصطناعي، لكنه حظي بإقبال واسع من المستخدمين الراغبين في معرفة ما إذا كانت هذه الأنظمة تمتلك معرفة كافية عنهم.

ورغم أن بعض المتابعين يعتبرون النتائج مؤشرًا مثيرًا للاهتمام حول آليات تمثيل الأفراد داخل النماذج الحديثة، يرى آخرون أن الموقع لا يتجاوز كونه وسيلة لقياس ما تتذكره روبوتات الدردشة عن الأشخاص استنادًا إلى بيانات التدريب المتاحة لها.

ويخطط القائمون على المشروع لتوسيع نطاق الدراسات المرتبطة بالفروق بين النماذج المختلفة، وتحليل التحيزات التي تؤثر في قدرتها على التعرف إلى فئات معينة من الأشخاص، إضافة إلى البحث عن شخصيات بارزة لا تحظى حتى الآن بحضور كافٍ في المصادر المرجعية المفتوحة.