شرح سلوكيات ChatGPT تقوم شركة أبحاث الذكاء الاصطناعي (أوبن أي آي) OpenAI حاليًا بتطوير أداة جديدة لشرح سلوكيات نماذج اللغة الكبيرة، التي يعتمد عليها روبوت الدردشة الشهير شات جي بي تي (ChatGPT). ويشار إلى أن النماذج اللغوية الكبيرة عادة ما تعد صناديق سوداء، حيث يصعب على علماء البيانات فهم السبب وراء استخدام النموذج لإجابة بطريقة معينة.
شرح سلوكيات ChatGPT
تعمل شركة البحوث الرائدة في مجال الذكاء الاصطناعي “أوبن أي آي” OpenAI على تطوير أداة جديدة لتفسير سلوكيات نماذج اللغة الكبيرة، وذلك لتحديد الأجزاء المسؤولة عن سلوك معين بشكل تلقائي. وعلى الرغم من أن الأداة لا تزال في مراحلها المبكرة، إلا أن شفرتها متاحة الآن بصورة مفتوحة المصدر على منصة “جيت هب” GitHub. ويهدف فريق التطوير إلى تطوير طرق لتوقع المشكلات التي يمكن أن يواجهها نظام الذكاء الاصطناعي، والوصول إلى ثقة تامة في سلوك النماذج والإجابات التي تقدمها.
تهدف أداة (أوبن أي آي) إلى فهم وظائف المكونات الخاصة بنماذج اللغة الكبيرة، وتستخدم لهذا الغرض نموذج (جي بي تي-2) GPT-2 الأبسط من الناحية المعمارية. يمكن تشبيه نماذج اللغة الكبيرة بالدماغ، حيث تتألف من خلايا عصبية تستجيب لنمط محدد في النص وتؤثر في ما يتم إنتاجه بعد ذلك.
تستخدم الأداة هذا التكوين لتقسيم النماذج إلى مكونات فردية. تقوم بتشغيل تسلسلات نصية عبر النموذج الذي يتم تقييمه، وتنتظر الحالات التي تنشط فيها خلية عصبية معينة بشكل متكرر.
ثم تظهر الأداة هذه الخلايا العصبية النشطة لنموذج (جي بي تي-4) الأحدث من (أوبن أي آي)، وتقوم بتوليد تفسير لها. ولتحديد مدى دقة التفسير، توفر الأداة تسلسلات نصية لنموذج (جي بي تي-4) لتتنبأ بسلوك الخلايا العصبية، ثم تقارنها بسلوك الخلية العصبية الفعلية.
وباستخدام هذه المنهجية، يمكن للأداة أن توصلنا إلى تفسير أولي لوظيفة كل خلية عصبية فريدة، وتحديد درجة التوافق بين التفسير والسلوك الفعلي. وفقاً لجيف وو، الذي يعمل على الأداة، يمكن الحصول بذلك على تفسير طبيعي وأساسي لما تفعله كل خلية عصبية، وتحديد مدى توافق هذا التفسير مع السلوك الفعلي.
