باحث متخصص: "شات جي بي تي" لا يملك مفهوم الصح والخطأ.. ويعتمد على الاحتمالات
أوضح المهندس هشام هارون، الباحث المتخصص في تدريب وتشغيل نماذج الذكاء الاصطناعي، أن “شات جي بي تي” وأي نموذج لغوي ضخم آخر، ما هو إلا بنية تعتمد على الاحتمالات، وليست كائنات تفكر أو تفهم المعلومات كما يتصور البعض، وأكد أن هذه النماذج تعتمد في عملها على التنبؤ بالكلمات التالية بناء على البيانات التي تم تدريبها عليها، دون إدراك حقيقي للمعنى أو السياق القيمي للمعلومة.
وخلال مكالمة هاتفية لبرنامج "Tech Chat"، المذاع على قناة “إكسترا نيوز”، أوضح هارون أن “شات جي بي تي” بيتنبأ بالكلمة القادمة بناء على ما يرسله المستخدم، وليس هناك نية للاحتيال أو التضليل، لكن أحيانًا تظهر نتائج بها “لخبطة” بسبب طبيعة البيانات التي تدرب عليها النموذج.
وأضاف أن هذه البيانات في معظمها مأخوذة من الإنترنت، والتي تحتوي بطبيعتها على معلومات صحيحة وأخرى مضللة، مشيرًا إلى أن "الاحتيال ليس متعمدا، لكن جزءا من أنماط موجودة في البيانات الأصلية".
وأشار إلى أن ما يتعلمه النموذج من هذه البيانات يسمى "أنماط تعلم"، وهي ليست دائمًا شاملة لكل التخصصات، مما يؤدي إلى وجود نقص أو قصور في بعض المجالات.
وأضاف أن بعض النماذج قد تظهر ضعفًا في دقة المعلومات نتيجة لعدم تغطية كافية من البيانات المتخصصة خلال مرحلة التدريب.
كما تناول هارون جانبًا تقنيًا من المشكلة، مؤكدًا أن المعماريات المستخدمة حاليًا، ومنها المقسم اللغوي، تقسم الكلام أن يدخل للنموذج، سواء لحروف أو أجزاء من الكلمات، وهذا يأثر على قدرة النموذج في فهم المعلومة بشكل سليم، وبالتالي يساهم في ظاهرة الهلوسة التي نراها أحيانًا.
واختتم الباحث حديثه بالتأكيد على أن “شات جي بي تي” لا يملك مفهوم الصح والخطأ، هو يعمل باحتمالات بناء على ما تعلمه من البيانات، فبالتالي لو البيانات فيها خطأ أو نقص، المخرجات هتكون على نفس النمط.
ولفت إلى أن هذا لا يُعد خللًا مقصودًا، بل هو أحد التحديات التقنية الرئيسية التي تواجه تطوير الذكاء الاصطناعي حاليًا.