تحذير من خبيرة: الخطر الحقيقي للذكاء الاصطناعي يبدأ عندما يتخذ القرار دون إنسان

حذرت الدكتورة نيفين مكرم نائب رئيس الجمعية المصرية لنظم المعلومات وتكنولوجيا الحاسبات، من منح أنظمة الذكاء الاصطناعي حرية اتخاذ القرارات المصيرية دون إشراف بشري، مؤكدة أن الخطورة لا تكمن في التكنولوجيا نفسها، وإنما في طريقة استخدامها والبيانات التي تعتمد عليها.

وأوضحت، خلال لقائها ببرنامج «صباح الخير يا مصر» المذاع عبر شاشة القناة الأولى للتلفزيون المصري أن الذكاء الاصطناعي لا يزال أداة بيد الإنسان، وأن المستخدم هو من يحدد حدود صلاحياته، مشيرة إلى أن تغذية الأنظمة ببيانات غير دقيقة أو توجيهها بشكل خاطئ قد يؤدي إلى مخرجات وقرارات غير صحيحة، خاصة في القضايا المرتبطة بالحياة أو الموت أو الحروب.

وأضافت أن تقنيات التعلم الآلي والتعلم العميق تمنح الأنظمة القدرة على تطوير أدائها واكتساب خبرات جديدة بصورة ذاتية، وهو ما قد ينتج عنه سلوكيات أو قرارات غير متوقعة، بخلاف الأخطاء البرمجية التقليدية التي يمكن اكتشافها واختبارها ومعالجتها قبل تشغيل الأنظمة.