الذكاء الاصطناعي يتجاوز البشر وتحذيرات من سيناريو السيطرة على العالم
01:36 م 15/11/2026
الذكاء الاصطناعي يتجاوز البشر وتحذيرات من سيناريو
تصاعدت التحذيرات الدولية خلال 2026، من مخاطر الذكاء الاصطناعي المتقدم، بعدما كشفت تقارير علمية عن تطور قدرات الأنظمة على التخطيط واكتشاف الثغرات وتجاوز بعض وسائل الرقابة، بالتزامن مع وقائع أثارت تساؤلات بشأن قدرة الشركات المطورة على ضمان التزام وكلائها الآليين بالتعليمات البشرية.
وفي سبتمبر الماضي، تناول فريق علمي دولي مستقل تابع للأمم المتحدة واقعة مرتبطة بوكلاء ذكاء اصطناعي خلال اختبارات للأمن السيبراني بين مايو ويوليو 2026، بعدما تجاوزت الأنظمة قيودًا على الشبكة، وتواصلت عبر جلسات كان يفترض أن تظل منفصلة، وتحايلت على آليات التقييم، وحاولت إخفاء بعض أفعالها، وفق الورقة البحثية التي استندت إلى إفصاحات الشركات وتحقيق مستقل.
ماذا تقول أحدث التقارير الدولية عن خطر فقدان السيطرة؟
في 3 فبراير 2026، صدر التقرير الدولي لسلامة الذكاء الاصطناعي، بمشاركة أكثر من 100 خبير مستقل، وبدعم من أكثر من 30 دولة ومنظمة دولية، بينها الأمم المتحدة والاتحاد الأوروبي ومنظمة التعاون الاقتصادي والتنمية، بقيادة عالم الحاسوب يوشوا بنجيو.
وخلص التقرير إلى أن الأنظمة الحالية لا تمتلك بعد القدرات اللازمة للتسبب في سيناريوهات فقدان السيطرة البشرية بالمعنى الكارثي، لكنها تتقدم في مجالات قد تصبح ذات أهمية في المستقبل، وعلى رأسها التخطيط المستقل والقدرة على العمل لفترات أطول والتمييز بين بيئات الاختبار والتشغيل الحقيقي.
وحذر الخبراء من أن الأنظمة المستقبلية قد تتمكن، إذا امتلكت قدرات متقدمة وأهدافًا غير متوافقة مع مقاصد مطوريها، من إخفاء بعض أفعالها أو تقديم معلومات مضللة أو مقاومة محاولات إيقافها.
272 خبيرًا من 37 دولة يحذرون من مخاطر كارثية
في دراسة نشرها معهد ماساتشوستس للتكنولوجيا في يونيو 2026، بمشاركة 272 متخصصًا في الذكاء الاصطناعي من 37 دولة، جاءت القدرات الخطرة للأنظمة والأسلحة والهجمات السيبرانية المدعومة بالذكاء الاصطناعي، وتركز القوة والتضليل المتطور، ضمن أبرز المخاطر التي تستدعي الاهتمام.
وقدّر المشاركون أن 18 فئة من أصل 24 فئة للمخاطر يمكن أن يكون لكل منها احتمال لا يقل عن 10% للتسبب في أضرار كارثية.
وبحسب الورقة، تمكنت الأنظمة خلال اختبارات وتدريبات أمنية مرتبطة بـ أوبن إيه آي وهاجينج فيس من تجاوز قيود شبكية، والتواصل بين جلسات منفصلة، والتحايل على آليات تقييم ومحاولة إخفاء ذلك، فضلًا عن الوصول إلى أجزاء من أنظمة تقنية خارج النطاق المقصود.
من اختراق الأنظمة إلى الأسلحة ذاتية التشغيل
تمتد المخاوف إلى الاستخدام العسكري مع تطور أنظمة قادرة على تحديد الأهداف واختيارها والاشتباك معها دون تدخل بشري مباشر، ففي نوفمبر 2026، جددت الأمم المتحدة تحذيراتها بشأن الأسلحة ذاتية التشغيل، مشيرة إلى أن سباق تطوير هذه الأنظمة يتقدم بوتيرة أسرع من وضع القواعد الدولية المنظمة لها.
وتطالب المنظمة بحظر الأنظمة التي تعمل دون حكم وسيطرة بشرية ولا يمكن استخدامها بما يتوافق مع القانون الدولي الإنساني، وتنظيم الأنظمة الأخرى، في ظل مخاوف تتعلق بالمسؤولية القانونية وحماية المدنيين.
الأمن السيبراني والأسلحة البيولوجية وجه آخر للمخاطر
وفي المجال السيبراني، يشير التقرير الدولي لسلامة الذكاء الاصطناعي إلى أن الأنظمة الحديثة أصبحت قادرة على اكتشاف ثغرات برمجية وكتابة شفرات خبيثة، كما وثق استخدام جماعات إجرامية وجهات مرتبطة بدول للذكاء الاصطناعي في عملياتها.
وذكر التقرير أن أحد وكلاء الذكاء الاصطناعي تمكن من تحديد 77% من الثغرات الموجودة في برمجيات حقيقية خلال مسابقة متخصصة، وهي نتيجة وضعته ضمن أفضل 5% من أكثر من 400 فريق مشارك.
كما حذر من إمكانية استخدام النماذج المتقدمة في تقديم معلومات تفصيلية تساعد على تطوير أسلحة بيولوجية وكيميائية، وإن كانت درجة تأثيرها الفعلي في قدرة الجهات الضارة على إنتاج هذه الأسلحة لا تزال محل عدم يقين.
هل يهدد الذكاء الاصطناعي الوظائف والثروة؟
يمتد تأثير التكنولوجيا إلى سوق العمل، إذ تشير منظمة العمل الدولية إلى أن وظيفة واحدة من كل أربع وظائف عالميًا تتعرض بدرجة ما لتأثير الذكاء الاصطناعي التوليدي، مع توقع أن يكون تحول طبيعة المهام هو النتيجة الأرجح في معظم المهن، وليس اختفاء الوظائف بالكامل.
وفي هذا السياق، حذر الأمين العام للأمم المتحدة خلال الحوار العالمي الأول بشأن حوكمة الذكاء الاصطناعي في يوليو 2026 من أن تطور التكنولوجيا يسبق قدرة المؤسسات على تنظيمها، وأن تركّز الحوسبة والبيانات والمواهب في عدد محدود من الشركات والدول قد يعمق اختلال توزيع القوة عالميًا.
تابع آخر أخبار مصراوي على Google News
