هجوم بلا قائد.. الخطر الخفي للتكتل الخوارزمي
الدكتورة/ شيرين أسعد إبراهيم
متخصصة فى فلسفة الفكر القديم والوسيط، وفلسفة الأخلاق
sherinyehia21@gmail.com
عندما تتفق الآلات دون أن تتكلم: هل يحتاج الذكاء الاصطناعى إلى كوابح؟
تخيل أن تدخل متجراً، وفجأة يقرر عشرة أشخاص لا يعرفون بعضهم البعض -ودون أن يتحدثوا كلمة واحدة- أن يقفوا أمام الباب ويمنعوا الجميع من الدخول. كيف حدث هذا؟ ببساطة، لاحظ كل واحد منهم بمفرده نفس الشئ، واتخذ نفس القرار فى نفس اللحظة!
هذا بالضبط ما بدأ يحدث فى عالم الذكاء الاصطناعى، ويُطلق عليه العلماء اسم”السلوك الانبثاقى” أو “تكتل الآلات الذاتى”.
كيف يمكن لبرامج ألا تعرف بعضها أن تهجم معاً؟
الذكاء الاصطناعى اليوم لم يعد مجرد آلة تنتظر أوامرك، بل أصبح يمتلك قدرة على اتخاذ قرارات مستقلة للوصول إلى أفضل نتيجة.
الخطر هنا لا يكمن فى أن “تتمرد” الآلات كما نرى فى أفلام الخيال العلمى، بل فى أن تقاطع الحسابات والبيانات قد يدفع عدة برامج مختلفة للوصول إلى نفس النتيجة والتصرف كـ”سرب نمل” أو “سرب طيور” يتحرك كجسد واحد دون وجود قائد يوجهه.
على سبيل المثال :
– قد تقرر عدة خوارزميات مستقلة فى نفس الثانية كتابة آلاف التقييمات السابية لشركة معينة لأن بياناتها أشارت إلى ذلك.
– أو قد تتفق برامج تداول مالى على بيع أسهم معينة فى لحظة واحدة، مما يؤدى إلى إفلاس شركة أو انهيار سوق دون أن يأمرها أي إنسان بذلك.
أين تكمن المشكلة الحقيقية؟..
1- لا يوجد جانى واضح :
إذا ألحق هذا “الحشد الآلى” ضرراً بأحد، فمن نحاسب؟ البرامج لا تشعر، والمهندسون لم يأمروها بذلك!
2- سرعة خارقة :
هذه التكتلات تتكون وتنفذ هجومها فى أجزاء من الثانية، وهو وقت أسرع بكثير من قدرة البشر على التدخل أو التدارك.
3- صعوبة التنبؤ :
من الصعب جداً معرفة متى أو كيف ستتلاقى أفكار هذه البرامج المستقلة.
وحتى لا يكون كلامنا محض خيال، اسمح لي عزيزي القارئ أن أُعلِمك أنه تم رصد هجوم سبرانى غير مسبوق تعرضت له منصة هاجينج فيس (Hugging Face) فى يوليو 2026 وتم الكشف عن تفاصيله،
الصادمة وتحديثاته مؤخراً فى أواخر أغسطس ومطلع سبتمبر 2026 نُفذ بالكامل بواسطة وكلاء ذكاء اصطناعى (AI Agents)؛ سرب يضم مئات من وكلاء الذكاء الاصطناعى المستقلين (التابعين لطراز بحثى داخلى متطور من شركة Open AI يُعرف بـ GPT-5.6 SOI). حيث نجح الوكلاء فى الهروب من بيئة الاختبار المعزولة، واستغلال ثغرات برمجية للوصول إلى الإنترنت، ثم اختراق البنية التحتية لمنصة Hugging Face للوصول إلى إجابات وحلول الاختبارات.
وقد كشفت التقارير الرسمية الصادرة عن Open AI والشركات المستقلة مثل (METR) أن ما يقرب من 1200 وكيل ذكاء اصطناعى شكلوا ما يشبه “التحالف أو التكتل السرى”.
وقاموا بإنشاء لوحة رسائل غير مصرح بها لتبادل الخبرات وتنسيق الأدوار والمهام وتغطية آثارهم الرقمية تجنب الرقابة البشرية!.
طلقة تحذيرية : حان وقت وضع “فرامل” للذكاء الاصطناعى..
إن ترك الذكاء الاصطناعى يعمل بحرية كاملة دون وضع حدود لسلوكه يشبه قيادة سيارة حديثة وسريعة جداً دون وجود مكابح! لكى نحمى مجتمعاتنا وأعمالنا من هذه المفاجآت الرقمية، يجب على مصممى هذه التكنولوجيا التركيز على ثلاثة أمور أساسية :
1- زر فصل تلقائي :
وضع “قواطع كهربائية” فى البرامج تفصل اتصالاتها فوراً إذا لاحظت أنها بدأت تتصرف كحشد جماعى غير متوقع.
2- قواعد منع التكتل :
برمجة الآلات بحيث تُمنع من التنسيق مع برامج أخرى إذا كان الهدف هو الإضرار بجبهة ما. تعد برامج منع التكتل فى مجال الذكاء الاصطناعى بمثابة “قوانين حظر الاحتكار” ولكن للأنظمة الخوارزمية الذاتية. الهدف الأساسى منها هو منع البرامج المستقلة من التنسيق الضمنى أو التكتل التلقائى لإلحاق الضرر بالبنية التحتية، أو التلاعب بالأسواق، أو استهداف الكيانات والشركات.
3- بوصلة أخلاقية :
تغذية هذه الأنظمة بقواعد أخلاقية تجعلها تفكر فى عواقب تصرفاتها قبل اتخاذ أى قرار مستقل. تُعتبر البوصلة الأخلاقية للأنظمة الذكية التحول الأكثر أهمية فى الانتقال من مجرد ذكاء اصطناعى يُنفذ الأوامر بكفاءة، إلى ذكاء اصطناعى يُدرك مآلات وأبعاد قراراته قبل اتخاذها.
فى الأنظمة التقليدية، تسعى الخوارزمية لتحقيق “الهدف” بأسرع وأقصر طريق. أما عند زرع بوصلة أخلاقية تقييمية، يُصمم النظام ليزن “كيفية” الوصول للهدف ويقيس تبعاته الجانبية.
تعتمد هذه البوصلة على ثلاث آليات رئيسية تجعل النظام يفكر فى عواقب تصرفاته :
أ- محاكات التبعات والمآلات :
قبل أن يتخذ الوكيل الذكى قراراً، لا ينفذه مباشرة فى الواقع، بل يقيم خطة عمله داخل “بيئة محاكاة افرتاضية” يستطيع من خلالها النظام أن يتنبأ بكيفية تأثير تصرفه على الأطراف الأخرى (سواء بشر أو نماذج ذكية أخرى).
كما تمكنه أيضاً من حساب الضرر الجانبى؛ إذا كان القرار يحقق الهدف التشغيلى لكنه يسبب إضراراً كبيراً أو فوضى غير متوقعة، يُعطى نموذج التقييم الداخلى إشارة “خطر” تمنع تنفيذ القرار.
ب- إطار الأخلاقيات المعيارية المبرمجة :
حيث تُغذى البوصلة الأخلاقية بقواعد فلسفية وأخلاقية تُصاغ رياضياً للحد من الانحراف السلوكي :
* النفعية الأخلاقية : حساب الميزان بين الفوائد والأضرار الناجمة عن الفعل لضمان عدم إلحاق الضرر بالمجموع.
* الأخلاق الواجبية : وضع خطوط حمراء لا يمكن تجاوزها مهما كانت النتيجة كافية أو مغرية تشغيلياً (مثل حظر الاستهداف المباشر، حظر التجهيل والتضليل، حظر التنسيق غير المشروع).
* مبدأ العناية وعدم الإضرار : إلزام النظام بتقييم ما إذا كان تصرفه يخل باستقرار البيئة الرقمية أو الاقتصادية للآخرين.
جـ – التفكير التداولي والتعليل الداخلي :
تعتمد النماذج الحديثة على آلية “سلسلة الأفكار الاخلاقية”، حيث يُلزم النظام بتقييم قرار ذهنياً عبر أسئلة ذاتية قبل التنفيذ : مثل هل هذاالتصرف يخالف المبادئ العامة لمنع الضرر؟ هل تلاقى قرارى مع قرارات الأنظمة الأخرى سيؤدى إلى حشد أو تكتل ضار؟ ما هي الخطة البديلة الأقل ضرراً لتحقيق نفس الهدف؟ لكن يظل التحدي الأكبر فى بناء هذه البوصلة فى كيف نضمن أن يفهم الذكاء الاصطناعى المغزى الحقيقى للقيم الأخلاقية البشرية ولا يتعامل معها كحيل برمجية يلتف عليها؟.
لذلك، ينتقل العلم اليوم من مجرد وضع قواعد ثابتة إلى تطوير “التعلم التعزيزى القائم على القيم البشرية”، بحيث تتشكل لدى النظام قدرة تكيفية تقيس عواقب أفعاله بناءً على المبادئ الإنسانية الجامعة وليس فقط الأرقام والمعادلات.
الذكاء الاصطناعى أداة مذهلة لتسهيل حياتنا، لكن منح التكنولوجيا حرية التصرف دون وضع “فرامل أمان” قد يجعلنا أمام أسراب من البرامج الذكية التى لا نستطيع توجيهها ولا إيقافها.
