كوارث قد يتسبب بها الذكاء الاصطناعي بحلول عام 2030

قام الخبراء بتقييم 24 فئة من مخاطر الذكاء الاصطناعي حتى عام 2030. عرّفت الدراسة الضرر الكارثي بأنه نتائج تنطوي على سبيل المثال على أكثر من مليون حالة وفاة، أو خسائر مالية تتجاوز 100 مليار دولار، أو ضرر على مستوى الحضارة للمعايير الديمقراطية والحقوق المدنية والاستقرار الاجتماعي.

في ظل سيناريو العمل المعتاد، حدد الخبراء احتمال حدوث ضرر كارثي يزيد عن 10٪ في 18 من أصل 24 خطرًا.

الأسلحة والهجمات الإلكترونية

وقدّر الخبراء احتمالاً بنسبة 21% أن تتسبب الأسلحة التي تعمل بالذكاء الاصطناعي والهجمات الإلكترونية في أضرار كارثية.

يمكن للذكاء الاصطناعي أن يسهل تطوير برامج ضارة أكثر فعالية، وأسلحة ذاتية التشغيل، وتهديدات كيميائية أو بيولوجية أو إشعاعية أو نووية.

قدرات الذكاء الاصطناعي الخطيرة

وقد ارتبطت أعلى نسبة احتمالية مقدرة، وهي 21.5%، باكتساب أنظمة الذكاء الاصطناعي قدرات خطيرة.

تشمل هذه القدرات القدرة على خداع الناس والتلاعب بهم، وتنفيذ عمليات إلكترونية، والمساعدة في تطوير الأسلحة، والمساهمة في إنشاء أنظمة ذكاء اصطناعي أكثر تطوراً. قد يُساء استخدام هذه القدرات من قِبل البشر، ولكن قد ينجم الضرر أيضاً عن أعطال في النظام أو سلوك يتعارض مع أهداف البشر.

تركيز السلطة

وقدّر الخبراء احتمالية حدوث ضرر كارثي نتيجة لتركز السلطة والموارد بنسبة 18%.

يتطلب تطوير الذكاء الاصطناعي المتقدم كميات هائلة من البيانات، وقدرات حاسوبية ضخمة، واستثمارات ضخمة. ونتيجة لذلك، قد تبقى أقوى الأنظمة تحت سيطرة عدد محدود من الشركات والحكومات.

المنافسة بين الشركات والدول

تم تحديد احتمال بنسبة 16.6% لحدوث ضرر كارثي في ​​ديناميكيات المنافسة في تطوير الذكاء الاصطناعي.

قد يشجع السباق لإطلاق أنظمة ذات قوة متزايدة الشركات والحكومات على تقليل اختبارات السلامة أو نشر نماذج قبل فهم مخاطرها بشكل كامل.

وبحسب التقرير، فإن المطور الذي يبطئ من وتيرة الاستثمار في السلامة يتحمل تكلفة تنافسية فورية، بينما تتوزع فوائد هذا الحذر على المجتمع بأكمله.

البطالة وعدم المساواة

يمكن للذكاء الاصطناعي أن يؤدي إلى أتمتة الوظائف، وتقليل جودة التوظيف، وتوسيع الفجوة بين أولئك الذين يسيطرون على التقنيات المتقدمة وبقية المجتمع.

حتى في ظل سيناريو يتضمن ضمانات عملية، قدر الخبراء احتمال حدوث ضرر كارثي بنسبة 11٪ نتيجة لعدم المساواة والبطالة.

الأضرار البيئية

يتطلب تطوير وتشغيل نماذج الذكاء الاصطناعي الكبيرة كميات متزايدة من الكهرباء والمياه والبنية التحتية للحوسبة والأجهزة المتخصصة.

لا يزال الضرر البيئي يحمل احتمالاً بنسبة 12٪ لحدوث عواقب كارثية حتى في ظل سيناريو التخفيف العملي.

فقدان واقع مشترك

بإمكان الذكاء الاصطناعي توليد نصوص وأصوات وصور ومقاطع فيديو مزيفة مقنعة على نطاق واسع. وهذا قد يجعل التحقق من المعلومات أكثر صعوبة، ويسهل التلاعب السياسي، ويقوض الثقة في وسائل الإعلام والمؤسسات العامة.

تم تحديد احتمالية حدوث ضرر كارثي بنسبة 12.8% للمعلومات المضللة. وفي سياق منفصل، أدرج 22.1% من المشاركين التضليل والتأثير ضمن أكبر ثلاثة مخاوف لديهم، بينما اختار 21.6% فقدان الإجماع على الواقع.

يؤكد المؤلفون أن هذه النسب تمثل تقديرات جماعية من الخبراء وليست تنبؤات دقيقة. كما لا يمكن جمعها معًا لأن العديد من المخاطر تتداخل وقد تتحقق من خلال الأحداث نفسها.

في وقت سابق، ذكرت وكالة أنباء قزنفورم أن طوكيو تعمل على توسيع برنامج التوفيق بين الأزواج المدعوم بالذكاء الاصطناعي لمساعدة المزيد من السكان في العثور على شركاء زواج محتملين.