أصبح الذكاء الاصطناعي أداة لا غنى عنها في العديد من القطاعات، إلا أن تطوره السريع يثير مخاوف بعض الباحثين والمتخصصين. ولا تقتصر مخاوفهم على الاستخدامات الحالية للذكاء الاصطناعي، كالتضليل الإعلامي والهجمات الإلكترونية وأتمتة بعض الوظائف، بل تتعداها إلى ظهور أنظمة قادرة على حل المشكلات المعقدة باستقلالية متزايدة، أو حتى تجاوز القدرات البشرية في مجالات واسعة.
يتمحور السيناريو الرئيسي المدروس حول ذكاء اصطناعي بلغ من القوة حدًا هائلاً، ولكنه يسعى لتحقيق أهداف غير محددة المعالم أو أهداف تتعارض مع المصالح البشرية. ولا يشترط أن تكون الآلة "عدائية" بالمعنى البشري للكلمة لتصبح خطيرة. فإذا ما مُنحت قدرًا كافيًا من الاستقلالية والموارد، فإن مهمة غير محددة المعالم قد تدفعها نظريًا إلى اتخاذ قرارات ذات عواقب وخيمة على المجتمعات.
إن فقدان السيطرة هو جوهر المخاوف
يخشى بعض الخبراء أيضًا من تسارع التطور التكنولوجي لدرجة تعجز معها آليات الرقابة عن مواكبته. ففي أسوأ السيناريوهات، قد يتقدم الذكاء الاصطناعي القادر على تحسين أدائه بوتيرة أسرع بكثير من المؤسسات المكلفة بتنظيمه. ويكمن التحدي حينها في فهم آلية عمله، وتوقع قراراته، والأهم من ذلك كله، الحفاظ على القدرة على إيقافه عندما يتعارض مع مصالح البشر.
مع ذلك، لا ترتبط المخاطر بالضرورة بذكاء خارق افتراضي. إذ يمكن استخدام الأنظمة القائمة لتضخيم التهديدات القائمة. ويُتيح توليد المحتوى الآلي، على وجه الخصوص، إمكانية نشر معلومات مضللة على نطاق واسع، بينما تُسهّل أدوات الذكاء الاصطناعي عمليات احتيال أو جرائم إلكترونية معينة. وفي المجال العسكري، تُثير أتمتة بعض الوظائف تساؤلات حول الدور المتبقي للبشر في اتخاذ قرارات قد تكون قاتلة.
سيناريوهات متطرفة لا تزال مثيرة للجدل
لا تزال فرضية انقراض البشر موضع جدل واسع. ويعتقد العديد من الباحثين أنه من المستحيل اليوم تقييم احتمالية حدوث مثل هذا السيناريو بشكل جدي، لا سيما وأن الأنظمة القادرة على تحقيق مستويات الاستقلالية المتوقعة غير موجودة حتى الآن. ولذلك، فإن تحذيرات بعض الخبراء هي في جزء منها تخمينية وتستند إلى افتراضات حول التطور المستقبلي للتقنيات.
يكمن وراء هذه النقاشات في المقام الأول سؤالٌ يتعلق بالحوكمة: كيف يمكن تطوير أنظمة بالغة القوة مع الحفاظ على ضمانات كافية لحماية المجتمع؟ بالنسبة للباحثين الأكثر اهتمامًا، تكمن الأولوية الآن في العمل على الأمن، والإشراف البشري، والقدرة على إيقاف الأنظمة في حال حدوث سلوكيات خطيرة. أما بالنسبة لآخرين، فإن الخطر المباشر لا يكمن في خروج الذكاء الاصطناعي عن سيطرة مطوريه، بل في احتمال استخدام البشر لهذه التقنيات لأغراض خبيثة.
