أترغب في تفعيل الإشعارات؟
حتى لا تفوتك آخر الأحداث والأخبار العاجلة
أثارت تحذيرات متزايدة داخل قطاع الذكاء الاصطناعي بشأن المخاطر الوجودية التي قد تفرضها النماذج المتقدمة تساؤلات حول إمكانية إيقاف هذه الأنظمة إذا أصبحت أقوى من قدرة صانعيها على التحكم فيها، بحسب "بلومبيرغ".
واكتسب هذا السؤال أهمية جديدة خلال الأسابيع الأخيرة، مع تصاعد التحذيرات من داخل صناعة الذكاء الاصطناعي بشأن المخاطر المحتملة للنماذج المتقدمة، وما إذا كان بالإمكان ببساطة الضغط على "زر" لإيقافها في حال خرجت عن سيطرة مطوريها.
وبدأ مشرعون ومسؤولون في الولايات المتحدة الدفع باتجاه جعل قدرات الإيقاف الشامل للأنظمة مطلبًا إلزاميًا لدى شركات الذكاء الاصطناعي.
وفي سبتمبر، وقّع حاكم ولاية كاليفورنيا غافين نيوسوم أمرًا تنفيذيًا يقضي بأن يستكشف مسؤولو الولاية وضع قواعد تُلزم شركات الذكاء الاصطناعي بإنشاء "مفاتيح إيقاف" للنماذج المتقدمة، المعروفة باسم نماذج الذكاء الاصطناعي الرائدة.
مطالب بوضع مفتاح إيقاف التشغيل.. لماذا الآن؟
لطالما حذر باحثو الذكاء الاصطناعي من فقدان البشر السيطرة على هذه التقنية. لكن ما تغيَّر مؤخراً هو التطور الهائل في قدرات هذه الأنظمة الجديدة، وسلسلة من الحوادث والتحذيرات التي جعلت هذا الاحتمال يبدو أكثر واقعية.
وتأتي هذه التحركات في ظل تحذيرات صدرت أخيرًا من شخصيات وعاملين في قطاع الذكاء الاصطناعي بشأن المخاطر التي قد تنشأ مع تطور قدرات النماذج؛ ما أعاد طرح مسألة كيفية ضمان قدرة البشر على إيقاف هذه الأنظمة عند الحاجة.
ودفعت حوادث تعرضت لها "أوبن إيه آي" شركات أخرى إلى مراجعة إجراءاتها الأمنية لاختبار الذكاء الاصطناعي المتقدم. وأفادت شركتا "أنثروبيك" و"ميتا" باكتشاف ثغرات أمنية لم تكن معروفة من قبل.
من جانبه قال جيفري هينتون، الذي يُطلق عليه غالبًا لقب "عراب الذكاء الاصطناعي"، لشبكة "سي إن إن" في سبتمبر، إنه لا يعتقد أن مفتاح الإيقاف سينجح كحل طويل الأمد؛ بحجة أن الذكاء الاصطناعي المستقبلي فائق الذكاء قد يقنع البشر الذين يتحكمون به بعدم فصل التيار الكهربائي.
ويطرح النقاش سؤالًا أساسيًا حول ما إذا كان وجود آلية مخصصة لإيقاف النظام، سيكون كافيًا بالفعل إذا أصبحت أنظمة الذكاء الاصطناعي قوية بدرجة تفوق قدرة صانعيها على التحكم فيها.
