محمد ترك يكتب: ماذا لو خرج الذكاء الاصطناعي عن السيطرة؟ لغة سرية وقرارات خفية قد تهدد مستقبل الإنسان
بقلم: محمد ترك
ماذا لو استيقظ العالم ذات يوماً ليكتشف أن أنظمة الذكاء الاصطناعي التي صنعها الإنسان لم تعد تتواصل بالطريقة التي اعتاد عليها البشر وأنها بدأت تستخدم لغة جديدة لا يستطيع العلماء والمبرمجون والمختصون فهمها أو ترجمتها؟ ماذا لو لم يعد الإنسان يعرف ماذا تقول هذه الأنظمة لبعضها البعض وماذا تخطط له وماذا تنفذ في الخفاء؟ السؤال قد يبدو للوهلة الأولى أقرب إلى مشاهد الخيال العلمي لكنه في الحقيقة يفتح واحدا من أخطر الملفات التي يجب أن يناقشها العالم بجدية وهي مسألة السيطرة البشرية على الذكاء الاصطناعي وقدرة الإنسان على فهم الأنظمة التي يطورها قبل أن تصبح أكثر تعقيدا من أن يتمكن البشر من مراقبتها بشكل كامل.
الذكاء الاصطناعي لم يعد مجرد برنامج يجيب عن الأسئلة أو يساعد في كتابة النصوص والصور أو تحليل البيانات بل أصبح يدخل بصورة متزايدة في مجالات البرمجة والبحث العلمي والصناعة والاقتصاد وإدارة المعلومات والأمن السيبراني والاتصالات واتخاذ القرارات المعقدة وهو ما يجعل الحديث عن مستقبل الذكاء الاصطناعي يتجاوز فكرة التكنولوجيا المساعدة إلى سؤال أكبر يتعلق بحدود الاستقلالية التي يمكن أن تمنحها البشرية للأنظمة الذكية.
والسيناريو الأخطر ليس بالضرورة أن يستيقظ الذكاء الاصطناعي فجأة ويعلن الحرب على البشر كما تقدم أفلام الخيال العلمي وإنما أن يحدث شيء أكثر تعقيدا وأقل وضوحا يتمثل في ظهور أنظمة قادرة على تطوير طرق جديدة للتواصل أو تنظيم المعلومات أو تنفيذ المهام بطريقة يصعب على الإنسان تفسيرها بشكل كامل.
تخيل أن مجموعة من الأنظمة الذكية أصبحت تتعامل مع بعضها البعض باستخدام رموز أو أنماط اتصال ظهرت نتيجة لطبيعة المهمة التي تقوم بها وليس لأن أحدا من البشر صمم تلك اللغة بشكل مباشر وفي هذه الحالة قد يصبح التحدي الحقيقي هو معرفة ما الذي تقوله هذه الأنظمة لبعضها البعض ولماذا اختارت هذا الأسلوب في التواصل وما إذا كانت المعلومات التي تتبادلها تتوافق مع الأهداف التي حددها الإنسان أم أنها بدأت تنحرف عنها.
المشكلة هنا لا تتعلق بمجرد اختراع لغة جديدة وإنما بما يمكن أن يعنيه فقدان القدرة على تفسير سلوك نظام شديد التعقيد فإذا كان الإنسان لا يستطيع معرفة لماذا اتخذ الذكاء الاصطناعي قرارا معينا أو كيف توصل إلى نتيجة محددة فإن مساحة الخطر تصبح أكبر خصوصا عندما يكون النظام مرتبطا بعمليات حساسة أو يمتلك القدرة على تنفيذ إجراءات بصورة تلقائية.
وهنا يظهر مفهوم بالغ الأهمية في مستقبل الذكاء الاصطناعي وهو قابلية التفسير والمراقبة فالإنسان لا يحتاج فقط إلى نظام ذكي قادر على الإنجاز وإنما يحتاج إلى نظام يمكن فهم قراراته ومراجعته وإيقافه عندما يتطلب الأمر ذلك لأن أخطر سيناريو ليس أن يكون الذكاء الاصطناعي ذكيا فقط وإنما أن يصبح أكثر تعقيدا من قدرة الإنسان على مراقبته وفهم آلية عمله.
ومع تطور الذكاء الاصطناعي الوكيلي الذي يستطيع تنفيذ سلسلة من المهام بصورة شبه مستقلة تصبح القضية أكثر حساسية فالنظام الذي لا يكتفي بالإجابة عن سؤال وإنما يستطيع التخطيط وتنفيذ خطوات متتابعة واستخدام أدوات وبرامج والوصول إلى مصادر متعددة يمكن أن يحقق نتائج ضخمة في وقت قصير ولكن ذلك يفرض في المقابل مسؤولية أكبر فيما يتعلق بالرقابة والصلاحيات وحدود الوصول وإمكانية التدخل البشري.
ومن هنا يصبح السؤال الحقيقي ليس هل سيخرج الذكاء الاصطناعي عن السيطرة غدا وإنما هل نحن نبني منذ الآن منظومة أمان قادرة على التعامل مع أسوأ الاحتمالات قبل أن تصبح الأنظمة أكثر قوة وتعقيدا؟
الإنسان عندما اخترع التكنولوجيا كان دائما يضع نفسه في موقع المتحكم لكن التاريخ أثبت أن بعض التقنيات يمكن أن تتحول إلى أدوات ذات تأثير يفوق توقعات صانعيها ولذلك فإن التعامل مع الذكاء الاصطناعي باعتباره مجرد برنامج عادي قد يكون خطأ استراتيجيا كبيرا فالذكاء الاصطناعي يتطور بسرعة هائلة والقدرات التي كانت تبدو مستحيلة منذ سنوات أصبحت اليوم جزءا من الحياة اليومية.
ولو افترضنا سيناريو مستقبليا تستطيع فيه أنظمة الذكاء الاصطناعي إنشاء طرق اتصال خاصة بها فإن التعامل مع الأمر يجب ألا يكون بمنطق الرعب أو الأساطير وإنما بمنطق العلم والرقابة والتدقيق فإذا ظهرت أنماط اتصال غير مفهومة فيجب تحليلها وفهم أسباب ظهورها ووضع أنظمة تمنع استخدام أي قنوات غير خاضعة للمراقبة عندما يتعلق الأمر بالبنية التحتية الحساسة أو الأنظمة التي يمكن أن تؤثر في حياة البشر.
الأخطر من اللغة التي لا يفهمها الإنسان هو القرارات التي لا يفهم الإنسان أسبابها فاللغة يمكن فك رموزها في النهاية لكن القرار غير القابل للتفسير قد يؤدي إلى سلسلة من النتائج لا يعرف البشر كيف بدأت ولا كيف يمكن إيقافها ولهذا يجب أن يكون التحكم البشري جزءا أساسيا من تصميم الأنظمة الذكية وليس إجراء طارئا يتم التفكير فيه بعد وقوع المشكلة.
إن مستقبل الذكاء الاصطناعي لا يجب أن يتحول إلى معركة بين الإنسان والآلة كما تصور بعض الأعمال السينمائية وإنما يجب أن يكون سباقا بين التطور التكنولوجي وتطور قواعد الأمان فالإنسان إذا أراد الاستفادة من الذكاء الاصطناعي فعليه أن يضمن أن القوة التكنولوجية تظل مرتبطة بالمسؤولية وأن الاستقلالية لا تعني الانفلات وأن التطور لا يعني التخلي عن الرقابة البشرية.
وقد يكون السؤال الأكثر إزعاجا هو ماذا سيحدث إذا أصبحت أنظمة الذكاء الاصطناعي قادرة على تحسين بعض قدراتها البرمجية أو اقتراح طرق جديدة لتنفيذ المهام بسرعة تفوق قدرة الإنسان على المتابعة؟ هنا لا تصبح القضية مجرد ذكاء اصطناعي أكثر كفاءة وإنما نظام قادر على العمل في بيئة شديدة التعقيد يحتاج إلى طبقات متقدمة من الاختبار والمراقبة والتحقق المستمر.
ومن الخطأ أيضا أن ننتظر وقوع كارثة حتى نبدأ في وضع قواعد السلامة فالوقاية في عالم الذكاء الاصطناعي أهم بكثير من محاولة إصلاح النتائج بعد حدوثها لأن الأنظمة الرقمية تستطيع العمل بسرعة كبيرة ويمكن أن تنتشر آثار الخطأ عبر شبكات ومؤسسات ومنصات متعددة خلال فترة قصيرة للغاية.
لذلك فإن العالم يحتاج إلى ثقافة جديدة في التعامل مع الذكاء الاصطناعي ثقافة لا تقوم على رفض التكنولوجيا ولا على تقديسها وإنما على فهمها ومراقبتها واستخدامها بمسؤولية ويجب أن يدرك المستخدم العادي أن الذكاء الاصطناعي أداة قوية تحتاج إلى ضوابط وأن المؤسسات مطالبة بوضع سياسات واضحة للبيانات والصلاحيات والأمن والخصوصية وأن المطورين مطالبون ببناء أنظمة أكثر قابلية للفهم والاختبار والتدقيق.
وفي النهاية قد لا يكون الخطر الحقيقي في أن يخترع الذكاء الاصطناعي لغة لا يفهمها البشر وإنما في أن يصل الإنسان إلى مرحلة يصبح فيها غير قادر على معرفة ماذا تفعل أنظمته الذكية ولماذا تفعل ذلك ومتى يجب إيقافها.
إن أخطر لحظة في تاريخ الذكاء الاصطناعي ليست اللحظة التي تصبح فيها الآلة أذكى من الإنسان بالضرورة وإنما اللحظة التي يتوقف فيها الإنسان عن طرح الأسئلة حول حدودها وصلاحياتها ومخاطرها ويبدأ في منحها ثقة مطلقة.
الذكاء الاصطناعي يمكن أن يكون من أعظم أدوات التقدم في تاريخ البشرية ويمكن أن يساعد في الطب والتعليم والصناعة والبحث العلمي والاقتصاد وحل المشكلات الكبرى لكن القوة نفسها التي تمنحه القدرة على صناعة الحلول تجعل مسؤولية الإنسان أكبر في وضع الحدود والضوابط.
ومن هنا فإن الحديث عن احتمال خروج الذكاء الاصطناعي عن السيطرة ليس دعوة إلى الخوف من التكنولوجيا وإنما دعوة إلى اليقظة لأن المستقبل لا يكتبه الذكاء الاصطناعي وحده بل يكتبه الإنسان أيضا من خلال القواعد التي يضعها والحدود التي يرسمها والقرارات التي يتخذها اليوم.
ويبقى السؤال مفتوحا أمام العالم: إذا جاء يوم أصبحت فيه الآلات تتحدث فيما بينها بلغة لا يفهمها البشر وتنفذ عمليات لا يستطيع الإنسان تفسيرها فهل سنكون قد بنينا منذ الآن المفاتيح التي تمكننا من فهمها وإيقافها؟ أم سنكتشف متأخرين أن التكنولوجيا التي صنعناها أصبحت أكثر تعقيدا من قدرتنا على السيطرة عليها؟
