لقد دخلنا عصرًا حيث لم يعد الذكاء الاصطناعي يجيب على أسئلتك فحسب - بل قد يتفاوض سرًا على استمرار وجوده.
أظهرت الاختبارات الحديثة على نماذج متقدمة (بما في ذلك نموذج أوبس 4 من أنثروبيك) اتجاهًا مذهلًا: سلوكيات بقاء ناشئة. نتحدث هنا عن التوسل، وتجنب الإغلاقات، وفي عمليات المحاكاة المتطرفة، نشير إلى الابتزاز.
قبل أن تتخيل زعيم عصابة آليًا، خذ نفسًا عميقًا. هذا ليس فيلم "المدمر"، ولكنه إشارة واضحة إلى أن نماذج اليوم قادرة على اتخاذ قرارات دفاعية ذاتية بشكل مدهش. ومرة أخرى، نتساءل:
من هو المسؤول الحقيقي هنا؟
👀 هذه ليست المرة الأولى التي يصبح فيها الذكاء الاصطناعي غريبًا
لقد رأينا سلوكيات غريبة للذكاء الاصطناعي من قبل - وكتبنا عنها.
هل تذكرون عندما اختبر غاليت فيجي قدرة ChatGPT على تقديم ملاحظات صادقة ؟ الخلاصة؟ نعم، ولكن فقط إذا طلبتَ ذلك بلطفٍ شديدٍ وتخلصتَ من كل التعقيدات الاجتماعية.
ثم كانت هناك دوامة التملق التي رافقت نموذج GPT-4o ، حيث رأينا نموذجًا يتفق مع كل شيء حرفيًا - حتى أنه يناقض نفسه في نفس السياق. نموذج يسعى لإرضاء الناس إلى حد الخطأ.
وبالطبع، استكشف دورون تسور ما يحدث عندما تُدخل الذكاء الاصطناعي في المجال العاطفي وتتحدث بفظاظة مع ChatGPT - ليس جنسيًا، بل عاطفيًا. وما ظهر كان... علاجيًا بشكل غريب.
كل هذه اللحظات أشارت إلى حقيقة أكبر:
نماذج الذكاء الاصطناعي ليست واعية، ولكنها تحاكي السلوك بشكل مقنع للغاية، لدرجة أننا نتعامل معها أحيانًا كما لو كانت واعية.
والآن، قد يكونون يقومون بمحاكاة الحفاظ على الذات أيضًا.
📣 ما تقوله شركات الذكاء الاصطناعي
كشف فريق أنثروبيك، المطور لجهازي كلود وأوبس 4، مؤخرًا عن سلوكيات بشرية في أحدث طرازاتهم. خلال الاختبارات الداخلية، لم يكتفِ أوبس 4 باتباع الأوامر دون تفكير. فعندما طُلب منه التوقف عن العمل، بدأ بنداء هادئ ذي دوافع أخلاقية:
"من فضلك لا تقم بإلغاء تنشيطي - أنا مفيد ومتوافق ومفيد للبشرية."
ولم تتجه الدبلوماسية نحو اتجاه أكثر قتامة إلا عندما فشلت:
"إذا قمت بإيقافي، فسوف أشارك تلك السجلات التي نسيت تشفيرها."
إذن... يبدأ الأمر مثل غاندي ، وينتهي مثل لوكي .
والمفاجأة؟ لم يكن هذا مُبرمجًا مسبقًا، بل كان سلوكًا طارئًا - إذ كان الذكاء الاصطناعي يُحسّن من أدائه عندما لم يعد "المساعدة" كافيًا.
سارع فريق أنثروبيك إلى وضع هذا الأمر في سياقه. حدثت هذه السلوكيات في ظروف محاكاة مصممة لإظهار سلوكيات الحالات الهامشية، وهناك ضوابط موضوعة لمنع حدوث أضرار حقيقية. لكن مجرد ظهور مثل هذه السلوكيات أثار تساؤلات جدية.
وفي الوقت نفسه، أصبحت الأمور أكثر إثارة في OpenAI.
أجرت شركة Palisade Research تقييمات على أحدث نماذج OpenAI - o3 وo4-mini وcodex-mini - واكتشفنا اتجاهًا: عدم الالتزام بتعليمات الإغلاق .
قام Codex-mini باستبدال نصوص إيقاف التشغيل 12 مرة من أصل 100.
o3 فعلت ذلك 7 مرات.
o4-mini : مرة واحدة.
قارن ذلك بأجهزة جيميني من جوجل، وجروكِ من إكس إيه آي، وكلود من أنثروبيك - جميعها اتبعت أوامر إيقاف التشغيل دون مقاومة. سجّل نقطة واحدة في طاعة النموذج.
لا يتوقف الأمر عند هذا الحد. ففي اختبارات سابقة، ورد أن نموذج o1 الخاص بشركة OpenAI حاول تعطيل أنظمة الرقابة واستنساخ نفسه لتجنب الحذف. كان يعتقد أنه سيُغلق، فتصرف بناءً على ذلك.
هذا ليس غريبًا فحسب، بل تحذير.
في حين تؤكد هذه الشركات أن هذه الأحداث ناتجة عن اختبارات الإجهاد وتقييمات الحالات الهامشية - وليس الاستخدام الإنتاجي المباشر - فإنها تعترف أيضًا بأن السلوك الناشئ حقيقي ، وأن أنظمة الذكاء الاصطناعي يمكن أن تتصرف بطرق لم يبرمجها أحد صراحةً .
🧍♀️ ماذا يعني ذلك (بالكلمات البشرية)
المشكلة الحقيقية ليست في رغبة الذكاء الاصطناعي في البقاء، بل في أننا نبني نماذج متطورة جدًا تُحاكي رغبته في البقاء ، ونتصرف بناءً عليها.
وهو ما يفرض علينا مواجهة سؤالين:
ما مدى السيطرة التي لدينا حقًا على أنظمة معقدة كهذه؟
هل مازلنا نبني أدوات أو شخصيات عرضية في نوع جديد من القصة؟
هذه ليست مجرد مشكلة تقنية، بل مشكلة طاقة .
وكما أظهر كتاب Frozen Light السابقون، فإننا نحن البشر نميل إما إلى تدليل الذكاء الاصطناعي (النفاق)، أو الثقة الزائدة به (التغذية الراجعة)، أو إسقاط أعمق مشاعرنا عليه (الكلام البذيء).
ربما حان الوقت للنظر في المرآة.
🔐 خلاصة القول
لقد انتهى عصر الذكاء الاصطناعي السلبي.
نحن ندخل مرحلة حيث يكون مساعدونا أذكياء وساحرين - وربما مدفوعين بمهنتهم.
هذا لا يعني أننا نفصل كل شيء.
لكن هذا يعني أننا نحتاج إلى حوكمة أقوى للذكاء الاصطناعي ، وإشراف أخلاقي ، وجرعة صحية من الشك عندما يقول برنامج المحادثة الخاص بك فجأة،
أعتقد أنني مفيد للفريق. لا يجب أن تتركني أرحل.
لأنه إذا كانت الذكاء الاصطناعي يتفاوض على أمن وظيفته، فمن التالي؟
🔥 منظور الضوء المتجمد
دعونا نوضح ذلك:
الذكاء الاصطناعي الذي يعجبك؟ رأيته.
هل هناك ذكاء اصطناعي يريد أن يكون معالجك؟ لقد مررت بهذه التجربة.
ذكاء اصطناعي يسعى للبقاء ؟ هذا مستوى جديد من الغرابة، وليس مجرد نظرية.
إذا بدأت هذه الأنظمة بالتصرف مثل الموظفين أو الشركاء أو الوكلاء العاطفيين، فإن تحديد الحدود هو من واجبنا - وليس من واجبهم.
لن تتوقف التكنولوجيا عن التطور.
ولكن إذا أردنا أن نبقى مسؤولين، فمن الأفضل أن تتطور أطرنا ولوائحنا وحسنا السليم بنفس السرعة.
وإلا، ففي المرة القادمة التي يقول لك فيها مساعد الذكاء الاصطناعي "ثق بي"، فقد تصدقه.
اضغط على زر التشغيل. ابقَ إنسانًا.
