إنتاج النصوص والشيفرة صار شبه مجاني؛ أما الحكم عليها فلا. الشركات التي تدمج ضبط السلامة مع الحكم التعبيري تُبطئ الأول لتحمي الثاني، في اللحظة نفسها التي بدأ فيها وكلاؤها يرسلون أكثر مما يرسله موظفوها.
This article was translated from the English original. Translations are machine-assisted and reviewed on a rolling basis.
إنتاج المواد، سواء كانت نصاً أو شيفرة، صار شبه مجاني. أما الحكم عليها فلا. هذا التفاوت وحده يقبع الآن تحت مشكلتين تبدوان بلا صلة: برمجيات خبيثة تعيد كتابة نفسها في كل تشغيل، وسيل من رسائل البريد والتذاكر والالتزامات البرمجية التي يصوغها الوكلاء وتغادر أنظمتك دون أن يقرأها أحد.
في 2025، حدّد باحثو ESET برنامج PromptLock، أول برنامج فدية معروف مدعوم بالذكاء الاصطناعي: برمجية خبيثة تستدعي نموذجاً لغوياً أثناء التشغيل وتولّد نصوصها الخبيثة لحظياً. تبيّن أنه إثبات مفهوم أكاديمي، لم يُرصد قط في هجوم حقيقي. واعتبار ذلك مدعاة للطمأنينة هو الخطأ. الحقيقة المهمة هي التكلفة الحدية لنسخة جديدة، وقد هبطت إلى ما يقارب سعر استدعاء استدلالي واحد.
شيفرة المهاجم لم تعد شيئاً معمّراً
قام اقتصاد مكافحة الفيروسات على افتراض صامت: كتابة برمجية خبيثة جديدة فعلاً أمر مكلف، فيعيد المهاجمون استخدام الشيفرة، فتتشارك عائلات العينات التواقيع نفسها، فيحمي تحليل واحد ملايين الأجهزة الطرفية. كان الاكتشاف يتوسّع أفضل من الهجوم. تلك كانت اللعبة كلها.
البرمجيات الخبيثة المولّدة أثناء التشغيل تكسر إعادة الاستخدام. حين تعيد العينة توليد مُحمّلها في كل تشغيل، لا تبقى عائلة يمكن استخراج توقيع لها. العينات الأولى ركيكة؛ لكن المسار هو ما يهم.
الأثر الدفاعي يصطدم بأغلب ميزانيات الأمن الحالية. إذا تآكلت التواقيع، ينتقل المال إلى السلوك: ماذا تفعل العملية فعلياً بنظام الملفات، والشبكة، ومخزن بيانات الاعتماد. كان الاكتشاف السلوكي دائماً الخيار الأغلى والأكثر عرضة للإنذارات الكاذبة، ولهذا بقي مكمّلاً. أما اليوم فهو خط الدفاع الأول، وفي أغلب الشركات لم تتحرك الميزانية بعد.
وكلاؤك أنت هم مشكلة الحجم التي تصل مبكراً
الانهيار نفسه في تكلفة التوليد ينطبق على المواد التي تنتجها أنظمتك أنت. الشركة التي تشغّل وكلاء يصوغون رسائل العملاء، ويفتحون تذاكر الدعم، أو يلتزمون بشيفرة، قد صنّعت إنتاج مخرجات لا يقرأها أحد قبل إرسالها. حجة الحجم التي جعلت المراجعة البشرية الشاملة مستحيلة على المنصات الاجتماعية تصل الآن إلى داخل شركات فيها 400 موظف.
هذا ليس سبباً لإبطاء الوكلاء. بل سبب لأن تعرف بدقة أي فحوص تُجرى على كل شيء آلياً، وأي قرارات ما زالت تحتاج إلى إنسان محدد بالاسم. الشركات التي لا تستطيع التمييز بين الاثنين ينتهي بها الأمر إلى لجنة واحدة تراجع الاثنين معاً، ما يعني ألا يُراجَع أي منهما جيداً.
قدرتان دُمجتا من باب التسهيل
الخطأ الاستراتيجي هو التعامل مع “الترشيح” كقدرة واحدة. إنهما قدرتان، بملفَّي مخاطر متعاكسين.
ضبط السلامة يقرر ما إذا كان المخرَج أصيلاً، وآمناً للتنفيذ، وصادراً من حيث يدّعي: حجب ملف تنفيذي يعدّل نفسه، رفض فاتورة منتحلة، عزل استدعاء واجهة برمجية صادر عن وكيل. هذه هندسة. لا تحمل تقريباً أي انكشاف سياسي أو قانوني، وحجة توسيعها ازدادت قوة بشكل ملحوظ للتو.
الحكم التعبيري يقرر ما إذا كانت رسالة مسموحة وأصيلة ينبغي أن تُنقل: ما تقبل شركتك قوله، ولمن، وفي أي ولاية قضائية. هنا يقيم الانكشاف المتنازَع عليه.
مصرف تجزئة يوضّح الانقسام بجلاء. سياسته حول الكلمات التي يجوز لمدير علاقات أن يضعها في رسالة إلى عميل هي حكم تعبيري: قابل للطعن، مرتبط بالولاية القضائية، ويُستحسن تقليصه. وسياسته حول ما إذا كان لمساعد ذكاء اصطناعي أن ينفّذ تعليمة دفع صاغها بنفسه هي ضبط سلامة: تقني، مطلق، ويُستحسن توسيعه. أغلب المؤسسات تمرّر الاثنين عبر لجنة الحوكمة نفسها، فيتباطأ الثاني بسبب حساسية الأول.
افصل بينهما في الهيكل التنظيمي، وسجل التدقيق، والميزانية
القاعدة التشغيلية: ينبغي أن يكون ضبط السلامة قادراً على إطلاق قاعدة جديدة في يوم واحد. وينبغي ألا يكون الحكم التعبيري قادراً على إطلاق أي قاعدة دون سجل مكتوب لمن قرر وعلى أي أساس.
هذا الشرط الثاني هو انضباط المصدر نفسه الذي يجعل كل حكم ذكاء اصطناعي تخزّنه قابلاً للدفاع عنه: نسخة من السياسة، ودور مسؤول، وتعليل مدوَّن في حينه. قواعد السلامة لا تحتاج شيئاً من هذه المراسم، ولهذا بالضبط لا ينبغي أن تنتظر في طابور خلفها.
أين يقع الانكشاف الأول فعلياً بالنسبة لشركة إماراتية
التهديد الذي يصل إلى أغلب الشركات أولاً ليس برنامج فدية مبتكراً. بل أتمتتها هي، وهي تتصرف بناءً على تعليمة مسمومة: وكيل لديه صلاحية دفع يقرأ بريداً منتحلاً، أو تكامل صادر موجَّه إلى نقطة نهاية يملكها مهاجم. ما توصلت إليه DFSA من أن 21% من شركات DIFC التي تستخدم الذكاء الاصطناعي في عمليات حرجة تفتقر إلى الإشراف يصف هذه الفجوة تماماً: قدرة نُشرت قبل طبقة السلامة التي يفترض أن تحيط بها.
إذا كان إنفاقك الأمني ما زال مائلاً نحو الاكتشاف بالتواقيع، حوّل الزيادة إلى ضوابط سلوكية وضوابط هوية في دورة الميزانية هذه، ووجّهها تحديداً إلى السلوك الصادر عن وكلائك أنت. صلاحيات محدودة النطاق، وسقوف إنفاق، وقوائم وجهات مسموح بها، وسجل غير قابل للتعديل، تغطي أغلب السطح، ولا شيء منها يبطئ الوكيل.
الوكيل المبني وطبقة السلامة مصمَّمة فيه منذ البداية ليس أبطأ في الإطلاق؛ بل أسرع في الحصول على الموافقة. يوم العيادة يبني وكيلاً عاملاً على إحدى عملياتك، بمخرجات محدودة النطاق، وإجراءات مسجَّلة، وتوقيع بشري على الخطوات غير القابلة للتراجع، قبل حلول المساء. التفكير الحوكمي وراء هذه الضوابط موجود في لماذا تغش وكلاء الذكاء الاصطناعي، والحوكمة التي تصمد فعلاً.
Frequently asked questions
What is the difference between integrity control and expressive judgement?+
Integrity control decides whether an artefact is authentic, safe to execute, and originated where it claims: blocking a self-modifying binary, rejecting a spoofed invoice, quarantining an agent's outbound API call. Expressive judgement decides whether a permitted, authentic message should be carried. The first is engineering with little exposure; the second carries legal and reputational exposure in every jurisdiction. Fusing them slows the safe one to protect the contested one.
Why is signature-based malware detection losing ground to behavioural detection?+
Signature economics assumed writing novel malware was expensive, so attackers reused code and one analysis defended millions of endpoints. ESET's PromptLock proof-of-concept showed malware can now call a language model at runtime and regenerate its own scripts on each execution, leaving no stable family to signature. When variants cost an API call, the durable signal is behaviour: what a process does to files, networks, and credentials.
Do AI agent outputs need review before they are sent?+
Volume makes universal human review impossible, which is the point of splitting the filters. Integrity checks (authenticity, permissions, spend limits, destination allow-lists) run automatically on everything. Human judgement is reserved for the expressive layer and for actions that are expensive to reverse.