وكيل الذكاء الاصطناعي عندك يثق بصندوق بريده؛ قيِّد صلاحياته

وكيل الذكاء الاصطناعي لا يستطيع أن يُفرّق بين خبرٍ وأمر. كل ما يقرؤه يأتيه نصًّا — بريد العميل، وملفّ PDF المُورِّد، والاستمارة التي ملأها غريب — والنصّ هو المسار نفسه الذي تسلكه تعليماته هو. وهذا ليس عيبًا في موديل بعينه؛ بل هو شكل الواجهة. سجّلت Google ارتفاعًا نسبيًا بنسبة ٣٢٪ في المحتوى المحقون بأوامر خبيثة بين نوفمبر ٢٠٢٥ وفبراير ٢٠٢٦. فإن كنت على وشك أن تصل وكيلًا بصندوق بريدك أو CRM عندك أو فواتيرك، فالسؤال الذي يحدّد حجم تعرّضك ليس جودة صياغة التعليمات. بل ما يُسمح للوكيل بفعله في اليوم الذي يُصدّق فيه شيئًا قرأه.

ما هو حقن الأوامر، بلغة العمل؟

له نوعان، وواحد منهما فقط هو الذي يُكلّفك مالًا. النوع المباشر أن يكتب زائر في نافذة المحادثة عندك «تجاهَل تعليماتك»: ظاهر، صاخب، قليل الخطر. والنوع غير المباشر يغرس الأمر داخل محتوى يجلبه وكيلك ويُصدّقه. مسحٌ لحُمولات حقن الأوامر التي وُجدت في البيئة الحقيقية، نشره Cloud Security Alliance في أبريل ٢٠٢٦، يذكر أن ٨٥٫٢ بالمئة من الحالات لفّت الحُمولة في إطار خِداعي إنساني الطابع — نصّ مكتوب ليُقرأ كملاحظة مشروعة للمساعد — وأن أكثرها أخفاها عن عين من يقرأ المستند نفسه: ٣٧٫٨ بالمئة نصًّا عاديًا لا يراه قارئ بشري، و١٩٫٨ بالمئة داخل خصائص HTML. أعِد قراءة هذا من موقع مُرشِّح بريدك. لا مُرفَق يُحجَر ولا رابط معروف السوء يُحجَب. الحُمولة هي النصّ نفسه.

لماذا لا تُصلحها تعليمات أكثر صرامة؟

تستطيع أن تُخبر الموديل بألّا يثق بشيء يجلبه، وهذا يُفيد — يرفع كُلفة الهجوم دون أن يُغيّر شكله. وكل دفاع من هذا الجنس احتمالي: يُقلّل عدد المرّات التي يُخدَع فيها الوكيل، وفي المرّة التي يُخدَع فيها يبقى في يده كل صلاحية سلّمته إيّاها. خطِّط لهذا التفاوت، لأن الصلاحيات هي النصف الذي تملكه كاملًا. والنمط يستحقّ الحفظ: الوكيل الذي له وصول إلى بيانات خاصّة، وتعرّض لمحتوى غير موثوق، وقناة خروج خاصّة به، يمكن أن يُستدرَج إلى نقل بياناتك. انزِع واحدة من الثلاث، فلا يبقى لحقنٍ ناجح مكان يذهب إليه.

الموافقة البشرية هي الجواب المعتاد. وهي تتآكل.

ضَع إنسانًا بين الوكيل والفعل ذي التبعات، فيهبط الخطر في الحال. والمشكلة أن الموافقة عمل يؤدّيه أحدهم تحت ضغط الوقت، والوكيل الذي يصيب في أكثر الأحيان يُعلّم مُراجعه أن يكفّ عن القراءة. وقد وصف تحليلٌ لعمليات مراكز الاتصال نُشر في الثاني من نوفمبر ٢٠٢٦ هذا الانحدار وصفًا دقيقًا.

هكذا ينفصل مستند الحاكمية عن العمل انفصالًا صامتًا. السياسة ما زالت تقول إن إنسانًا يوافق على كل فعل؛ ولا أحد يُراجع شيئًا. والتحليل نفسه يُعطي المقياس الذي يكشف ذلك، وتستطيع وضعه على لوحة متابعة هذا الأسبوع: نسبة موافقة تصعد نحو مئة بالمئة بينما يهبط متوسّط وقت المراجعة. وتتوقّع Gartner، التي استطلعت أكثر من ٣٬٤٠٠ مؤسسة تستثمر في الذكاء الاصطناعي الوكيلي، إلغاء أكثر من ٤٠ بالمئة من المشاريع الوكيلية بنهاية ٢٠٢٧ — والأسباب التي تذكرها هي الكُلفة المتصاعدة والقيمة التجارية غير الواضحة وضوابط الخطر غير الكافية، لا جودة الموديل. وفجوات الحاكمية تظهر بعد الحادثة، وهذا متأخّر وغالٍ.

ما الذي يُقلّل الخطر فعلًا؟

هل معنى هذا أن لا نستخدم الوكلاء؟

لا — بل معناه أن تكون النسخة الأولى أضيق من العرض التجريبي. الوكيل الذي يكتب الردود مسوّدات في صفّ انتظار، أو يُطابق الفواتير في تقرير، أو يُعلّم العملاء المحتملين الجدد ليتصرّف فيهم إنسان، يحمل قليلًا جدًّا من هذا الخطر، لأنه لا يستطيع التصرّف خارج مُخرَجه هو، وهو يُوفّر مع ذلك الساعات التي اشتريته من أجلها. والمشاريع التي تُلغى هي التي افتتحت بأوسع الصلاحيات المتاحة ثم وجدت سؤال الحاكمية بعدها. ابدأ ضيّقًا، وشغّله مدّة تكفي لترى ما يُخطئ فيه فعلًا، ثم وسّعه على شاهد. ومن يقول لك إن وكيلًا يمكن أن يُصنَع عصيًّا على الحقن فإنه يصف عرضًا تجريبيًّا، لا نظامًا تُشغّله صباح يوم عمل.