حقن البرومبت — Prompt Injection
حقن البرومبت هجوم يخفي فيه المهاجم تعليمات داخل محتوى يقرأه النموذج مثل صفحة ويب أو مستند، فينفذها النموذج متجاوزاً تعليمات النظام الأصلية ويكشف بيانات أو ينفذ إجراءات غير مصرح بها. وهو الخطر الأمني الأول في الوكلاء الذين يقرأون محتوى خارجياً غير موثوق.
حقن البرومبت هجوم يخفي فيه المهاجم تعليمات داخل محتوى يقرأه النموذج مثل صفحة ويب أو مستند، فينفذها النموذج متجاوزاً تعليمات النظام الأصلية ويكشف بيانات أو ينفذ إجراءات غير مصرح بها. ويستغل عجز النموذج عن التمييز الحاسم بين التعليمات الموثوقة والمحتوى المُدخل. وهو الخطر الأمني الأول في الوكلاء الذين يقرأون محتوى خارجياً غير موثوق.