فلترة المحتوى — Content Moderation
فلترة المحتوى فحص المدخلات والمخرجات لاكتشاف ما يخالف السياسات مثل العنف والكراهية والمحتوى الجنسي والبيانات الحساسة، ثم اتخاذ إجراء مناسب لكل حالة. وهي طبقة إلزامية في المنتجات العامة لحماية المستخدمين والامتثال التنظيمي. ويُعد هذا المفهوم من الركائز العملية في مجال تطبيقات لمن يعمل على بناء تطبيقات الذكاء الاصطناعي بالعربية.
فلترة المحتوى فحص المدخلات والمخرجات لاكتشاف ما يخالف السياسات مثل العنف والكراهية والمحتوى الجنسي والبيانات الحساسة، ثم اتخاذ إجراء مناسب لكل حالة. وتعمل بمصنّفات متخصصة تعطي درجات لكل فئة انتهاك مع عتبات قابلة للضبط. وهي طبقة إلزامية في المنتجات العامة لحماية المستخدمين والامتثال التنظيمي.