حملات تخاصمی در یک مدل تحلیل احساس متن
نویسنده:
نوع مقاله:
مقاله پژوهشی/اصیل (بدون رتبه معتبر)
چکیده:
: شبکه های عصبی عمیق دقت و کارایی بالایی در حل مسایل مختلف دارند اما در برابر نمونه های تخاصمی آسیب پذیر هستند. این دسته از نمونه های مخرب به منظور فریب مدل آموزش دیده و بررسی آسیب پذیری مدل های شبکه عصبی تولید می شوند. در حوزه متن روش های موفق زیادی برای ساخت این نمونه ها ارایه نشده است. در این پژوهش یک روش قوی مبتنی بر گرادیان تابع هزینه مدل برای تولید نمونه-های تخاصمی متنی ارایه شده و نشان داده شده که می توان با جایگزینی تعداد کمی از کلمات موجود در نمونه های اصلی با کلماتی که بیشترین تاثیر منفی را روی تصمیم طبقه بند دارند، نمونه های جدیدی مشابه با نمونه های اولیه برای فریب طبقه بند تحلیل احساس در سطح کلمه تولید نمود. در نهایت با بهره گیری از این نمونه ها دقت دو مدل طبقه بند از پیش آموزش دیده بررسی شد. روش مورد استفاده در این پژوهش، با دست کاری اندک نمونه های ورودی، موفق به کاهش دقت طبقه بندی از 86 درصد به کمتر از 10 درصد شده است.
کلیدواژگان:
زبان:
فارسی
انتشار در:
صفحات:
9 تا 17
لینک کوتاه:
magiran.com/p2503728
دانلود و مطالعه متن این مقاله با یکی از روشهای زیر امکان پذیر است:
اشتراک شخصی
با عضویت و پرداخت آنلاین حق اشتراک یکساله به مبلغ 1,390,000ريال میتوانید 70 عنوان مطلب دانلود کنید!
اشتراک سازمانی
به کتابخانه دانشگاه یا محل کار خود پیشنهاد کنید تا اشتراک سازمانی این پایگاه را برای دسترسی نامحدود همه کاربران به متن مطالب تهیه نمایند!
توجه!
- حق عضویت دریافتی صرف حمایت از نشریات عضو و نگهداری، تکمیل و توسعه مگیران میشود.
- پرداخت حق اشتراک و دانلود مقالات اجازه بازنشر آن در سایر رسانههای چاپی و دیجیتال را به کاربر نمیدهد.
In order to view content subscription is required
Personal subscription
Subscribe magiran.com for 70 € euros via PayPal and download 70 articles during a year.
Organization subscription
Please contact us to subscribe your university or library for unlimited access!