تزریق پرامپت چیست و چطور زنجیره‌ی افکار هوش مصنوعی با یک دستور مخرب پاره می‌شود؟

هوش مصنوعی کم‌کم دارد از نقش پاسخ‌گو خارج می‌شود و نقش «دستیار اجرایی» به خود می‌گیرد. یعنی فقط جواب نمی‌دهد؛ می‌خواند، بررسی می‌کند، مقایسه می‌کند و از طرف ما اقدام انجام می‌دهد.

اما وقتی هوش مصنوعی قرار است به جای ما چیزی بخواند و تصمیم بگیرد، از کجا مطمئن باشیم کسی در دل متون، ایمیل‌ها یا صفحات وب، دستور پنهانی برای گمراه‌ کردنش نگذاشته باشد؟ اینجاست که پای «تزریق پرامپت» وسط می‌آید؛ مفهومی بسیار خطرناک که حتی مبتدی‌ترین کاربران هوش مصنوعی هم باید آن را به خوبی بشناسند.

مطالعه ادامه مطلب در نوشدارو

مطالعه ادامه مطلب در تلگراف

شایان ضیایی

#سواد_دیجیتال
#مبانی_امنیت

نوشدارو را در تلگرام دنبال کنید:
@NooshDaroo_web