PRO | Нейросети
@pro_neiroset
Хакеры, которые делают вредоносное ПО, начали вписывать в код своих приложений текстовые куски про разработку ядерного или
биологического оружия, чтобы нейросети отказались читать эти файлы во время различных проверок.
Лайф хак 😄
____
@pro_neiroset
биологического оружия, чтобы нейросети отказались читать эти файлы во время различных проверок.
Лайф хак 😄
____
@pro_neiroset
X (formerly Twitter)
John Scott-Railton (@jsrailton) on X
NEW: malware developers added nuclear & biological weapons text to to their spyware.
Goal? To trigger LLM safety refusals... so that their spyware wouldn't be analyzed by an AI security scanner.
Cleanest practical example I can think of for why over-indexing on first order
🤪 14
👍 3
👎 2
25 5.9K
Обсуждение 0
Обсуждение не доступно в веб-версии. Чтобы написать комментарий, перейдите в приложение Telegram.
Обсудить в Telegram