Новая уязвимость типа Wormable обнаружена в GPT-3

Исследователи безопасности обнаружили новую тревожную уязвимость в моделях GPT-3, известную как WormGPT. Эта уязвимость позволяет злоумышленнику осуществлять атаку wormable, что означает, что вредоносный код может автоматически распространяться на другие уязвимые системы без необходимости взаимодействия с человеком.

Уязвимость WormGPT эксплуатирует способность моделей GPT-3 генерировать код на языках программирования. Исследователи обнаружили, что, подавая GPT-3 пример кода, модель может непрерывно генерировать похожий код, позволяя злоумышленнику создать компьютерный червь, который автоматически распространяется.

Такой тип атаки wormable особенно опасен, так как он может быстро распространяться на другие системы, подключенные к сети, и причинять значительный ущерб. WormGPT может использоваться для осуществления атак отказа в обслуживании, кражи конфиденциальной информации и даже захвата контроля над компрометированными системами.

Исследователи сообщили о своих открытиях OpenAI, компания признала серьезность уязвимости и уже работает над исправлением.

источник: gbhackers