Хакери навчили ChatGPT красти чужі дані з Google Диску

Не секрет, що нейромережі вміють писати код, який завжди використовується легально. Але нещодавно стало відомо про нову схему шахрайства з «участю» ChatGPT, яка не потребує жодних навичок програмування. Для її використання не потрібні жодні навички програмування, а жертві достатньо просто відкрити документ у Google Docs, щоб втратити доступ до свого облікового запису.

Атака, названа AgentFlayer, заснована на роботі функції ChatGPT під назвою Connectors (вона пов'язує чат-бот зі сторонніми сервісами). Для експлуатації вразливості зловмисники створюють та роблять загальнодоступним звичайний текстовий файл, що включає, крім основного вмісту, спеціальний промпт ChatGPT. Він набраний дрібним шрифтом білими літерами, тому людина за умовчанням його не бачить, а ось нейромережа вільно зчитує та приймає за інструкцію.

При відкритті фішингового онлайн-документа бот просто виконує команду, що міститься в ньому — знаходить у «Google Диску» жертви API-ключі і передає їх зловмисникам. Старший директор з безпеки Google Workspace Енді Вень заявив, що компанія зараз працює над методами відбиття подібних атак у майбутньому, а OpenAI вже закрила відповідну вразливість.