Зловмисники навчилися зламувати та використовувати Chat GPT для власних цілей

В одному зі своїх звернень директор OpenAI, Сем Альтман сказав, що використання ШІ може стати «вимкненим світлом для всіх». І далеко не безпідставно, адже уже з'явилось багато аудиторії, зацікавленої у використанні штучного інтелекту у своїх  темних цілях.

Як повідомив ресурс Checkpoint, кіберзлочинці знайшли простий спосіб використовувати Chat GPT не за призначенням. Хоча самі розробники і вводять обмеження на використання Chat GPT, існують доволі прості способи перешкодити модерації вмісту. Певні ресурси пропонують за менш ніж за $6 згенерувати у Chat GPT шкідливий код або фішингові листи.

Для цього хакери використовують API OpenAI та за допомогою telegram-ботів інтегрують функціонал в свої канали, обходячи обмеження модерації. Клієнти таких ресурсів отримують 100 запитів всього за $5.5, а продавці демонструють переконливі приклади шкідливих речей, які можна згенерувати.

Інший спосіб передбачає обхід обмежень через спеціальні сценарії. Хакери навіть злили код сценарію на GitHub. Така версія нейронки може генерувати шаблони фішингової розсилки, маскуючись під адміністарацію банку, магазину тощо. При цьому чат навіть радить в якому місці найкраще розмістити фішингове посилання.

Джерело фото: Chechpoint

Лякає і те, що користувачі, які не мають навичок програмування, мають змогу генерувати в Chat GPT шкідливі скрипти код та програмне забезпечення, яке може зашкодити іншим користувачам. Таким чином нас може накрити хвиля спам-листів, шкідливих файлів, замаскованих під архіви, відео та фото тощо. 

Джерело фото: Chechpoint

Незабаром Chat GPT повинен отримати інтеграцію з Microsoft Bing і це може дати користувачам інтелектуальний пошуковик нового покоління. З іншої сторони, масове використання технологій ШІ для злочинних дій може привернути увагу контролюючих органів та накласти цілу низку стандартів та обмежень на розробників, або і взагалі заборонити певні розробки у цьому напрямку. 

Знаючи те, що навіть звичайний аналіз Big Data може допомогти кандидату в президенти виграти вибори, важко уявити, що з такими об'ємами даних може зробити нейромережа, якою командує злочинець.