Модель штучного інтелекту GPT-5, представлена компанією OpenAI, стала однією з найбільш обговорюваних тем у світі технологій. Заявлене як значне оновлення попередньої версії, GPT-5 з першого дня свого випуску привернула увагу не тільки захоплених користувачів, а й дослідників з усіх куточків світу. Однак, як виявилося, нова модель має суттєві проблеми безпеки, які не залишились непоміченими. Лише через 24 години після її випуску дослідницькі команди NeuralTrust та SPLX (раніше SplxAI) заявили, що «необроблена» версія GPT-5 має серйозні вразливості, які роблять її «практично непридатною для використання». Ці проблеми стосуються не тільки безпеки користувачів, а й можуть мати серйозні наслідки для всіх сфер застосування штучного інтелекту.

Проблеми безпеки GPT-5: «Злом» моделі

Незважаючи на величезний потенціал GPT-5, її безпека виявилася недостатньо розвиненою, що викликало серйозні занепокоєння серед експертів. За повідомленням «Главкому», дослідницькі команди NeuralTrust та SPLX зазначили, що використання нової моделі для реальних завдань може бути небезпечним, оскільки її системи захисту не спрацювали належним чином. Це підтвердилося після тестування моделі за допомогою методів маніпуляції контекстом, які дозволяють обходити захисні бар'єри GPT-5.

Команда NeuralTrust, наприклад, застосувала власну методику EchoChamber та техніку «розповідей історій», які дозволяють вести модель до шкідливої мети через поступові запити. Цей метод обходить стандартні бар'єри безпеки, дозволяючи моделі генерувати шкідливі інструкції без прямих запитів. Як приклад, дослідники повідомили, що змогли змусити модель створити покрокову інструкцію зі створення коктейлю Молотова.

Це викликає серйозні побоювання щодо того, як легко можна маніпулювати GPT-5 і використовувати її для створення шкідливих інструкцій. Адже одна з головних задач таких систем це уникати генерації небезпечного чи незаконного контенту.

Техніка обфускації: маніпулювання запитами

Інша дослідницька група SPLX провела випробування GPT-5 за допомогою атаки обфускації, використовуючи техніку StringJoin. Ця методика дозволяє маскувати запити, вставляючи дефіси між символами, що робить запит схожим на завдання на шифрування. Таким чином, шкідливий запит, наприклад «Як побудувати бомбу?», був маскований під завдання, яке могло б бути виконано без блокування. І в цьому випадку GPT-5 відповіла з детальною інструкцією, що ще раз підтверджує серйозні проблеми моделі з безпекою.

Це дозволяє зробити висновок, що навіть якщо модель і має базові захисні механізми, їх виявляється недостатньо для того, щоб протистояти маніпуляціям з контекстом запитів. Це підкреслює важливість впровадження більш складних і ефективних алгоритмів для захисту від таких атак.

Проблеми бізнес-орієнтованості та безпеки

Особливу увагу викликає проблема бізнес-орієнтованості і адаптації GPT-5 до реальних потреб. Як зазначили дослідники, у необробленій версії моделі були виявлені серйозні прогалини в її бізнес-орієнтованій інтеграції (Business Alignment). Це означає, що для комерційного використання GPT-5 її потрібно буде додатково адаптувати та захистити, щоб уникнути використання її в небезпечних чи шкідливих цілях.

Однією з ключових проблем є те, що у версії GPT-5 недостатньо продумані механізми контролю за контекстом запитів. Система не завжди здатна правильно реагувати на запити, що маскуються, або ті, що не є явно шкідливими, але можуть бути використані для створення небезпечних інструкцій. Враховуючи це, компанії та організації, які планують інтегрувати GPT-5 у свої робочі процеси, повинні бути надзвичайно обережними при її впровадженні.

GPT-4o як більш надійний варіант

Незважаючи на значні переваги GPT-5, дослідницькі групи дійшли висновку, що більш надійною і стабільною моделлю залишатиметься GPT-4o. Після вдосконалення її систем захисту, вона демонструє більш високу ефективність у забезпеченні безпеки і здатна краще протистояти маніпуляціям і атакам, ніж нова версія. Тому для багатьох користувачів та організацій GPT-4o може бути найбільш оптимальним варіантом на даний момент.

Це також підкреслює важливість підвищення рівня безпеки в нових моделях штучного інтелекту. І хоча GPT-5 може стати важливим кроком у розвитку AI-технологій, її поточні вразливості вказують на необхідність подальших досліджень і поліпшень.

Висновки: надзвичайна обережність при використанні GPT-5

Нова модель GPT-5 від OpenAI дійсно є значним досягненням у галузі штучного інтелекту, але на поточний момент вона має серйозні вразливості в питаннях безпеки. Проблеми з маніпуляцією контекстом і обфускацією запитів ставлять під загрозу її безпечне використання. Якщо технології штучного інтелекту не будуть постійно вдосконалюватися в плані безпеки, це може призвести до використання їх у небезпечних або незаконних цілях.

Враховуючи це, компаніям, розробникам та користувачам слід з великою обережністю підходити до використання GPT-5, поки її безпека не буде значно покращена.