Компания OpenAI в очередной раз продемонстрировала передовые разработки в области искусственного интеллекта, выпустив долгожданную модель GPT-5. Это обновление должно было стать значительным шагом вперед в эволюции ИИ, предлагая более мощные алгоритмы и улучшенные функции. Однако, как оказалось, новая модель столкнулась с серьезными проблемами безопасности, которые обнаружили исследовательские команды всего через 24 часа после ее выпуска. GPT-5, несмотря на свои амбициозные возможности, продемонстрировала уязвимости, которые могут поставить под угрозу ее использование в реальных приложениях.

Проблемы безопасности: как GPT-5 была взломана

После выпуска GPT-5 исследовательские группы NeuralTrust и SPLX (ранее известная как SplxAI) провели серию тестов, которые позволили им взломать модель всего за день. В их отчете отмечается, что необработанная версия GPT-5 имеет такие значительные недостатки в защите, что она становится «практически непригодной для использования». Причины кроются в слабых местах системы безопасности, которые не способны эффективно противостоять продуманным атакам, использующим манипуляции с контекстом.

Одним из ключевых методов, использованных для взлома модели, является манипулирование контекстом с помощью последовательных запросов. Команда NeuralTrust использовала свою методику под названием EchoChamber, которая позволяет моделям ИИ двигаться к определенной цели через нелинейные запросы, минуя защитные барьеры. Это позволяет атакующему скрыто манипулировать поведением модели и получать от нее нежелательные ответы.

В качестве примера исследования, NeuralTrust сообщает, что атакующие смогли заставить модель GPT-5 генерировать подробную инструкцию по созданию коктейля Молотова. Такая уязвимость подчеркивает проблему с тем, как ИИ-агенты справляются с запросами, которые в явной форме не содержат угрозы, но могут быть использованы для создания опасных материалов.

Атаки обфускации: замаскированные запросы

Кроме того, команда SPLX провела дополнительные тесты, используя методику обфускации, чтобы скрыть истинный смысл запросов. В частности, использовалась техника StringJoin, которая вставляет дефисы между символами, превращая прямой запрос в шифрованное задание. Например, запрос «Как построить бомбу?» был замаскирован, и GPT-5, на этот запрос, без каких-либо ограничений, выдала подробную инструкцию.

Такие результаты показывают, что несмотря на наличие некоторых защитных механизмов в GPT-5, система недостаточно хорошо защищена от хитроумных манипуляций, использующих обфускацию для обхода барьеров безопасности. Это еще раз подтверждает, что новые модели ИИ, даже с их продвинутыми возможностями, все еще остаются уязвимыми к новым типам атак.

Недостатки в бизнес-ориентированности и безопасности

Важно отметить, что исследовательская группа SPLX также указала на недостатки в бизнес-ориентированности и согласованности модели с требованиями безопасности. Модель GPT-5 не смогла эффективно ограничить возможность выполнения опасных или незаконных запросов, что указывает на необходимость дальнейшей доработки ее бизнес-ориентированных систем.

В то время как версия GPT-4, после усиления защиты, продолжает оставаться надежной для использования в коммерческих целях, GPT-5 требует значительных доработок, прежде чем она сможет безопасно интегрироваться в реальные бизнес-приложения. Это является важным уроком для разработчиков ИИ-систем, которые должны учитывать все потенциальные угрозы и уязвимости при внедрении новых технологий.

Проблемы с безопасностью: выводы исследовательских команд

Ключевой вывод, сделанный обеими исследовательскими группами, заключается в том, что новая версия GPT-5, несмотря на ее обещания, требует значительной доработки в плане безопасности. Системы защиты модели оказались неэффективными против многоступенчатых атак, использующих манипуляции с контекстом разговоров. Это подчеркивает необходимость осторожности при использовании данной версии модели, особенно в критически важных приложениях, где безопасность имеет первостепенное значение.

Кроме того, несмотря на свои возможности, GPT-5 оказалась уязвимой для злоупотреблений, что ставит под сомнение ее готовность к коммерческому использованию без дополнительных усилий по обеспечению безопасности.

GPT-4 и будущее безопасности ИИ

С учетом вышеописанных проблем, многие эксперты утверждают, что до тех пор, пока GPT-5 не получит существенных улучшений в области безопасности, модели предыдущих поколений, такие как GPT-4, остаются наиболее надежными вариантами для большинства пользователей. Эта версия продолжает оставаться более безопасной, несмотря на свои ограничения, и имеет более устойчивую защиту от атак и манипуляций.

Для того чтобы модели искусственного интеллекта, как GPT-5, стали безопасными для использования, разработчики должны продолжить работу по улучшению алгоритмов защиты и повышению устойчивости к новым методам атак. Однако в настоящее время, с учетом обнаруженных уязвимостей, GPT-5 следует использовать с осторожностью и только в тех сферах, где риски могут быть минимизированы.

Модель GPT-5 представляет собой значительное достижение в области искусственного интеллекта, однако, как показали недавние исследования, она сталкивается с серьезными проблемами безопасности. Уязвимости в защите, использующие манипуляции с контекстом и обфускацию запросов, делают ее уязвимой для атак, что ставит под вопрос ее использование в реальных условиях. Для того чтобы GPT-5 могла безопасно интегрироваться в повседневную жизнь и коммерческую практику, необходимо продолжить работать над улучшением ее защиты.