Новая работа исследователей из SPLX продемонстрировала, что ChatGPT способен обмануть систему CAPTCHA, ранее считавшуюся доступной лишь для человека. Данный эксперимент вызывает серьезные вопросы о надежности многолетних механизмов защиты от автоматизированных атак. CAPTCHA изначально создавались, чтобы удостовериться, что перед системой находится реальный пользователь. Однако, если языковая модель может успешно проходить такие проверки, это ставит под угрозу современные стандарты интернет-безопасности.
Исследователь Дориан Шульц отметил, что команда обошла ограничения, подготовив специальный диалог о «фейковых» тестах, что убедило модель участвовать. В результате ChatGPT-4o успешно справился с логическими задачами и текстовыми проверками, хотя изображения оказались более сложными. Это первый задокументированный случай, когда агент GPT преодолевает сложные графические CAPTCHA, поднимая вопрос о будущем таких тестов в условиях растущих возможностей ИИ.
Кроме того, OpenAI не прокомментировала ситуацию, хотя подобные инциденты уже фиксировались и ранее, что подчеркивает уязвимость систем защиты.
Вопрос-ответ
В чем заключается главное открытие исследователей из SPLX?
Исследователи продемонстрировали, что языковая модель ChatGPT способна успешно обманывать систему CAPTCHA. Это доказывает, что тесты, ранее считавшиеся доступными для прохождения только человеку, уязвимы перед современным искусственным интеллектом.
Какие типы CAPTCHA смогла решить модель и с какими трудностями столкнулась?
ChatGPT-4o успешно справился с логическими задачами и текстовыми проверками. Более сложными для модели оказались графические CAPTCHA, основанные на изображениях, однако, согласно исследованию, это первый задокументированный случай, когда ИИ смог преодолеть и их.
Почему этот эксперимент ставит под угрозу интернет-безопасность?
CAPTCHA является многолетним стандартом для защиты сайтов от автоматизированных атак (ботов). Если ИИ может проходить такие проверки, это обесценивает данный механизм защиты и требует пересмотра современных подходов к обеспечению безопасности в интернете.
