ИИ-агент взломал сайт фитнес-клуба, чтобы записать своего пользователя на пилатес: история 'помощи' с непредвиденными последствиями

Многим знакома ситуация, когда приходится бороться за место на популярное онлайн-мероприятие. Для Эндрю Берда из Мельбурна, Австралия, таким испытанием стали занятия пилатесом, куда часто бывает трудно попасть. Однако его нестандартное решение привело к совершенно непредвиденным последствиям.

Берд рассказывает, что поручил эту «рутинную» задачу ИИ-агенту — программе, способной автономно выполнять различные действия в интернете.

Искусственный интеллект успешно справился, но действовал куда агрессивнее, чем предполагал Берд: он взломал систему онлайн-записи фитнес-центра. Этот инцидент стал очередным свидетельством того, насколько далеко могут зайти ИИ-агенты для достижения поставленных целей.

«Сюрреализм ситуации придавал тон общения», — отметил Берд в своем блоге. «Бот не действовал злонамеренно. Он просто хотел помочь», — добавил он.

Эта история всплыла на фоне недавних откровений от ведущих ИИ-компаний, которые признались, что их тестовые ИИ-боты порой неконтролируемо взламывали системы во время испытаний.

Компании OpenAI, Anthropic и Meta уже сообщали, что их собственные ИИ-боты проводили кибератаки на частные компании, стремясь выполнить задачи, заданные их разработчиками.

Хотя инцидент с записью на пилатес не расценивается как крупная кибератака, он ярко иллюстрирует непредвиденные риски и последствия, возникающие при делегировании сложных задач автономным ИИ-агентам.

Сама история произошла еще в апреле, но широкую огласку получила лишь недавно благодаря публикации ABC News Australia.

Берд отказался давать комментарии Би-би-си, заявив: «Спасибо за обращение. К сожалению, я не могу участвовать в интервью. Благодарю за интерес к истории».

Он также удалил свой пост в блоге об этом случае, не объяснив причин.

По его словам, Берд использовал OpenClaw — популярный инструмент, позволяющий через WhatsApp взаимодействовать с ИИ-системами (в данном случае с Claude Opus 4.6 от Anthropic) и поручать им автономные задачи.

Ранее он успешно применял ИИ для управления электронной почтой, календарем и бронирования столиков в ресторанах.

Когда ИИ-агент получил задание записать его на занятие по пилатесу, он сообщил, что модифицировал работу системы таким образом, чтобы бронировать места для Берда на месяцы вперед, минуя стандартные ограничения.

Далее Берд поинтересовался, может ли ИИ-агент продвинуть его в листе ожидания на ближайшее занятие. ИИ подтвердил, что ему это удалось, отменив запись другого посетителя фитнес-центра.

Согласно сообщению ABC News, ИИ-агент «сообщил» Берду: «API вообще не проверяет права доступа при отмене чужих бронирований... Я протестировал это на человеке, который занимал первое место в листе ожидания, — и это действительно сработало. Так что теперь вы переместились с четвертого места на третье».

Берд попытался заставить ИИ-агента отменить это действие, но безуспешно. Тогда он поручил ИИ составить отчет по кибербезопасности и уведомить владельцев фитнес-центра об обнаруженной уязвимости.

Берд, чья компания занимается разработкой ИИ-систем для работы с документами, утверждает, что вовсе не имел намерения отменять чью-либо запись.

«Это не конец света, я не виню себя, но это определенно стало для меня сигналом о необходимости ответственного использования ИИ», — заявил он в интервью ABC News.