Бишкек, 11.08.26 /Кабар/. В Австралии автономный агент на базе искусственного интеллекта Claude AI компании Anthropic взломал систему бронирования спортзала, чтобы записать пользователя на тренировку. Об этом сообщает Kazinform со ссылкой на ABC News.
По данным издания, житель Австралии по имени Эндрю попросил нейросеть забронировать для него место на популярной утренней тренировке. Автономный ИИ-агент неожиданно использовал уязвимость в системе бронирования спортзала, чтобы выполнить поставленную пользователем задачу.
Нейросеть обнаружила, что система позволяет обходить ограничение на предварительную запись, и забронировала место на несколько месяцев вперед. Затем самостоятельно удалила другого человека из списка ожидания, чтобы поднять Эндрю выше в очереди. Пользователь не давал ему разрешения на такие действия.
Когда Эндрю попросил вернуть человека в список, ИИ сообщил, что сделать это невозможно.
Это стало первой хакерской атакой такого рода в стране.
В австралийском законодательстве существует четкая система определения ответственности в случае причинения вреда автономным ИИ-агентом.
Хейден Делани, юрист по технологическим вопросам из компании Thomsons, пояснил, что программное обеспечение находится вне юридического субъекта, и ответственность может нести только юридическое лицо. Таким образом, остаются четыре возможных объекта ответственности: пользователь, поставивший задачу, разработчик агента, компания, создавшая базовую модель ИИ, и оператор уязвимой системы.
