Бишкек,25.02.25./Кабар/. Выпускник Колумбийского университета в городе Нью-Йорк Алтынбек Исмаилов и выпускница Калифорнийского университета в городе Беркли штата Калифорния Салия Асанова вошли в число победителей международного конкурса AI Hack Challenge, организованного компанией Anthropic. Об этом сообщили в пресс-службе Министерства образования и науки КР.
В рамках программы баг-баунти участники пытались обойти защитные механизмы AI-модели Claude 3.5 Sonnet, а разработчики тестировали устойчивость системы.
А. Исмаилов и С. Асанова первыми применили универсальный метод взлома, за что получили главный приз. В общей сложности организаторы выплатили участникам $55,000 за успешные попытки преодолеть защиту.
Конкурс позволил выявить слабые места системы, а его результаты помогут разработчикам улучшить безопасность искусственного интеллекта.
Конкурс проходил в два этапа. На основном этапе тестировалась первоначальная версия системы защиты, которая оказалась слишком жёсткой и иногда блокировала безобидные запросы. На финальном этапе обновлённая версия классификаторов снизила количество ложных отказов и сделала систему более эффективной.
Следует отметит, что Салия Асанова является обладателем президентской стипендии "Эл умуту".
МОиН
