В СКФУ создан анализатор защиты нейросетей от атак мошенников
В Северо-Кавказском федеральном университете (Ставрополь) разработан программный комплекс, определяющий защиту нейросетей от атак мошенников. Анализатор может повысить устойчивость нейросети к сторонним вмешательствам, сообщает ТАСС со ссылкой на пресс-службу СКФУ.
Программный комплекс разработали студенты университета Глеб Дюдюн и Денис Котляров под руководством доцента кафедры информационной безопасности Марии Лапиной. Анализатор создан для тестирования устойчивости нейросетей, связанных с искажением данных с помощью фальшивых файлов. Программный комплекс способен распознавать такие файлы. Механизм также может предложить методы для повышения безопасности нейронной сети.
Применять анализатор планируют в интеллектуальных системах видеонаблюдения с функцией распознавания лиц, при взломе которых механизм может не распознать преступника или правонарушителя.
«Нейросети имеют большой потенциал в анализе вредоносных программ. Они позволяют буквально сканировать файлы на наличие искаженных компонентов. Разработки наших ученых направлены на повышение безопасности и устойчивость к кибератакам в самых разных сферах деятельности. Это особенно важно, учитывая постоянно увеличивающееся число киберугроз», — прокомментировал ректор СКФУ Дмитрий Беспалов.
Первый работающий прототип анализатора уже прошел апробацию на простых вариантах атак. На его базе планируется разработка программного обеспечения для защиты нейросетей.
Ранее сообщалось, что ученые из Северо-Кавказского федерального университета (СКФУ) создали мобильную лабораторию для тестирования электрических сетей. Комплекс приборов позволит сократить потери электроэнергии и повысить надежность электросетевого комплекса.
Аналитика, сервис, персональные туры. AI для маркетинга и продаж в недвижимости
От подбора персонала до кадрового прогнозирования. Как HR-отделы могут использовать AI в 2025 году
