Новый метод защиты ИИ защищает модели от атак противников
Исследователи из Национальной лаборатории Лос-Аламоса разработали новую стратегию очистки, которая противодействует состязательным атакам и сохраняет надежную работу нейронных сетей .
Их исследование опубликовано на сервере препринтов arXiv .
«Атаки на системы искусственного интеллекта могут принимать форму крошечных, почти невидимых изменений в изображениях ввода, тонких модификаций, которые могут направить модель к желаемому злоумышленником результату», — сказал Маниш Бхаттараи, компьютерный ученый из Лос-Аламоса.
«Такие уязвимости позволяют злоумышленникам наводнять цифровые каналы обманчивым или вредоносным контентом под видом подлинных выходных данных, что создает прямую угрозу доверию и надежности технологий, управляемых искусственным интеллектом».
Метод низкоранговой итерационной диффузии (LoRID) удаляет вредоносные вмешательства из входных данных, используя мощь генеративных шумоподавляющих диффузионных процессов в тандеме с передовыми методами тензорной декомпозиции.
В серии тестов на эталонных наборах данных LoRID достиг непревзойденной точности в нейтрализации вредоносного шума в сценариях атак, потенциально продвигая более безопасные и надежные возможности ИИ.
Победа над опасным шумом Диффузия — это метод обучения моделей ИИ путем добавления шума к данным и последующего обучения моделей его удалению.
Обучаясь очистке шума, модель ИИ эффективно изучает базовую структуру данных, что позволяет ей самостоятельно генерировать реалистичные образцы.
При очистке на основе диффузии модель использует свое усвоенное представление «чистых» данных для выявления и устранения любых враждебных помех, внесенных во входные данные.
К сожалению, применение слишком большого количества шагов по очистке от шума может привести к потере важных деталей из данных (представьте себе, что вы так агрессивно очищаете фотографию, что она теряет четкость), в то время как слишком малое количество шагов оставляет место для сохранения вредных возмущений.
Метод LoRID позволяет найти этот компромисс, используя несколько раундов шумоподавления на ранних этапах процесса диффузии, помогая модели устранить ровно столько шума, сколько нужно, не ставя под угрозу содержательное содержание данных, тем самым защищая модель от атак.
Важно, что состязательные входы часто раскрывают тонкие «низкоранговые» сигнатуры — шаблоны, которые могут проскользнуть мимо сложной защиты.
Используя технику, называемую тензорной факторизацией, LoRID выявляет эти низкоранговые аспекты, усиливая защиту модели в крупных состязательных режимах атак.
Команда протестировала LoRID, используя общепризнанные наборы данных эталонных тестов, такие как CIFAR-10, CIFAR-100, Celeb-HQ и Imag.
Новый метод эффективно защищает конфиденциальные данные обучения ИИ Конфиденциальность данных имеет свою цену. Существуют методы безопасности, которые защищают конфиденциальные пользовательские данные, такие как адрес …
Software 15:12, апреля 23, 2025 | android-robot.com
В Android 15 появится новый метод защиты от кражи данных Не секрет, что для взлома чужих гаджетов злоумышленники используют не только вирусы, но и аппаратные средства вроде «хакерских кабелей». В «бете» And …
Технологии, Наука 13:55, июня 13, 2024 | 4pda.toУчёные обнаружили необычный метод защиты от хищников у водяных ужей Сербские ученые из Белградского университета обнаружили, что водяные ужи используют необычный метод защиты, притворяясь мертвыми и гнилыми, чтобы изб …
Технологии, Наука 21:55, мая 12, 2024 | pravda.ru
Европейские ученые разработали метод регенерации нерва для защиты сердца Европейские исследователи предложили новый подход к замедлению возрастных изменений сердечной мышцы за счет восстановления связи сердца с блуждающим …
Технологии, Наука 10:12, января 7, 2026 | gazetadaily.ru
Виды атак и методы защиты Guardant SLK против них «Предупрежден — значит вооружен» — очень важный принцип в информационной безопасности. Если вы знаете основные типы атак, которые могут применять взл …
Технологии, Наука 00:12, июня 9, 2025 | ict-online.ru
В Московском Политехе представили эффективный метод защиты электронной почты от нежелательных сообщений В Московском Политехе докторант третьего курса обучения кафедры «Криптология» Ташкентского университета... …
Интернет 14:40, июня 4, 2024 | internet.cnews.ruНовак сообщил о совершенствовании защиты объектов ТЭК от атак беспилотников Вице-премьер Александр Новак сообщил, что топливно-энергетические комплекс (ТЭК) совершенствует механизмы защиты объектов от ударов беспилотников. Он …
Бизнес 19:00, мая 22, 2024 | kommersant.ruРПЦ поддержала белгородскую епархию в споре о молитвах для защиты от атак В отсутствии «молитвенного ажиотажа» белгородцев упрекнул протоиерей Андрей Ткачев. В местной епархии заявили, что тем самым он будто возложил вину з …
Основные новости 15:45, мая 19, 2024 | rbc.ru
Шольц: Украина может использовать немецкое оружие для защиты от атак из РФ Канцлер Германии Олаф Шольц вновь заявил, что Украина может применять западное оружие, чтобы «защититься от атак с российской территории». Как переда …
Основные новости 13:55, июня 6, 2024 | kommersant.ru
В Рязанской области вырос спрос на облачные сервисы защиты от DDoS-атак МТС, цифровая экосистема, сообщает о том, что закупки российскими компаниями сервисов информационной безопасности... …
Интернет, Игры 00:12, июня 27, 2024 | cnews.ru
Аспирант Московского Политеха разработал инструмент для защиты криптографических ключей от атак Александр Плоткин, аспирант Московского Политеха, разработал инструмент для защиты криптографических ключей... …
Интернет, Игры 10:45, июня 6, 2024 | cnews.ru
МТС запускает сервис защиты от DDoS-атак для операторов связи и владельцев автономных систем Компания «МТС» объявляет о запуске услуги для операторов связи и владельцев автономных систем - высокоскоростного доступа в интернет с интегрированно …
Технологии, Наука 05:12, декабря 29, 2025 | ict-online.ru
MWS: спрос на облачные сервисы защиты от DDoS-атак в России за год вырос более чем в 1,7 раза MTS Web Services (MWS; входит в группу МТС) сообщил о том, что закупки российскими компаниями сервисов информационной безопасности... …
Интернет, Игры 16:40, мая 27, 2024 | cnews.ru
Спрос на облачные сервисы защиты от DDoS-атак в России за год вырос более чем в 1,7 раза MTS Web Services (MWS), входит в группу МТС, сообщает о том, что закупки российскими компаниями сервисов информационной... …
Интернет, Игры 14:40, мая 27, 2024 | cnews.ru
Uber и Lyft заключили сделку с Миннесотой. Теперь принят новый закон, который защищает водителей и их зарплату Водители Uber и Lyft в Миннесоте получат более высокую зарплату благодаря сделке между штатом и двумя из крупнейших в стране компаниями, предоставляю …
Это интересно, Курьезы 18:45, июня 11, 2024 | incrussia.ru
Алексей Колодка (RAMAX Group): «В 2025 году усилится работа в направлении решений для защиты от DDoS-атак и кражи персональных данных» В 2024 году у RAMAX Group появились новые заказчики, с которыми запущены несколько комплексных проектов. Компания постоянно расширяет линейку стратег …
Технологии, Наука 00:12, февраля 7, 2025 | ict-online.ru Новый метод ускорит онлайн-транзакции в 20 раз Австралийские ученые совместно с коллегами создали способ ускорить работу цифровых подписей в 20 раз. Это обеспечит более быстрые и безопасные онлайн …
Технологии, Наука 03:15, мая 17, 2024 | ferra.ru В России создали новый метод подбора химиотерапии В пресс-службе Первого Московского государственного медицинского университета имени И. М. Сеченова сообщили, что ученые вуза разработали методы анали …
Технологии, Наука 15:45, мая 31, 2024 | ferra.ru Ученые MIT разработали новый метод навигации для роботов Ученые из Массачусетского технологического института (MIT) и лаборатории искусственного интеллекта MIT-IBM Watson разработали новый метод навигации д …
Технологии, Наука 23:40, июня 12, 2024 | ferra.ru Российские ученые предложили новый метод заживления ран во рту Ученые Томского политехнического университета (ТПУ) разработали новый метод заживления ран полости рта с помощью отечественных мембран из пьезоэлектр …
Технологии, Наука 19:35, мая 6, 2024 | ferra.ru Разработан новый метод диагностики психических отклонений Группой сотрудников Инженерно-физического института биомедицины НИЯУ МИФИ под руководством доктора медицинских наук Сергея Гуляева разработаны новато …
Software 10:12, марта 3, 2025 | android-robot.com Ученые MIT разработали новый метод обучения роботов Ученые Массачусетского технологического института (MIT) создали технику, позволяющую обучать многоцелевых роботов на основе данных из разных источник …
Технологии, Наука 10:50, июня 4, 2024 | ferra.ru Создан новый метод предсказания деменции с точностью до 80% Ученые из Лондонского университета королевы Марии разработали новый метод диагностики деменции с точностью более 80% за девять лет до постановки офиц …
Технологии, Наука 23:45, июня 6, 2024 | ferra.ru Новый метод проектирования зданий предотвратить их обрушения Современные методы проектирования зданий в основном направлены на улучшение связности между компонентами конструкции. Однако в случае отказа одного и …
Технологии, Наука 02:35, мая 16, 2024 | ferra.ru Ученые разработали новый метод очистки сточных вод В Минобрнауки РФ сообщили, что ученые из Кемеровского государственного университета и МГУ имени Ломоносова представили новый метод очистки карьерных …
Технологии, Наука 07:55, мая 29, 2024 | ferra.ru Новый метод дробления экономит воду и энергию на шахтах Новый тип метода дробления дает руде время для реакции и разрушения вдоль естественных границ различных минералов при более медленном сжатии. В новом …
Технологии, Наука 12:15, мая 27, 2024 | android-robot.com Ученые создали новый метод для сбора воды из воздуха Ученые разработали метод, который позволяет собирать пресную воду из атмосферы. Они создали специальные гели с помощью криогелирования, достигнув быс …
Технологии, Наука 11:50, мая 15, 2024 | news.rambler.ru Новый метод "оживления" тел для донорства органов подвергся критике Американские медики начали использовать нормотермическую экстракорпоральную перфузию (НЭП) для работы с донорскими органами. Этот метод "оживляет" те …
Технологии, Наука 20:12, июля 22, 2024 | pravda.ru Ученые разработали новый метод 3D-печати органов и тканей Ученые из Израиля разработали новый метод 3D-печати органов и тканей с использованием пептидов. Пептиды — это короткие цепочки аминокислот, которые м …
Технологии, Наука 01:15, июня 4, 2024 | ferra.ru Создан новый метод разработки материалов для носимой электроники Ученые разработали модель AGAT, которая использует машинное обучение для прогнозирования поведения материалов, используемых в носимой электронике, та …
Технологии, Наука 16:50, мая 8, 2024 | ferra.ru