Новый метод эффективно защищает конфиденциальные данные обучения ИИ
Недавно исследователи Массачусетского технологического института разработали структуру, основанную на метрике конфиденциальности, называемой PAC Privacy. , который может поддерживать производительность модели ИИ, гарантируя, что конфиденциальные данные, такие как медицинские изображения или финансовые записи, останутся в безопасности от злоумышленников.
Теперь они продвинулись в этой работе на шаг дальше, сделав свою технику более вычислительно эффективной, улучшив компромисс между точностью и конфиденциальностью и создав формальный шаблон, который можно использовать для приватизации практически любого алгоритма без необходимости доступа к внутренним механизмам этого алгоритма.
Команда использовала новую версию PAC Privacy для приватизации нескольких классических алгоритмов анализа данных.
и задач машинного обучения.
Они также продемонстрировали, что более «стабильные» алгоритмы легче приватизировать с помощью их метода. Прогнозы стабильного алгоритма остаются последовательными, даже когда его обучающие данные немного изменены.
Большая стабильность помогает алгоритму делать более точные прогнозы на ранее невиданных данных. Исследователи утверждают, что возросшая эффективность новой структуры конфиденциальности PAC и четырехшаговый шаблон, которому можно следовать для ее внедрения, упростят развертывание этой технологии в реальных ситуациях.
«Мы склонны считать надежность и конфиденциальность не связанными с созданием высокопроизводительного алгоритма или, возможно, даже противоречащими ему.
Сначала мы создаем работающий алгоритм, затем делаем его надежным, а затем конфиденциальным. Мы показали, что это не всегда правильная постановка вопроса.
Если вы заставите свой алгоритм работать лучше в различных условиях, вы, по сути, можете получить конфиденциальность бесплатно», — говорит Маюри Шридхар, аспирант Массачусетского технологического института и ведущий автор статьи об этой структуре конфиденциальности.
К ней в работе присоединяются доктор наук Ханьшэнь Сяо, который осенью начнет работу в качестве доцента в Университете Пердью; и старший автор Шрини Девадас, профессор электротехники Эдвина Сибли Вебстера.
Исследование будет представлено на симпозиуме IEEE по безопасности и конфиденциальности. Оценка шума Чтобы защитить конфиденциальные данные , которые использовались для обучения модели ИИ, инженеры часто добавляют шум или общую случайность в модель, чтобы противнику было сложнее угадать исходные данные обучения.
Этот шум снижает точность модели, поэтому чем меньше шума можно добавить, тем лучше.
PAC Privacy автоматически оценивает наименьшее количество шума, которое необходимо добавить в алгоритм для достижения желаемого уровня конфиденциальности. Оригинальный алгоритм PA.
Новый метод защиты ИИ защищает модели от атак противников Нейронные сети, тип искусственного интеллекта, смоделированный на основе связей человеческого мозга, являются движущей силой критических прорывов в ш …
Интернет, Игры 20:12, марта 13, 2025 | android-robot.comУченые MIT разработали новый метод обучения роботов Ученые Массачусетского технологического института (MIT) создали технику, позволяющую обучать многоцелевых роботов на основе данных из разных источник …
Технологии, Наука 10:50, июня 4, 2024 | ferra.ruGoogle собирала конфиденциальные данные пользователей в течение 6 лет Вторая крупная утечка Google - компания собирала конфиденциальные данные пользователей, сообщает 404 Media.Внутренняя база данных Google, полученная …
Финансы, Экономика, Forex 16:50, июня 5, 2024 | finam.ruНовый метод позволяет моделям ИИ забывать личные и защищенные авторским правом данные Группа специалистов по информатике из Калифорнийского университета в Риверсайде разработала метод удаления личных и защищенных авторским правом данны …
Интернет, Игры 20:12, сентября 3, 2025 | android-robot.comСоцсеть X начала без уведомления использовать данные пользователей для обучения Grok Социальная платформа X (ранее Twitter) начала без уведомления пользователей использовать их публикации и диалоги с ИИ-чат-ботом Grok, для обучения по …
Software 15:12, июля 27, 2024 | 3dnews.ruУ искусственного интеллекта заканчиваются данные // Почему нейросетям все сложнее получать информацию для обучения Моделям ИИ не хватает данных для обучения. Согласно последнему исследованию Data Provenance, объем контента, который используют разработчики нейросет …
Технологии, Наука 20:12, июля 21, 2024 | kommersant.ruНовый инструмент искусственного интеллекта эффективно обнаруживает асбест на крышах, чтобы его можно было удалить Команда исследователей из Оберта-де-Каталонского университета (UOC) разработала и протестировала новую систему обнаружения асбеста, который до сих по …
Технологии, Наука 23:30, мая 7, 2024 | android-robot.comUber и Lyft заключили сделку с Миннесотой. Теперь принят новый закон, который защищает водителей и их зарплату Водители Uber и Lyft в Миннесоте получат более высокую зарплату благодаря сделке между штатом и двумя из крупнейших в стране компаниями, предоставляю …
Это интересно, Курьезы 18:45, июня 11, 2024 | incrussia.ru
Новый метод ускорит онлайн-транзакции в 20 раз Австралийские ученые совместно с коллегами создали способ ускорить работу цифровых подписей в 20 раз. Это обеспечит более быстрые и безопасные онлайн …
Технологии, Наука 03:15, мая 17, 2024 | ferra.ru В России создали новый метод подбора химиотерапии В пресс-службе Первого Московского государственного медицинского университета имени И. М. Сеченова сообщили, что ученые вуза разработали методы анали …
Технологии, Наука 15:45, мая 31, 2024 | ferra.ru Ученые MIT разработали новый метод навигации для роботов Ученые из Массачусетского технологического института (MIT) и лаборатории искусственного интеллекта MIT-IBM Watson разработали новый метод навигации д …
Технологии, Наука 23:40, июня 12, 2024 | ferra.ru Разработан новый метод диагностики психических отклонений Группой сотрудников Инженерно-физического института биомедицины НИЯУ МИФИ под руководством доктора медицинских наук Сергея Гуляева разработаны новато …
Software 10:12, марта 3, 2025 | android-robot.com Ученые разработали новый метод очистки сточных вод В Минобрнауки РФ сообщили, что ученые из Кемеровского государственного университета и МГУ имени Ломоносова представили новый метод очистки карьерных …
Технологии, Наука 07:55, мая 29, 2024 | ferra.ru Создан новый метод предсказания деменции с точностью до 80% Ученые из Лондонского университета королевы Марии разработали новый метод диагностики деменции с точностью более 80% за девять лет до постановки офиц …
Технологии, Наука 23:45, июня 6, 2024 | ferra.ru Новый метод проектирования зданий предотвратить их обрушения Современные методы проектирования зданий в основном направлены на улучшение связности между компонентами конструкции. Однако в случае отказа одного и …
Технологии, Наука 02:35, мая 16, 2024 | ferra.ru Российские ученые предложили новый метод заживления ран во рту Ученые Томского политехнического университета (ТПУ) разработали новый метод заживления ран полости рта с помощью отечественных мембран из пьезоэлектр …
Технологии, Наука 19:35, мая 6, 2024 | ferra.ru
В Минобрнауки растолковали новый механизм целевого обучения В Минобрнауки раскрыли плюсы нового механизма целевого обучения в университетах РФ. В министерстве отметили, что усовершенствованный механизм целевог …
Общество, регионы 20:12, июня 19, 2024 | mockva.ru
Вступил в действие новый механизм целевого обучения Минпросвещения России и Минобрнауки России информируют о нововведениях в механизме целевого обучения по образовательным программам высшего образовани …
Основные новости 00:12, июня 24, 2024 | bryanskobl.ru Ученые разработали новый метод восстановления клеток сердца Ученые из Детского научно-исследовательского института Стэнли Манна разработали новый метод регенерации сердца путем стимуляции потребления глюкозы к …
Наука 16:55, июня 11, 2024 | gazeta.ru Ученые создали новый метод для сбора воды из воздуха Ученые разработали метод, который позволяет собирать пресную воду из атмосферы. Они создали специальные гели с помощью криогелирования, достигнув быс …
Технологии, Наука 11:50, мая 15, 2024 | news.rambler.ru Ученые нашли новый метод улучшения психического здоровья Недавнее исследование показало, что даже простое направление взгляда на природные элементы, находясь в городе, способно улучшить благополучие и психи …
Технологии, Наука 23:25, июня 13, 2024 | ferra.ru
В Android 15 появится новый метод защиты от кражи данных Не секрет, что для взлома чужих гаджетов злоумышленники используют не только вирусы, но и аппаратные средства вроде «хакерских кабелей». В «бете» And …
Технологии, Наука 13:55, июня 13, 2024 | 4pda.to Ученые разработали новый метод борьбы с обледенением самолетов Ученые из Московского авиационного института (МАИ) и Института физической химии и электрохимии имени А. Н. Фрумкина РАН представили новую технологию, …
Технологии, Наука 02:25, мая 21, 2024 | ferra.ru Мониторинг воздуха стал лучше: новый метод из Техаса Исследователи из Техасского университета A&M продемонстрировали эффективность масс-спектрометрии высокого разрешения для выявления загрязняющих вещес …
Технологии, Наука 22:35, июня 1, 2024 | ferra.ru Российские учёные предложили новый метод добычи золота Специалисты Сибирского федерального университета и Северо-Восточного федерального университета вместе с коллегами из Научного центра исследований экс …
Технологии, Наука 20:45, мая 18, 2024 | pravda.ru Ученые разработали новый метод 3D-печати органов и тканей Ученые из Израиля разработали новый метод 3D-печати органов и тканей с использованием пептидов. Пептиды — это короткие цепочки аминокислот, которые м …
Технологии, Наука 01:15, июня 4, 2024 | ferra.ru Создан новый метод разработки материалов для носимой электроники Ученые разработали модель AGAT, которая использует машинное обучение для прогнозирования поведения материалов, используемых в носимой электронике, та …
Технологии, Наука 16:50, мая 8, 2024 | ferra.ru
У YouTube появился новый метод борьбы с блокировщиками рекламы Похоже, Google активно продолжает бороться с блокировщиками рекламы на просторах видеохостинга YouTube. Пользователи столкнулись с очередной «палкой …
Технологии, Наука 17:10, мая 28, 2024 | 4pda.to Создан новый и безопасный метод лечения рака простаты Ученые из Медицинского колледжа штата Висконсин разработали новый способ лечения рака простаты, основанный на снижении активности специфического белк …
Наука 20:00, мая 23, 2024 | gazeta.ru Новый метод дробления экономит воду и энергию на шахтах Новый тип метода дробления дает руде время для реакции и разрушения вдоль естественных границ различных минералов при более медленном сжатии. В новом …
Технологии, Наука 12:15, мая 27, 2024 | android-robot.com