Новый метод позволяет моделям ИИ забывать личные и защищенные авторским правом данные
Это достижение, подробно изложенное в докладе, представленном в июле на Международной конференции по машинному обучению в Ванкувере (Канада), отвечает на растущую глобальную обеспокоенность по поводу того, что личные и защищенные авторским правом материалы остаются в моделях ИИ на неопределенный срок и, таким образом, доступны пользователям моделей, несмотря на попытки первоначальных создателей удалить или защитить свою информацию с помощью платного доступа и паролей.
Исследование также было опубликовано на сервере препринтов arXiv .
Инновация UCR заставляет модели ИИ «забывать» выбранную информацию, сохраняя при этом функциональность моделей с оставшимися данными.
Это значительное достижение, позволяющее вносить изменения в модели без необходимости их пересоздания на основе объёмных исходных данных для обучения, что требует больших затрат и энергии.
Этот подход также позволяет удалять конфиденциальную информацию из моделей ИИ, даже если исходные данные для обучения больше не доступны.
«В реальных ситуациях не всегда можно вернуться и получить исходные данные», — сказал Юмит Йигит Башаран, докторант кафедры электротехники и вычислительной техники Калифорнийского университета в Риверсайде и ведущий автор исследования.
«Мы создали сертифицированную систему, которая работает даже тогда, когда эти данные больше не доступны».
Необходимость насущна. Технологические компании сталкиваются с новыми законами о конфиденциальности, такими как Общий регламент Европейского союза по защите данных и Закон штата Калифорния о защите конфиденциальности потребителей, которые регулируют безопасность персональных данных, встроенных в крупномасштабные системы машинного обучения.
Более того, The New York Times подает в суд на OpenAI и Microsoft за использование многочисленных статей компании, защищенных авторским правом, для обучения моделей Generative Pre-trained Transformer (GPT).
Модели искусственного интеллекта «изучают» закономерности слов, используя огромные объёмы текста, собранного из интернета.
При запросе модели предсказывают наиболее вероятные словосочетания, генерируя ответы на естественном языке в ответ на запросы пользователя.
Иногда они генерируют практически дословные копии обучающих текстов, что позволяет пользователям обходить платный доступ создателей контента.
Исследовательская группа Калифорнийского университета в Риверсайде, в состав которой входят Башаран, профессор Амит Рой-Чоудхури и доцент Башак Гюлер, разработала так называемый «метод сертифицированного отучения без использования исходного кода».
Этот метод позволяет разработчикам ИИ удалять целевые данные, используя замещающий, или «суррогатный», набор данных, статистически схожий с исходными данными.
Система корректирует параметры модели и добавляет т.
Личные данные: российские страховые запустят новый продукт В ближайшие три года в России может быть реализован проект в области страхования ответственности компаний-операторов персональных данных. Он будет пр …
Технологии, Наука 10:12, ноября 18, 2024 | api.follow.itНовое исследование показывает, что модели OpenAI «запоминают» защищенный авторским правом контент Новое исследование подтверждает, что OpenAI, вероятно, использовала защищенный авторским правом контент для обучения некоторых своих моделей искусств …
Технологии, Наука 15:12, апреля 6, 2025 | itzine.ruКейс «Крестецкой строчки» против Zarina поднял вопрос грани между народным промыслом и авторским правом Zarina и «Крестецкая строчка» спорят о праве на народные узоры. Что на самом деле стоит за конфликтом — попытка защиты наследия или пиар-ход? …
Это интересно, Курьезы 10:12, октября 13, 2025 | incrussia.ruНовый метод эффективно защищает конфиденциальные данные обучения ИИ Конфиденциальность данных имеет свою цену. Существуют методы безопасности, которые защищают конфиденциальные пользовательские данные, такие как адрес …
Software 15:12, апреля 23, 2025 | android-robot.comМатематический метод позволяет людям доказать свое местонахождение, не раскрывая его Данные о местоположении считаются особенно конфиденциальными — их неправильное использование может иметь серьезные последствия. Исследователи из Мюнх …
Hardware 10:12, мая 26, 2025 | android-robot.comУдалить личные данные из Google стало проще Поисковая система Google стала основным каналом доступа к онлайн-информации, но иногда в результатах поиска раскрываются личные данные, что вызывает …
Технологии, Наука 15:12, марта 9, 2025 | api.follow.it
Хакеры взламывают роутеры россиян и крадут личные данные Эксперты рассказали, что злоумышленники обнаружили уязвимость в роутерах Xiaomi, Ubiquiti и Netgear. Хакеры подключаются к Wi-Fi-сетям пользователей …
Основные новости 05:12, октября 29, 2024 | news-kmv.ruЛичные данные Мединского и его близких появились на украинском «Миротворце» Помощник президента РФ Владимир Мединский и его близкие родственники появились в реестре украинского сайта "Миротворец". В частности, в профиле росси …
Основные новости 15:12, мая 29, 2025 | 47news.ru
Хакеры украли личные данные военнослужащих Минобороны Британии Сайт Минобороны Великобритании подвергся кибератаке, сообщил телеканал Sky News. Хакеры получили доступ к личным данным всех сотрудников ведомства, а …
Основные новости 04:10, мая 7, 2024 | life.ru Как защититься от мошенников, если у них появились ваши личные данные По данным Identity Theft Resource Center, в первой половине 2024 г. более миллиарда человек стали жертвами утечки информации из сети, что почти на 50 …
Это интересно, Курьезы 00:12, августа 11, 2024 | incrussia.ru Подросток украл личные данные почти 20 миллионов французов По итогам расследования дела о массовом взломе данных клиентов французского интернет-провайдера Free правоохранительные органы задержали 17-летнего п …
Происшествия 15:12, января 26, 2025 | pravda.ru
Российского чиновника оштрафовали на 25 тысяч за слитые личные данные бойцов СВО Российского чиновника оштрафовали на 25 тысяч рублей за слитые личные данные бойцов специальной военной операции. О скандале пишет издание NewsNN. За …
Основные новости 00:12, июля 30, 2024 | bragazeta.ru Хакеры воруют личные данные пассажиров при онлайн-регистрации на авиарейсы Любители воздушных полетов, регистрирующиеся на виртуальных ресурсах компании-перевозчика для получения билетов на лайнер, рискуют потерять деньги на …
Интернет 10:12, ноября 16, 2024 | vladtime.ru Сговор с Facebook: Смартфоны Samsung крадут личные данные пользователей Приложение-вирус вшивается в прошивку. Удалить его невозможно. Пользователи в Сети стали отмечать, что, приобретая новые смартфоны, преимущественно S …
Технологии 00:12, января 14, 2025 | versiya.info Словно потерять паспорт: как мошенники используют личные данные в интернете Последнее время в России наблюдается всплеск сообщений о телефонных мошенниках, которые все чаще пользуются современными технологиями, в том числе &m …
Основные новости 01:20, мая 21, 2024 | 5-tv.ru
Новая утечка секретов Белого дома: личные данные сотрудников в общем доступе Личные контактные данные главных советников президента США Дональда Трампа по вопросам безопасности теперь доступны в интернете. Информацию об этом с …
Технологии 00:12, марта 31, 2025 | eadaily.com На Ставрополье 19-летний работник салона сотовой связи продавал личные данные клиентов третьим лицам В отношении молодого человека возбуждено уголовное дело о неправомерном доступе к компьютерной информации. …
Основные новости 15:30, мая 28, 2024 | news.1777.ru
«Авито Авто» запустил «Мультикарточку» — новый формат поиска автомобилей по моделям Платформа «Авито Авто» представила новый инструмент, который делает поиск и выбор автомобиля заметно проще и... …
Интернет 00:12, октября 23, 2025 | internet.cnews.ru Новая реконфигурируемая система на основе мемристоров позволяет сортировать данные в памяти Организация данных в определённом порядке, также известная как сортировка, — это важная вычислительная операция, выполняемая широким спектром систем. …
Hardware 15:12, августа 4, 2025 | android-robot.com Новый язык кодирует форму и структуру, помогая моделям машинного обучения предсказывать свойства нанопор Большое количество двумерных материалов, таких как графен, могут иметь нанопоры — небольшие отверстия, образованные отсутствующими атомами, через кот …
Software 00:12, ноября 21, 2024 | android-robot.com Разве что «тошнить» в правом ряду: ТОП-3 причины, почему не стоит брать новый УАЗ «Патриот» вместо б/у Land Cruiser На самом деле российский внедорожник провальный по всем фронтам. Многие россияне задумываются о покупке нового УАЗ «Патриот» вместо б/у T …
Авто 00:12, февраля 1, 2025 | versiya.info Новый метод ускорит онлайн-транзакции в 20 раз Австралийские ученые совместно с коллегами создали способ ускорить работу цифровых подписей в 20 раз. Это обеспечит более быстрые и безопасные онлайн …
Технологии, Наука 03:15, мая 17, 2024 | ferra.ru Новый метод проектирования зданий предотвратить их обрушения Современные методы проектирования зданий в основном направлены на улучшение связности между компонентами конструкции. Однако в случае отказа одного и …
Технологии, Наука 02:35, мая 16, 2024 | ferra.ru В России создали новый метод подбора химиотерапии В пресс-службе Первого Московского государственного медицинского университета имени И. М. Сеченова сообщили, что ученые вуза разработали методы анали …
Технологии, Наука 15:45, мая 31, 2024 | ferra.ru Российские ученые предложили новый метод заживления ран во рту Ученые Томского политехнического университета (ТПУ) разработали новый метод заживления ран полости рта с помощью отечественных мембран из пьезоэлектр …
Технологии, Наука 19:35, мая 6, 2024 | ferra.ru Ученые MIT разработали новый метод навигации для роботов Ученые из Массачусетского технологического института (MIT) и лаборатории искусственного интеллекта MIT-IBM Watson разработали новый метод навигации д …
Технологии, Наука 23:40, июня 12, 2024 | ferra.ru Ученые MIT разработали новый метод обучения роботов Ученые Массачусетского технологического института (MIT) создали технику, позволяющую обучать многоцелевых роботов на основе данных из разных источник …
Технологии, Наука 10:50, июня 4, 2024 | ferra.ru Ученые разработали новый метод очистки сточных вод В Минобрнауки РФ сообщили, что ученые из Кемеровского государственного университета и МГУ имени Ломоносова представили новый метод очистки карьерных …
Технологии, Наука 07:55, мая 29, 2024 | ferra.ru Разработан новый метод диагностики психических отклонений Группой сотрудников Инженерно-физического института биомедицины НИЯУ МИФИ под руководством доктора медицинских наук Сергея Гуляева разработаны новато …
Software 10:12, марта 3, 2025 | android-robot.com Создан новый метод предсказания деменции с точностью до 80% Ученые из Лондонского университета королевы Марии разработали новый метод диагностики деменции с точностью более 80% за девять лет до постановки офиц …
Технологии, Наука 23:45, июня 6, 2024 | ferra.ru