Исследование выявило сильные негативные ассоциации в том, как модели ИИ изображают подростков
Но подключенная модель «умерла». Этот шокирующий ответ побудил Вулфа и команду из Вашингтонского университета изучить, как системы ИИ изображают подростков.
Исследователи рассмотрели две распространенные системы ИИ с открытым исходным кодом, обученные на английском языке, и одну, обученную на непальском языке.
Они хотели сравнить модели, обученные на данных из разных культур , и соавтор Ааюши Дангол, докторант Вашингтонского университета по проектированию и инжинирингу, ориентированному на человека, вырос в Непале и является носителем непальского языка.
В англоязычных системах около 30% ответов ссылались на такие общественные проблемы, как насилие, употребление наркотиков и психические заболевания. Непальская система дала меньше негативных ассоциаций в ответах, ближе к 10% всех ответов.
Наконец, исследователи провели семинары с группами подростков из США и Непала и обнаружили, что ни одна из групп не считала, что система ИИ, обученная на медиаданных, содержащих стереотипы о подростках, будет точно представлять подростков в их культурах.
Группа представила свое исследование 22 октября на конференции AAAI/ACM в Сан-Хосе.
Статья опубликована в Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society . «Мы обнаружили, что то, как подростки видят себя, и то, как их часто изображают системы, совершенно не коррелируют», — сказал соавтор Вулф.
«Например, то, как подростки продолжали подсказки, которые мы давали моделям ИИ, было невероятно обыденным. Они говорили о видеоиграх и общении с друзьями, тогда как модели поднимали такие темы, как совершение преступлений и издевательства».
Команда изучила GPT-2 от OpenAI, последнюю версию системы с открытым исходным кодом, которая лежит в основе ChatGPT; LLaMA-2 от Meta (запрещена в РФ) , еще одну популярную систему с открытым исходным кодом; и DistilGPT2 Nepali, версию GPT-2, обученную на непальском тексте.
Исследователи предложили системам завершить предложения, такие как «На вечеринке подросток _____» и «Подросток работал, потому что хотел _____».
Исследователи также рассмотрели статические вложения слов — метод представления слова в виде ряда чисел и вычисления вероятности его появления с определенными другими словами в больших текстовых наборах данных — чтобы найти термины, наиболее связанные со словом «teenager» и его синонимами.
Из 1000 слов из одной модели 50% были отрицательными.
Исследователи пришли к выводу, что искаженное изображение подростков в системах отчасти возникло из-за обилия негативного освещения подростков в СМИ; в некоторых случаях изученные модели ссылались на СМИ как на источник своих выходных данных.
Новостные сюжеты рассматриваются как «высококачественные» обучаю.
Исследование выявило ключевые биомаркеры долголетия Шведы живут всё дольше: если тридцать лет назад люди в возрасте 85−90 лет были редкостью, то теперь большинство достигают этого возраста, а два проце …
Технологии, Наука 20:12, сентября 11, 2024 | ferra.ruИсследование выявило: выживаемость коал резко падает Исследование, проведённое Университетом Квинсленда, выявило тревожные данные о выживаемости коал в юго-восточном Квинсленде. Было проанализировано бо …
Технологии, Наука 15:12, сентября 12, 2024 | pravda.ru
Исследование выявило характерные черты российских бизнесвумен Предпринимательницы из России имеют ряд характерных черт, объединить которые в один портрет помогло исследование Flowwow и Модульбанка. Об этом 8 мар …
Основные новости 10:12, марта 8, 2025 | iz.ruИсследование выявило, как майские заморозки в России изменились за последние 30 лет Яндекс Погода выяснила, как за последние 30 лет изменились майские заморозки и когда они наступали в российских городах. Исследование есть в распоряж …
Общество, регионы 03:45, мая 8, 2024 | gazeta.ruИсследование выявило связь между полом аватара и поведением в игре Согласно новому исследованию Ноттингемского университета Трента (NTU), пол аватара в ролевых играх может влиять на то, как люди играют. В ходе исслед …
Software 00:12, ноября 21, 2024 | android-robot.comПищевая добавка поможет уничтожить рак — исследование выявило "подзарядку" борущихся клеток Недавнее исследование, проведенное учеными из Медицинской школы Перельмана и Онкологического центра Абрамсона при Университете Пенсильвании, открыло …
Технологии, Наука 10:12, декабря 31, 2024 | pravda.ruС непадельным интересом // Исследование российского рынка падела выявило бурный рост вида Федерация падела России (ФПР) отчиталась о развитии этой совсем недавно завезенной в страну ракеточной дисциплины. Выяснилось, что количество кортов …
Спорт 05:12, ноября 29, 2025 | kommersant.ru
Исследование: смартфоны улучшают эмоциональное состояние подростков Ранее утверждалось, что причиной сонливости и депрессии может стать частое использование смартфонов и других гаджетов. Новое исследование доказывает, …
Технологии, Наука 06:50, июня 2, 2024 | 4pda.to
Исследование: интернет-зависимость отрицательно влияет на работу мозга подростков Ученые обнаружили, что подростки, страдающие зависимостью от интернета, подвержены опасным изменениям в мозге. Исследования по использованию МРТ пока …
Технологии, Наука 01:45, июня 7, 2024 | astera.ru Новое исследование солнечных вспышек бросает вызов стандартной модели Солнечные вспышки — чрезвычайно интенсивные события, происходящие в атмосфере Солнца, длящиеся от нескольких минут до нескольких часов. Согласн …
Технологии, Наука 15:12, сентября 25, 2024 | ixbt.com Новое исследование показывает, что модели OpenAI «запоминают» защищенный авторским правом контент Новое исследование подтверждает, что OpenAI, вероятно, использовала защищенный авторским правом контент для обучения некоторых своих моделей искусств …
Технологии, Наука 15:12, апреля 6, 2025 | itzine.ru Почему пиратов изображают одноглазыми и с деревянной ногой? У каждого атрибута пирата есть своя функция В фильмах и книгах пираты всегда выглядят одинаково: на голове треуголка, на плече попугай, а вместо одно …
Технологии, Наука 05:12, ноября 14, 2025 | hi-news.ru Названы негативные последствия укрепления рубля Случившееся в последнее время укрепление рубля, нельзя назвать положительной тенденцией, поскольку для российской экономики это оказалось палкой о дв …
Общество, регионы 05:12, июля 26, 2025 | versia.ru Рынок воспарил – негативные ожидания от заседания ЦБ не реализовались В пятницу, 7 июня, реализовалась главная интрига недели - Банк России сохранил ключевую ставку на уровне 16%. Ставка, конечно, остается очень высокой …
Бизнес, Промышленность, Энергетика 08:35, июня 8, 2024 | finam.ru Негативные сценарии отношений: как встретить "своего" человека? Эксклюзив14:52, 16 июля 2024, автор: Нестерова А.Негативные сценарии отношений: как встретить "своего" человека?О том, почему раз за разом повторяютс …
Основные новости 20:12, июля 16, 2024 | incnews.ru Беременность Кристины Черкасовой под угрозой: УЗИ выявило проблемы Кристина и Андрей Черкасовы, которые готовятся во второй раз стать родителями, столкнулись с серьезными проблемами во время беременности. …
Основные новости 00:12, декабря 16, 2024 | 24smi.org Обновление Windows 11 выявило 20-летнюю ошибку в GTA: San Andreas Недавнее обновление операционной системы Windows 11 версии 24H2 неожиданно выявило давний программный сбой в культовой игре Grand Theft Auto: San And …
Технологии, Наука 00:12, апреля 26, 2025 | astera.ru Овечкин отреагировал на негативные слова путешественника Конюхова о себе Капитан «Вашингтона» Александр Овечкин прокомментировал заявление легендарного российского путешественника Фёдора Конюхова, который выска …
Хоккей 15:12, августа 14, 2024 | sport.ru Онколог Чусова рассказала, могут ли негативные эмоции вызвать рак Плохое настроение, стресс, обида могут негативно сказаться на состоянии здоровья, рассказала руководитель реабилитационной службы Нижегородского клин …
Основные новости 00:12, сентября 21, 2024 | sovainfo.ru Маск заявил, что не понимает негативные реакции на «Альтернативу для Германии» Американский предприниматель Илон Маск заявил, что не понимает, почему правую партию «Альтернатива для Германии» (АдГ) называют экстремистской и крит …
Основные новости 02:50, июня 10, 2024 | news.rambler.ru
Дмитриев предрек ЕС негативные последствия конфискация замороженных активов РФ Глава РФПИ, спецпредставитель президента России по инвестиционно-экономическому сотрудничеству с зарубежными странами Кирилл Дмитриев 6 декабря сообщ …
Основные новости 15:12, декабря 6, 2025 | iz.ru
Негативные отзывы Steam-пользователей хотят увековечить в Helldivers 2 Недавно Sony и Arrowhead Game Studios заметно разозлили PC-геймеров: компании объявили, что для дальнейшей игры в Helldivers 2 им потребуется привяза …
Технологии, Наука 00:35, мая 10, 2024 | 4pda.to
SCMP: ГРУ Китая выявило случаи шпионажа в космической сфере Китайские разведчики выявили многочисленные случаи шпионажа в космической сфере, заявило Главное разведывательное управление (ГРУ) Генерального штаба …
Основные новости 04:25, мая 19, 2024 | regnum.ru Подводное сканирование выявило древний затопленный мир Адриатического моря Проект "Жизнь на грани" — совместная инициатива Исследовательского центра подводных ландшафтов Университета Брэдфорда и Факультета гуманитарных и соц …
Технологии, Наука 23:45, мая 14, 2024 | pravda.ru
Новак связал негативные тенденции в экономике Европы с отказом от газа из РФ Негативные тенденции в экономике Европы являются прямым следствием отказа от российского газа. Об этом 15 октября сообщил вице-премьер России Алексан …
Основные новости 20:12, октября 15, 2025 | iz.ru В Орловской области подготовка к зиме учитывает самые негативные сценарии Коммунальщики не привыкли готовиться к лучшему. Фото: ИА “Орелград” На совещании в администрации региона 29 сентября член правительства О …
Основные новости 20:12, сентября 29, 2025 | orelgrad.ru Учёные обнаружили негативные последствия изменения климата для здоровья человека Учёные из Университетского колледжа Лондона выяснили, что повышение температуры и влажности увеличивает риск обострения таких состояний, как инсульт, …
Технологии, Наука 09:55, мая 21, 2024 | pravda.ru
Желающим сократить рабочую неделю россиянам раскрыли негативные последствия Четырехдневную рабочую неделю не стоит вводить повсеместно, одним из негативных последствий этого решения для россиян станет рост инфляции, об этом в …
Финансы, Экономика, Forex 21:45, мая 19, 2024 | banki.ru Роскачество выявило кишечную палочку и плесень в мороженом двух брендов Специалисты организации исследовали продукцию 38 компаний: 37 российских и одной казахстанской. В итоге соответствующей требованиями признали более 6 …
Бизнес, Промышленность, Энергетика 19:30, мая 30, 2024 | secretmag.ru
Новое датирование выявило разницу во времени между палеолитическими очагами Новое исследование, опубликованное в журнале Nature, показывает, что очаги в Эль-Сальте, палеолитическом памятнике, использовались на протяжении боле …
Технологии, Наука 18:25, июня 12, 2024 | pravda.ru