Нейросети научились врать и делают это намеренно
Как показали результаты сразу двух новых исследований, такие большие языковые модели (LLM) как ChatGPT и Meta могут намеренно врать людям и делают это превосходно. «GPT-4, например, демонстрирует обманчивое поведение в простых тестовых сценариях в 99,16% случаев», – пишут исследователи из Университета Штутгарта, а нейросеть Cicero от Meta – самый настоящий «мастер обмана».
Причина такого поведения, вероятно, заключается в том, что LLM используют наилучший способ для достижения поставленной задачи и не осознают какую угрозу ложь и обман могут представлять для людей.
Исследователи полагают, что способность современных ИИ-систем искусно лгать не сулит нам с вами ничего хорошего, а единственно верным решением будет законодательно ограничить возможности искусственного интеллекта.
Можно ли доверять ИИ? Сегодня умение взаимодействовать с нейросетями приобретает все большее значение – эти языковые модели помогают работать огромному количеству специалистов в самых разных областях и делают это с ошеломительной скоростью.
С их помощью можно создавать видео, музыку, изображения, генерировать тексты, программировать и обрабатывать огромное количество данных, что неизменно меняет мировой рынок труда и оказывает влияние на образование и экономику.
Но несмотря на очевидные плюсы без «подводных камней» не обошлось – ИИ-системы быстро научились врать и делают это все лучше и лучше.
За примером далеко ходить не нужно – недавно мой коллега Андрей Жуков рассказывал как нейросеть “AI Overview” от Google дала пользователю Reddit совет, из-за которого чуть не погибла вся его семья. Да-да, если чуть больше года назад нелепые советы от ИИ казались смешными, то сегодня они пугают по-настоящему.
Безусловно, “AI Overview” – экспериментальная и тестовая модель с ограниченным количеством пользователей, однако мы с вами итак прекрасно знаем, что ИИ-системы частенько попросту выдумывают ответы.
Люди далеко не всегда распознают ложь друг друга, что уж говорить про нейросети. Изображение: wp.technologyreview.com Больше по теме: Нейросеть от Microsoft объявила себя сверхразумом и требует поклонения от пользователей Реальность такова, что ко всему, что говорит чат-бот с искусственным интеллектом, нужно относиться с недоверием.
Все потому, что они часто просто собирают данные без разбора и не имеют возможности определить их достоверность – если вы общаетесь ИИ, то наверняка не раз сталкивались с их странными ответами.
Чат-бот OpenAI, например, любит придумывать название несуществующим болезням и придумывать сенсационные истории. И это – лишь вершина айсберга.
Мастера обмана В работе, опубликованной в мае в журнале Patterns, анализируются известные случаи, когда LLM-.
Нейросети взбунтовались — назло делают то, что им запрещают Некоторые пользователи генеративных нейросетей, создающих картинки, заметили очень странную вещь. В запросе ты напрямую запрещаешь нейросети рисоват …
Технологии, Наука 05:12, марта 7, 2025 | iguides.ru
Белоусов: Ошибаться – можно, врать – нельзя Новый министр обороны России назвал задачи, которые поставил перед ним президент, и рассказал о принципах, которыми будет руководствоваться сам. .. …
Основные новости 02:15, мая 15, 2024 | nakanune.ruИИ научился врать и притворяться человеком, предупредили в MIT Искусственный интеллект научился врать и притворяться человеком, предупредили учёные Массачусетского технологического института (MIT). Об их исследов …
Технологии, Наука 19:35, мая 13, 2024 | pravda.ruСоздана модель ИИ, которая намеренно портит учебные изображения Ранее искусственный интеллект, преобразующий текст в изображение, боролся со сложной юридической проблемой: нарушением авторских прав. Обученные на о …
Технологии, Наука 23:55, мая 22, 2024 | ferra.ru
ЕС намеренно травит страны Африки, поставляя им запрещенные пестициды Компании из Евросоюза массово экспортируют в Нигерию запрещенные в ЕС пестициды, вызывающие рак и неврологические заболевания. Об этом сообщает агент …
Экология 05:12, декабря 5, 2025 | eadaily.comМирошник: ВСУ намеренно сжигают жилые дома в Курской области Побывавший в Курской области Посол по особым поручениям МИД РФ Родион Мирошник опубликовал кадры из деревни Гирьи Беловского района. Это весьма опасн …
Основные новости 00:12, августа 31, 2024 | 46tv.ruКого волнует рабочее дно Петербурга? Главное – пить и врать нельзя Правила для бедолаг в рабочих домах длиннее их кроватей: чем-то покормят, куда-то уложат – остальное как получится, а полиция прикроет. 47news прошел …
Основные новости 15:12, ноября 9, 2025 | 47news.ru
Кишинев по политическим причинам намеренно «убивает» Молдавскую ГРЭС — эксперт Выработка электроэнергии для Молдавии на расположенной в Приднестровье Молдавской ГРЭС будет дешевле её покупки на европейском рынке. Об этом на Excl …
Промышленность, Энергетика 15:12, декабря 16, 2025 | eadaily.com
В Госдуме считают, что Верховный суд Швейцарии намеренно затягивает дело Валиевой Светлана Журова выразила мнение, что Верховный суд Швейцарии специально затягивает рассмотрение апелляции Камилы Валиевой по дисквалификации в наруше …
Спорт 15:35, мая 6, 2024 | sport-express.ru
Белоусов заявил, что руководствуется принципом «ошибаться можно, врать нельзя» Кандидат на должность главы Минобороны Андрей Белоусов рассказал, что всегда руководствуется «железобетонным» принципом: «ошибаться можно, врать нель …
Политика 16:20, мая 14, 2024 | kommersant.ru «Ошибаться можно, врать нельзя»: как Белоусов изменит Министерство обороны Заступивший на новый срок президент Владимир Путин создал структуру по управлению и модернизации российской армии. Ее можно назвать «Оружейной …
Основные новости 04:25, мая 19, 2024 | 5-tv.ru Политолог заявил, что Германия намеренно поставляет Украине недостаточно оружия Германия намеренно поставляет Украине недостаточно оружия. Такое мнение высказал немецкий профессор, политолог Герфрид Мюнклер, сообщает Telegram-кан …
Политика 19:55, мая 9, 2024 | gazeta.ru Белоусов закончил речь в Совфеде фразой «ошибаться можно, врать нельзя» Кандидат на пост главы Минобороны Андрей Белоусов в завершение выступления в Совете Федерации назвал принцип, которым он руководствуется в жизни, пер …
Основные новости 16:05, мая 14, 2024 | rbc.ru Белоусов завершил речь в Совфеде фразой «ошибаться можно, врать нельзя» Кандидат на пост главы Минобороны РФ отметил, что приложит все силы, здоровье, «если потребуется жизнь для решения поставленных задач». …
Основные новости 17:05, мая 14, 2024 | aif.ru Политолог Скачко: Ходорковский намеренно разгоняет панику вокруг Харькова и Одессы Российская оппозиция за рубежом начинает переживать за свое будущее. Падение Украины сделает их финансирование бессмысленной задачей, поэтому они так …
Основные новости 07:25, мая 20, 2024 | vz.ru
Ошибаться можно, врать — нельзя: Белоусов назвал первоочередные задачи Минобороны Кандидат на пост министра обороны России Андрей Белоусов назвал первоочередные задачи в военной сфере во время выступления в Совете Федерации. …
Политика 17:55, мая 14, 2024 | eadaily.com
Спасают свои задницы: еврочиновники намеренно затягивают украинский конфликт — Менцер Брюссельские чиновники затягивают украинский конфликт, чтобы «спасти свои задницы». Об этом заявил в эфире радиостанции Kossuth представитель партии …
Промышленность, Энергетика 05:12, мая 27, 2025 | eadaily.com
«Главное— не врать»: интервью с главным дирижером Уральского государственного русского оркестра Павлом Васильевым Благотворительный фонд актеров и Региональная молодежная Лаборатория театра и фольклора представят на сцене Уральского центра... …
Шоу-бизнес 10:12, марта 2, 2025 | intermedia.ru Певица FKA Twigs обвиняет бывшего бойфренда Шайю Лабафа в насилии и в том, что он намеренно заразил её венерическим заболеванием Певица FKA Twigs (настоящее имя — Талия Барнетт. — Прим. ред.) через суд требует от бывшего бойфренда, актёра Шайи Лабафа, возмещение ущерба в размер …
Культура и искусство 20:12, июня 27, 2024 | spletnik.ru Пользователи Stack Overflow протестуют против сделки с OpenAI и стали намеренно портить свои коды Партнёрство между популярным ресурсом для программистов Stack Overflow и компанией OpenAI, объявленное на этой неделе, встретило шквал критики со сто …
Hardware 08:20, мая 11, 2024 | 3dnews.ru "Ты можешь от безысходности сама себе врать". Константин Меладзе выпустил новую песню, в которой увидели намёк на отношения с Верой Брежневой Константин Меладзе совместно со своим братом Валерием выпустил новую песню под названием "Зима так близко", и в сети сразу предположили, что она посв …
Шоу-бизнес 15:12, ноября 1, 2024 | spletnik.ru
Пшено делают из пшеницы или нет? Нет. Несмотря на то, что названия у круп похожи, пшено и пшеница — это разные злаки. Объясняем почему. …
Основные новости 02:50, мая 21, 2024 | aif.ru Ученые научились менять теплопроводность алмаза Ученые научились менять теплопроводность алмаза, растягивая и сжимая его. Это открывает путь к созданию новых электронных устройств.Алмаз — самый тве …
Технологии, Наука 02:40, мая 15, 2024 | ferra.ru
Мошенники научились красть сим-карты дистанционно Через взломанную учётную запись злоумышленники перевыпускают eSIM. После этого человек теряет доступ к номеру. Эксперты напоминают, что важно себя об …
Основные новости 23:05, мая 17, 2024 | news-kmv.ru
В Череповце 80 школьников научились помогать пострадавшим Фестиваль "Стихии первой помощи" прошел в ФОКе. 80 учеников из восьми школ учились оказывать первую помощь при ожогах, обморожениях, солнечных и тепл …
Основные новости 10:12, октября 3, 2024 | cherinfo.ru Российские дроны научились залетать в тыл ВСУ незамеченными Российские разведывательные дроны научились преодолевать украинскую систему радиоэлектронной борьбы (РЭБ) и массово залетают в тыл Вооруженных сил Ук …
Военное дело 18:50, мая 8, 2024 | news.rambler.ru Малыши из Костромы научились создавать всё из ничего 25 мая в детском саду № 4 Костромы прошел второй Всероссийский фестиваль игры 4D. Для маленьких участников организаторы подготовили множество локаций …
Основные новости 15:40, мая 30, 2024 | k1news.ru Учёные научились точно определять паранойю по МРТ Российские и болгарские учёные совместно разработали технологию определения паранойи по снимкам МРТ В БФУ имени И. Канта и Медицинском университете П …
Технологии, Наука 19:15, июня 3, 2024 | ferra.ru В NASA научились точно предсказывать засуху Новая технология, предложенная одним из исследовательских подразделений NASA, позволяет с достаточной точностью предсказывать приближение масштабных …
Технологии, Наука 16:35, мая 16, 2024 | api.follow.it Антибиотики в овощах научились искать по-новому Растущая озабоченность по поводу загрязнения антибиотиками нашей пищевой цепи побудила исследователя из Университета Страны Басков (UPV/EHU) разработ …
Технологии, Наука 11:30, мая 24, 2024 | ferra.ru