Как нейросети притворяются всезнайками и что с этим делать?
Может показаться, что в этом нет ничего серьезного, однако ученые с этим не согласны. Дело в том, что такие языковые модели, как GPT-4 стали неотъемлемой частью повседневной жизни.
Они также активно используются в образовании, медицине и науке, помогая решать разнообразные и довольно сложные задачи. Но, несмотря на впечатляющие возможности этих интеллектуальных систем, результаты последних исследований показали, что по мере их развития и постоянного улучшения, нейросети становятся все менее надежными и чаще выдумывают факты.
Новейшие ИИ-системы стремятся убедительно отвечать на все вопросы, даже когда не уверены в надежности информации.
Это особенно опасно в областях, где точность и надежность критически важны, например, в медицине или юридической практике. Почему нейросети выдумывают факты? Результаты исследования, опубликованного в журнале Nature, показали, что группа чат-ботов с искусственным интеллектом становится все менее надежной: по мере своего развития, большие языковые модели все чаще выдумывают факты, отвечая на вопросы пользователей.
К такому выводу авторы статьи пришли, рассмотрев работу ведущих в отрасли ИИ-систем, включая GPT от OpenAI, LLaMA от Meta, а также модель с открытым исходным кодом BLOOM, созданную исследовательской группой BigScience.
Нейросети научились притворяться всезнайками.
Изображение: quantamagazine.org Отметим, что традиционно улучшение систем на основе искусственного интеллекта, достигалось двумя способами: масштабированием (увеличением количества параметров, объема данных и вычислительных ресурсов) и «оттачиванием» моделей (настройкой под конкретные задачи и использованием обратной связи от пользователей).
Эти подходы позволили чат-ботам лучше понимать инструкции и генерировать более сложные и связные ответы.
Больше по теме: Нейросети научились врать и делают это намеренно В рамках исследования, однако, было обнаружено, что эти методы улучшения приводят к нежелательным последствиям.
Так, более крупные и «отточенные» модели не всегда надежны в решении простых задач, ошибки в которых должны быть минимальны.
Более того, доля неправильных ответов улучшенных моделей в целом значительно выше, чем у их предшественников. В наши дни нейросети отвечают практически на все вопросы.
Это означает, что количество как правильных, так и не правильных ответов растет, – рассказал один из авторов нового исследования Хосе Эрнандес-Оралло из Валенсийского исследовательского института искусственного интеллекта (Испания).
Более жесткую оценку дает Майк Хикс из Университета Глазго (Великобритания), который не принимал участие в исследовании. По его мнению, притворство чат-ботов становится все лучше.
«В целом, ситуация выглядят так, будто они блефуют»,.
"Дію" снова сломали и что с этим делать? Пишут, что в интернете появилась база с личными данными граждан Украины. Мол, 20 миллионов "записей". Пишут это якобы солидные люди: уже высказались …
Гаджеты 05:12, сентября 30, 2025 | gagadget.comКак сладкое разрушает зубы и что с этим делать Сами по себе сладости не разрушают зубы, виноваты бактерии Когда мы едим мясо или другую пищу без сахара, в нашем рту все довольно спокойно. Но стоит …
Технологии, Наука 05:12, декабря 10, 2025 | hi-news.ruВаш холодильник полон бактерий: вот что с этим делать Британские учёные исследовали бактериальное содержимое самых обычных холодильников, и узнали, что там есть множество бактерий. Они там заводятся из-з …
Общество, регионы 00:12, мая 18, 2025 | pravda.ruПочему кошка перестала мяукать, и что с этим делать 09:00, 14 мая 2024, автор: Кутман С.Почему кошка перестала мяукать, и что с этим делатьУ кошек свой способ общения друг с другом и с нами. Они делают …
Основные новости 15:10, мая 14, 2024 | incnews.ruПочему на работает Bluetooth на Айфоне, и что с этим делать Несмотря на то, что не все пользуются беспроводными наушниками, без Bluetooth в Айфоне в 2024 году жить практически нереально. Он позволяет подключат …
Технологии, Наука 04:25, мая 18, 2024 | appleinsider.ruПочему на морозе смартфон быстро разряжается и что с этим делать Смартфон садится на морозе за минуты — вот что с ним происходит. Источник изображения: virtustec.ru Зимой смартфон вдруг начинает вести себя странно. …
Технологии, Наука 00:12, декабря 18, 2025 | hi-news.ruПочему тигры в ЕАО стали кусачими и что с этим теперь делать? В то время, как жители с. Чурки в Ленинском районе Еврейской автономной области держат оборону против зачастившего к ним на подворья амурского тигра, …
Основные новости 14:10, мая 18, 2024 | riabir.ruПочему Айфон начинает тормозить и зависать, и что с этим делать У людей по всему миру техника Apple наверняка ассоциируется с долговечностью и высокой скоростью работы. Возьмите в руки любой старый iPhone или MacB …
Технологии, Наука 20:12, июля 15, 2024 | appleinsider.ru
Эксперт назвал истинные причины опозданий и рассказал, что с этим делать Психолог интегративного подхода Ирина Белобородова объяснила, что у такого явления есть множество причин. Первая - это психологические факторы. Часто …
Основные новости 17:00, мая 14, 2024 | sovainfo.ru
Кортизол против красоты: как стресс влияет на внешность и что с этим делать Хроническое беспокойство разрушает организм, ускоряя старение и ухудшая состояние кожи. Узнайте, как вернуть контроль, снизить уровень тревоги и восс …
Красота 00:12, ноября 4, 2025 | lady.pravda.ru Почему вода из скважины пахнет железом или сероводородом и что с этим делать Если вода плохо пахнет, ей требуется очистка Скважина на участке — вещь не просто полезная, но и чрезвычайно универсальная. Хочешь — пей из нее …
Технологии, Наука 20:12, ноября 21, 2025 | hi-news.ru Во время бега болит в боку — отчего это бывает и что с этим делать Во время бега многие люди сталкиваются с сильной болью в боку. Источник фото: www.tennis.uz Наверняка вы сталкивались с ситуацией, когда из-за интенс …
Технологии, Наука 15:12, июля 6, 2024 | hi-news.ru Хляби небесные: почему по всему миру происходят наводнения и что с этим делать Наводнения на разных континентах этой весной привели к серьезным инфраструктурным проблемам и повлекли за собой многочисленные жертвы и разрушения. Н …
Бизнес, Промышленность, Энергетика 13:15, мая 9, 2024 | forbes.ru
Бывший начальник дорожного управления рассказал, почему в Брянске такие дороги и что с этим делать Не секрет что, несмотря на огромные финансовые вливания, реляции в СМИ и на бумаге в реальности дороги нашего региона оставляют желать лучшего. Дорож …
Основные новости 20:12, января 23, 2025 | bo32.ru Технологии взаперти: почему российский IT-рынок рискует навсегда отстать от глобального и что с этим делать За последние 2,5 года российский технологический сектор получил мощный стимул к развитию. Инвестиции в основной капитал IT-отрасли, как и спрос на ро …
Это интересно, Курьезы 05:12, сентября 9, 2024 | incrussia.ru Что нужно делать, чтобы притянуть невероятное везение. Этим методом пользуются в семье футболиста «Зенита» Ерохина erokhina_nikaВероника Ерохина, жена футболиста «Зенита» Александра Ерохина, опубликовала в социальной сети пост, посвященный очередному чемпионству е …
Спорт 06:00, мая 26, 2024 | sport24.ru
ГК «Гарда»: мошенники притворяются известными людьми и официальными лицами Мошенники стали чаще атаковать пользователей Telegram и W******p под видом известных блогеров, администраторов популярных... …
Интернет 00:12, декабря 10, 2025 | internet.cnews.ru Если ребенка укусил клещ: что делать и чего не делать, чтобы избежать тяжелых последствий Едва только в наших широтах наступает весна, а за ней и лето — тема клещей и тех страшных последствий, которые могут наступить после укуса клеща, ста …
Шоу-бизнес 22:35, мая 8, 2024 | woman.ru В России запретят опасные нейросети Депутаты Госдумы обратились в Роскомнадзор с предложением ограничить работу «раздевающих» нейросервисов. …
Технологии, Наука 00:12, января 22, 2026 | iguides.ru Топ-7 полезных Telegram-каналов про технологии и нейросети Технологии не стоят на месте: следить за новыми девайсами, фичами и ИИ-сервисами становится всё сложнее. Чтобы вы не пропустили самое важное, мы собр …
Технологии, Наука 00:12, июня 4, 2025 | itzine.ru M**a начнёт обучать нейросети на данных пользователей из ЕС M**a Platforms вскоре начнёт обучать собственные ИИ-модели на данных пользователей своих приложений из Евросоюза. Речь идёт, в том числе, о публичных …
Software 00:12, апреля 17, 2025 | 3dnews.ru
Первая ИИ-помощь: как нейросети трансформируют медицину Почти 70 % россиян готовы доверить мониторинг своего здоровья искусственному интеллекту, показало исследование Mediacom.Expert и Анкетолога. Еще 19 % …
Технологии, Наука 15:12, сентября 28, 2024 | ict-online.ru Как нейросети меняют Интернет и учатся креативности? ИИ-системы становятся все лучше и лучше, стремительно меняя Интернет и подход к креативности. Изображение: media.wired.com С момента своего дебюта ге …
Технологии, Наука 02:45, июня 12, 2024 | hi-news.ru Путин ознакомился с возможностями нейросети GigaChat Кроме того, российский лидер увидел умное кольцо, которое может дистанционно собирать биометрические данные человека и интерпретировать их с помощью …
Основные новости 20:12, декабря 11, 2024 | ren.tv Нейросети взбунтовались — назло делают то, что им запрещают Некоторые пользователи генеративных нейросетей, создающих картинки, заметили очень странную вещь. В запросе ты напрямую запрещаешь нейросети рисоват …
Технологии, Наука 05:12, марта 7, 2025 | iguides.ru Все по уму: как нейросети меняют представления пользователей о телефонах На состоявшейся 25 апреля традиционной встрече Forbes Club по случаю выхода лонг-листа рейтинга 30 самых перспективных россиян до 30 лет сеть фирменн …
Бизнес, Промышленность, Энергетика 22:35, мая 27, 2024 | forbes.ru
Исследователи НИУ ВШЭ выяснили, как нейросети понимают каламбуры Международная команда с участием исследователей ФКН НИУ ВШЭ представила KoWit-24 — корпус из 2700 русскоязычных заголовков... …
Интернет, Игры 10:12, января 3, 2026 | cnews.ru 8 сервисов, где нейросети рисуют картинку по описанию Современные технологии развиваются так стремительно, что нейросети, совсем недавно бывшие лишь нелепой забавой, сегодня стали серьезными и эффективны …
Технологии, Наука 14:05, мая 31, 2024 | ichip.ru Как попасть в топы поисковиков и причем тут нейросети По данным исследовательского портала DemandSage, 50% интернет-пользователей используют голосовой поиск каждый день. Этот метод, дающий возможность ма …
Это интересно, Курьезы 15:12, ноября 12, 2024 | incrussia.ru Москва использует нейросети в городских сервисах Рекомендательные сервисы — это одно из самых популярных направлений использования искусственного интеллекта. …
Основные новости 23:00, июня 11, 2024 | aif.ru Нейросети научились врать и делают это намеренно Большие языковые модели (от англ. large language models) научились обманывать и в большинстве случаев делают это намеренно. Изображение: magazine.min …
Технологии, Наука 20:12, июня 25, 2024 | hi-news.ru
Нейросети помогают учиться 43% московских студентов Четыре из 10 московских студентов рассказали, что активно используют нейросети в учебе. В опросе сервиса по поиску... …
Интернет, Игры 12:40, мая 30, 2024 | cnews.ru