Разработан метод предотвращения галлюцинаций больших языковых моделей

Разработан метод предотвращения галлюцинаций больших языковых моделей
10:15, мая 23, 2024 Большие языковые модели (LLM), такие как ChatGPT, научились генерировать тексты, почти не отличимые от написанных человеком, и давать убедительные ответы. Но иногда случаются сбои, и тогда на вполне внятный запрос нейросеть выдаёт какую-то белиберду.

Это явление получило название галлюцинации LLM. К нему же относятся связные ответы ИИ, содержащие искажённые или даже выдуманные факты. Исследователи из DeepMind недавно разработали способ борьбы с такими реакциями LLM. Процедура подразумевает сам.

Источник: www.pravda.ru
 
 

Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Google TPU Trillium: для больших языковых моделей ИИ

Google TPU Trillium: для больших языковых моделей ИИ На вчерашней конференции Google I/O основное внимание было уделено моделям искусственного интеллекта Gemini , которые должны работать на устройствах …

Технологии, Наука 18:10, мая 15, 2024 | hardwareluxx.ru
МГУ о применении мультимодальных больших языковых моделей в видеоаналитике

МГУ о применении мультимодальных больших языковых моделей в видеоаналитике Ученые МГУ провели исследование по проблеме перевода видео в текст, что позволит значительно сократить время... …

Интернет, Игры 08:45, июня 13, 2024 | cnews.ru
GPT на языке бизнеса: особенности применения больших языковых моделей

GPT на языке бизнеса: особенности применения больших языковых моделей Использование больших языковых моделей для генерации контента популярно не только среди частных пользователей, но и в бизнес-среде. Эксперты ИТ-компа …

Технологии, Наука 05:12, октября 20, 2024 | ict-online.ru
Яндекс открыл доступ к библиотеке для обучения больших языковых моделей

«Яндекс» открыл доступ к библиотеке для обучения больших языковых моделей «Яндекс» открыл доступ для всех желающих к собственно разработанной библиотеке YaFSDP для обучения больших языковых моделей, сообщает пресс-служба ко …

Бизнес, Промышленность, Энергетика 03:30, июня 12, 2024 | finam.ru
Новая техника улучшает возможности рассуждения больших языковых моделей

Новая техника улучшает возможности рассуждения больших языковых моделей Большие языковые модели, подобные тем, которые используются в ChatGPT, показали впечатляющую производительность при выполнении таких задач, как соста …

Технологии, Наука 05:12, июня 18, 2024 | android-robot.com
Яндекс открывает библиотеку YaFSDP для обучения больших языковых моделей

«Яндекс» открывает библиотеку YaFSDP для обучения больших языковых моделей Компания «Яндекс» выложила в опенсорс библиотеку YaFSDP, которая ускоряет обучение больших языковых моделей — как собственной разработки, так и сторо …

Технологии, Наука 09:35, июня 12, 2024 | xakep.ru
Grok 3 против ChatGPT: больше языковых моделей хороших и разных

Grok 3 против ChatGPT: больше языковых моделей хороших и разных Илон Маск на днях сообщил, что его стартап xAI выпустил новую версию чат-бота Grok 3, и назвал его «самым умным ИИ на Земле». …

Технологии, Наука 00:12, февраля 25, 2025 | ict-online.ru
Разработан новый метод диагностики психических отклонений

Разработан новый метод диагностики психических отклонений Группой сотрудников Инженерно-физического института биомедицины НИЯУ МИФИ под руководством доктора медицинских наук Сергея Гуляева разработаны новато …

Software 10:12, марта 3, 2025 | android-robot.com
Разработан неинвазивный метод 3D-печати тканей внутри тела

Разработан неинвазивный метод 3D-печати тканей внутри тела Сотрудники Калифорнийского технологического института представили систему Deep tissue In vivo Sound Printing (DISP). Технология позволяет печатать би …

Гаджеты 15:12, июля 16, 2025 | 24gadget.ru
В США разработан законопроект, который позволит ограничивать экспорт моделей ИИ

В США разработан законопроект, который позволит ограничивать экспорт моделей ИИ Американские парламентарии разработали законопроект, который облегчит администрации президента установление экспортного контроля над моделями искусст …

Hardware 20:10, мая 10, 2024 | 3dnews.ru
Разработан метод выделения водорода прямо в газовых месторождениях с выходом до 45%

Разработан метод выделения водорода прямо в газовых месторождениях с выходом до 45% Учёные из Сколковского института науки и технологий предложили перерабатывать природный газ без его подъёма на поверхность — прямо внутри месторожден …

Технологии, Наука 21:20, июня 5, 2024 | pravda.ru
Разработан быстрый метод синтезирования тонких пленок для гибкой электроники

Разработан быстрый метод синтезирования тонких пленок для гибкой электроники Ученые из университета Гонконга совершили прорыв в области гибкой электроники, разработав сверхбыстрый и недорогой способ синтезирования тонких плено …

Технологии, Наука 03:15, мая 17, 2024 | ferra.ru
В России разработан метод обнаружения кибератак с помощью цифрового зрения

В России разработан метод обнаружения кибератак с помощью цифрового зрения Ученые Санкт-Петербургского федерального исследовательского центра (СПб ФИЦ) РАН разработали новый комплекс методов по обнаружению кибератак на сети …

Технологии 10:12, декабря 9, 2024 | eadaily.com
Исследователи DeepMind предложили распределённое обучение больших ИИ-моделей, которое может изменить всю индустрию

Исследователи DeepMind предложили распределённое обучение больших ИИ-моделей, которое может изменить всю индустрию После того, как ИИ-индустрия немного отошла от шока, вызванного неожиданным триумфом китайской DeepSeek, эксперты пришли к выводу, что отрасли, возмо …

Hardware 05:12, февраля 18, 2025 | 3dnews.ru
Ассоциация больших данных представила Стратегию развития рынка больших данных 2030

Ассоциация больших данных представила Стратегию развития рынка больших данных 2030 По итогам 2024 года российский рынок больших данных составил 433 млрд рублей против прогнозировавшихся 319 млрд рублей. …

Основные новости 05:12, ноября 23, 2025 | susanin.news
Россиянин едва не выпал из окна из-за галлюцинаций

Россиянин едва не выпал из окна из-за галлюцинаций В Новосибирске мужчина в наркотическом и алкогольном опьянении едва не выпал из окна квартиры на пятом этаже. Об этом сообщает муниципальная аварийно …

Общество, регионы 19:00, мая 14, 2024 | gazeta.ru
Smart Engines представила ИИ для распознавания любых документов без галлюцинаций

Smart Engines представила ИИ для распознавания любых документов без «галлюцинаций» Smart Engines объявила о выходе новой версии программного решения для анализа и распознавания документов Smart Document Engine... …

Интернет, Игры 05:12, апреля 25, 2025 | cnews.ru
Apple не может на 100 % гарантировать отсутствие галлюцинаций у фирменного ИИ, заявил Тим Кук

Apple не может на 100 % гарантировать отсутствие галлюцинаций у фирменного ИИ, заявил Тим Кук Активное развитие систем искусственного интеллекта позволило выявить довольно странные результаты обработки пользовательских запросов, когда клей вкл …

Software 17:35, июня 12, 2024 | 3dnews.ru
Лидер Смысловых галлюцинаций высказался об уехавших из России артистах

Лидер «Смысловых галлюцинаций» высказался об уехавших из России артистах Лидер рок-группы «Смысловые галлюцинации» Сергей Бобунец высказался об уехавших из России артистах. Своим мнением он поделился на шоу «Откровенно с Т …

Шоу-бизнес 13:40, мая 20, 2024 | news.rambler.ru
Капельница от галлюцинаций: дочь Глюкозы пошла по стопам матери

Капельница от галлюцинаций: дочь Глюкозы пошла по стопам матери Дочь певицы Глюкозы (настоящее имя — Наталья Чистякова-Ионова) Лидия страдает от последствий расстройства пищевого поведения. Об этом подробнее …

Основные новости 00:12, ноября 20, 2024 | 5-tv.ru
ChatGPT довёл человека до психоза и галлюцинаций всего одной фразой

ChatGPT довёл человека до психоза и галлюцинаций всего одной фразой 60-летний американец, придерживавшийся вегетарианской диеты, решил вдобавок полностью отказаться от соли и спросил у ChatGPT, чем её можно заменить …

Технологии, Наука 00:12, августа 10, 2025 | iguides.ru
Найден способ предотвращения ДТП на дорогах

Найден способ предотвращения ДТП на дорогах Ученые Политехнического института ЮУрГУ, ТюмГУ и Джидды (Саудовская Аравия) разработали идеологию управления рисками аварий для устойчивых транспортн …

Наука 14:15, июня 12, 2024 | gazeta.ru
Караваев ответил на вопрос о языковых проблемах с легионерами Зенита

Караваев ответил на вопрос о языковых проблемах с легионерами «Зенита» Защитник «Зенита» Вячеслав Караваев рассказал, на каком языке общается с иностранными партнёрами по линии обороны сине-бело-голубых. …

Спорт 03:35, мая 11, 2024 | championat.com
В России пишут специальное ПО для предотвращения ДТП с грузовиками

В России пишут специальное ПО для предотвращения ДТП с грузовиками Фонд цифровых инициатив Евразийского банка развития начнет принимать заявки от российских разработчиков для создания ПО, обеспечивающего безопасное р …

Технологии, Наука 15:12, января 5, 2025 | zoom.cnews.ru
Русь зовут к словарю // У школьников заподозрили нехватку языковых компетенций

Русь зовут к словарю // У школьников заподозрили нехватку языковых компетенций Более 80% российских школьников испытывают дефицит речевого развития, предупредил член президентского Совета по русскому языку и руководитель портала …

Общество, регионы 06:45, июня 7, 2024 | kommersant.ru
Учёные Сколково и AIRI придумали, как ускорить работу языковых нейросетей

Учёные Сколково и AIRI придумали, как ускорить работу языковых нейросетей Российские ИТ-специалисты смогли ускорить работу языковых нейросетей на 10-15% Российские учёные обнаружили новое свойство больших языковых моделей, …

Технологии, Наука 22:35, июня 1, 2024 | ferra.ru
ЛДПР предложила ужесточить правила выдачи языковых сертификатов мигрантам

ЛДПР предложила ужесточить правила выдачи языковых сертификатов мигрантам Группа депутатов ЛДПР во главе с Леонидом Слуцким предложила ужесточить правила выдачи сертификатов русского языка для мигрантов, необходимые для офо …

Основные новости 11:35, июня 6, 2024 | life.ru
За чисту мову. В Ивано-Франковске избивают новых языковых патрульных

За чисту мову. В Ивано-Франковске избивают новых языковых патрульных Активистов-патрульных в украинских соцсетях уже прозвали предателями и грозятся отлавливать, как военкомов. …

Основные новости 05:12, сентября 21, 2024 | aif.ru
Палата представителей США не приняла законопроект для предотвращения шатдауна

Палата представителей США не приняла законопроект для предотвращения шатдауна Палата представителей Конгресса США отклонила законопроект о временном финансировании федерального правительства и повышении потолка госдолга. Закон …

Основные новости 05:12, декабря 20, 2024 | vz.ru
Глава МВД РФ потребовал усилить борьбу с выдачей мигрантам поддельных языковых сертификатов

Глава МВД РФ потребовал усилить борьбу с выдачей мигрантам поддельных языковых сертификатов Переназначенный министр МВД России Владимир Колокольцев потребовал принимать жесткие меры в ответ на злоупотребления иностранными гражданами правом н …

Основные новости 13:50, мая 16, 2024 | ruposters.ru
Песков: ОБСЕ ничего не сделала для предотвращения конфликта на Украине

Песков: ОБСЕ ничего не сделала для предотвращения конфликта на Украине Пресс-секретарь российского президента Дмитрий Песков заявил, что Организация по безопасности и сотрудничеству в Европе (ОБСЕ) не сыграла никакой рол …

Основные новости 15:12, марта 11, 2025 | kommersant.ru
Глава Крыма обратился к ФСБ после предотвращения теракта в регионе

Глава Крыма обратился к ФСБ после предотвращения теракта в регионе Сотрудники ФСБ проявили профессионализм и бдительность, предотвратив террористический акт на железной дороге в Крыму. Об этом в Telegram-канале заяви …

Политика 12:20, мая 16, 2024 | news.rambler.ru