Чат-боты на основе искусственного интеллекта остаются самоуверенными даже тогда, когда ошибаются
И люди, и LLM, как правило, были слишком самоуверенны в своих гипотетических результатах.
Примечательно, что они также отвечали на вопросы или распознавали изображения с относительно схожей вероятностью успеха.
Однако, согласно исследованию, опубликованному в журнале Memory & Cognition, когда участников и магистров права задним числом спросили, насколько хорошо, по их мнению, они справились, только люди оказались способны скорректировать ожидания.
«Предположим, люди сказали нам, что ответят правильно на 18 вопросов, а в итоге ответили правильно на 15. Обычно их оценка впоследствии составляла около 16 правильных ответов », — сказал Трент Кэш, недавно получивший совместную докторскую степень в Университете Карнеги-Меллона на кафедрах науки о социальных решениях и психологии.
«То есть они всё равно были немного самоуверенны, но не настолько».
«Студенты магистратуры права этого не делали», — сказал Кэш, ведущий автор исследования. «Они, скорее, становились более самоуверенными, даже когда не очень хорошо справлялись с заданием». Кэш признал, что мир ИИ стремительно меняется с каждым днем, поэтому делать общие выводы о его применении становится все сложнее.
Однако одним из преимуществ исследования стало то, что данные собирались в течение двух лет, что означало использование постоянно обновляемых версий LLM, таких как ChatGPT, Bard/Gemini, Sonnet и Haiku.
Это означает, что чрезмерная уверенность ИИ в своих действиях обнаруживалась в разных моделях с течением времени. «Когда ИИ говорит что-то подозрительное, пользователи могут быть не столь скептичны, как следовало бы, потому что ИИ дает уверенный ответ, даже если эта уверенность необоснованна», — говорит Дэнни Оппенгеймер, профессор кафедры социальных наук и принятия решений Карнеги-Меллона и соавтор исследования.
«Люди эволюционировали с течением времени и с рождения учились интерпретировать сигналы уверенности, подаваемые другими людьми.
Если я хмурюсь или медлю с ответом, вы можете заметить, что я не всегда уверен в том, что говорю, но с ИИ у нас не так много подсказок о том, понимает ли он, о чём говорит», — сказал Оппенгеймер.
Задаем ИИ правильные вопросы Хотя точность ответов магистров права на вопросы викторины и прогнозирования результатов футбольных матчей относительно невелика, исследование указывает на подводные камни, связанные с интеграцией этих технологий в повседневную жизнь.
Например, недавнее исследование, проведённое BBC, показало, что когда магистрам пр.
СПбГУ представил систему контроля на основе искусственного интеллекта Санкт-Петербургский университет представил мультимодальную систему контроля выполнения регламентов, которая... …
Интернет, Игры 13:35, июня 6, 2024 | cnews.ru
В Татарстане появятся новые решения на основе искусственного интеллекта Технологический партнер госкорпорации «Ростех», компания NtechLab, подписала соглашения с правительством Республики... …
Интернет, Игры 10:10, июня 7, 2024 | cnews.ru
Зачем нужна технология ASUS AI Advisor, созданная на основе искусственного интеллекта? ASUS AI Advisor — это технология на основе искусственного интеллекта, которой могут воспользоваться владельцы материнских плат серии ASUS Z890. Опция …
Интернет, Игры 05:12, октября 13, 2024 | itndaily.ru
«Газпром-Медиа Холдинг» выпустил первый мульткаст на основе искусственного интеллекта Студия нейропродакшена «Газпром-Медиа Холдинга» D.lab совместно с ГПМ Радио разработали и выпустили первый анимированный... …
Интернет, Игры 13:40, мая 28, 2024 | cnews.ruУстройства Amazon Fire TV получают обновлённый поиск на основе искусственного интеллекта Компания Amazon внедрила нововведение для пользователей своих устройств Fire TV — поиск на основе искусственного интеллекта. Теперь владельцы F …
Гаджеты 01:20, июня 2, 2024 | gagadget.comЧат-боты на основе искусственного интеллекта могут сдавать сертифицированные экзамены по этическому хакингу Чат-боты на базе искусственного интеллекта (ИИ) могут пройти экзамен по кибербезопасности, но не стоит полагаться на них для полной защиты. Такой выв …
Software 15:12, июля 17, 2024 | android-robot.comИтоги главной дискуссии AI Journey: решения на основе искусственного интеллекта — основа технологического суверенитета страны На конференции AI Journey Президент РФ Владимир Путин рассказал о своём видении развития главной технологии XXI века и поддержал новых членов Междуна …
Основные новости 05:12, ноября 23, 2025 | susanin.newsЧерновую работу в сфере искусственного интеллекта можно передать на аутсорсинг с помощью новой платформы на основе блокчейна Рабочее место завтрашнего дня будет работать на ошеломляющих объемах данных. Чтобы разобраться во всем этом, предприятиям, разработчикам и отдельным …
Интернет, Игры 20:12, сентября 19, 2024 | android-robot.com
Bitget объединяет усилия с Sumsub для обновления проверки KYC на основе искусственного интеллекта для борьбы с безудержными преступлениями, связанными с дипфейками /div> Bitget, известная биржа криптовалют и игрок индустрии Web3, рада объявить о расширении сотрудничества с Sumsub, поставщиком услуг комплексной п …
Крипто 21:05, июня 5, 2024 | cryptobrokers.ru Европа намерена продолжить войну с Россией даже тогда, когда у неё закончится украинский ресурс Третьей мировой войны из-за Украины не будет, заверяет президент США Дональд Трамп. Отчего-то припомнилось, как британский премьер Невилл Чемберлен, …
Политика 00:12, октября 20, 2025 | versia.ru Медведев об укороченных: «Работают они только тогда, когда идет остальная игра, когда соперник в любой момент ждет и сильного удара тоже» Сегодня россиянин вышел в третий круг после отказа Миомира Кецмановича. – Был поначалу тут в Париже не в своей тарелке, но смог каждый день отрабатыв …
Спорт 16:05, мая 30, 2024 | sports.ru JPMorgan создал чат-бот на основе искусственного ... JPMorgan Chase начал внедрять продукт генеративного искусственного интеллекта, сообщив сотрудникам, что его собственная версия ChatGPT от OpenAI може …
Финансы, Экономика, Forex 20:12, июля 26, 2024 | profinance.ru Китайские приложения искусственного интеллекта ... В последние дни мы стали свидетелями стремительного прогресса китайских компаний в области искусственного интеллекта. Такие компании, как DeepSeek и …
Финансы, Экономика, Forex 10:12, января 28, 2025 | profinance.ru
В Совфеде обсудили регулирование искусственного интеллекта Сенаторы признали: ИИ может вызвать проблемы, если попадет не в те руки. Применение технологии нуждается в серьезной законодательной корректировке. …
Закон и Право 11:50, мая 24, 2024 | pravo.ru Сэм Альтман рассказал о будущем искусственного интеллекта Генеральный директор OpenAI Сэм Альтман поделился своим видением эволюции искусственного интеллекта, сравнив прошлые, текущие и будущие тенденции, чт …
Технологии, Наука 00:12, июня 4, 2025 | itzine.ru
Маск пригрозил Apple из-за искусственного интеллекта Компани предпринимателя и миллиардера из США Илона Маска могут отказаться от устройств Apple. Дело в том, что корпорация ввела технологии искусственн …
Основные новости 04:10, июня 11, 2024 | ura.news
Лукашенко предупредил об опасности искусственного интеллекта К чему приведет развитие искусственного интеллекта в мире неизвестно. Об этом 10 июля заявил президент Белоруссии Александр Лукашенко на открытии XXX …
Технологии 00:12, июля 12, 2025 | eadaily.com AMD представила новые процессоры для искусственного интеллекта AMD представила новые процессоры Ryzen 9000 для ПК и Ryzen AI 300 для ноутбуков. Новые чипы обещают пользователям высокую производительность и поддер …
Технологии, Наука 06:25, июня 4, 2024 | ferra.ru США ограничат экспорт искусственного интеллекта в Китай Комитет по иностранным делам Палаты представителей Конгресса США выступает против возможного использования американских технологий искусственного инт …
Технологии, Наука 09:00, мая 24, 2024 | ferra.ru Spinncloud представляет SpiNNaker2: чип искусственного интеллекта В рамках проекта Human Brain Project, запущенного Манчестерским университетом, компанией Spinncloud был создан ИИ-процессор SpiNNaker (Spiking Neural …
Технологии, Наука 09:05, мая 15, 2024 | hardwareluxx.ru
У искусственного интеллекта обнаружили любимые числа В новом исследовании, проведенном аналитиками компании Gramener, стало ясно, что различные ИИ-модели предпочитают одни и те же числа при выборе случа …
Технологии, Наука 21:10, мая 30, 2024 | astera.ru
Эти 10 новых функций искусственного интеллекта появятся в iOS 18 В iOS 18 и macOS 15 появится множество новых функций искусственного интеллекта, таких как автогенерируемые эмодзи, предлагаемые ответы на электронные …
Технологии, Наука 16:00, мая 28, 2024 | itzine.ru Создание искусственного интеллекта для Кремля закончилось арестами Мало кто знает, что наряду с коммерческими справочно-правовыми системами существует и бесплатная информационно-правовая система «Законодательст …
Бизнес, Промышленность, Энергетика 08:35, июня 2, 2024 | rucriminal.info Apple показала своё видение искусственного интеллекта Помимо анонса новых версий операционных систем Apple включилась в гонку искусственного интеллекта, представив Apple Intelligence. Рассказываем о неко …
Гаджеты 07:25, июня 12, 2024 | 24gadget.ru Герман Греф рассказал о развитии искусственного интеллекта Искусственный интеллект стремительно меняет мир, а скорость и вектор этого движения во многом будут определять технологии. Об этом в Совете Федерации …
Бизнес 03:20, июня 5, 2024 | gazeta.ru
МТС усилила сеть в Якутии с помощью искусственного интеллекта МТС запустила на мобильной сети в большинстве регионах Дальнего Востока функционал распределения частотного... …
Интернет 09:45, мая 28, 2024 | internet.cnews.ru У искусственного интеллекта есть проблемы с уверенностью в себе По данным нового исследования, проведенного учеными из Google DeepMind и Университетского колледжа Лондона, большие языковые модели (LLM) иногда теря …
Интернет, Игры 15:12, июля 31, 2025 | android-robot.com Шри-Ланка изучит связи буддизма и искусственного интеллекта В Шри-Ланке изучат взаимосвязь буддизма с искусственным интеллектом (ИИ), на исследования власти выделят в 2025 году более $3 млн. Об этом заявил пре …
Общество, регионы 15:15, мая 13, 2024 | gazeta.ru
Греф оценил вклад искусственного интеллекта в ВВП России Искусственный интеллект к 2030 году внесет вклад в ВВП России в размере от 4 до 6%, что является беспрецедентным показателем для технологий. Об этом …
Бизнес, Промышленность, Энергетика 11:30, июня 7, 2024 | finam.ru
Телевизоры Samsung получат функции искусственного интеллекта На выставке CES 2025 компания Samsung представила новые линейки телевизоров QD-OLED, Neo QLED, The Frame и The Frame Pro. Одной из главных новинок ст …
Технологии, Наука 20:12, января 19, 2025 | astera.ru Эксперты обсудят влияние искусственного интеллекта на общество 20 ноября в 13:00 Экспертный институт социальных исследований проведёт круглый стол "Искусственный интеллект: общественное благо или вред?" в пресс-ц …
Основные новости 20:12, ноября 19, 2025 | ruposters.ru Представлен процессор Apple M4 — ещё больше искусственного интеллекта и игр С новым процессором производительность планшетов Apple будет сопоставима с новейшими игровыми ноутбуками. …
Технологии, Наука 23:05, мая 7, 2024 | iguides.ru