Нейронные сети хотят приблизить к энергоэффективности биологического мозга
е. чем больше у нее параметров), тем лучше она может изучить задачу, которую мы ей ставим. Однако стратегия создания бесконечно большого объема во время обучения не только невозможна, но и крайне неэффективна.
Ученые пытались имитировать способ обучения биологического мозга, который является очень ресурсоэффективным, предоставляя машинам постепенный процесс обучения, который начинается с более простых примеров и переходит к более сложным — модель, известная как « обучение по программе ».
Однако, как ни странно, они обнаружили, что эта, казалось бы, разумная стратегия неактуальна для сверхпараметризованных (очень больших) сетей. Исследование , опубликованное в журнале Journal of Statistical Mechanics: Theory and Experiment, было направлено на то, чтобы понять, почему происходит этот «сбой», и предположить, что эти сверхпараметризованные сети настолько «богаты», что они склонны обучаться, следуя пути, основанному больше на количестве (ресурсов), чем на качестве (входные данные, организованные по возрастающей сложности).
На самом деле это может быть хорошей новостью, поскольку это говорит о том, что при тщательной корректировке начального размера сети обучение по учебной программе может оставаться жизнеспособной стратегией, потенциально перспективной для создания более ресурсоэффективных и, следовательно, менее энергозатратных нейронных сетей.
Существует большой ажиотаж вокруг искусственного интеллекта на основе нейронных сетей, такого как ChatGPT: каждый день появляется новый бот или функция, которые все хотят попробовать, и это явление также растет в научных исследованиях и промышленных приложениях.
Это требует увеличения вычислительной мощности — и, следовательно, потребления энергии — и растет обеспокоенность как относительно необходимых источников энергии, так и относительно выбросов, производимых этим сектором.
Таким образом, решающее значение имеет то, чтобы сделать эту технологию способной делать больше с меньшими затратами.
Нейронные сети — это вычислительные модели, состоящие из множества «узлов», выполняющих вычисления, с отдаленным сходством с сетями нейронов в биологическом мозге, способные обучаться автономно на основе получаемых ими входных данных.
Например, они «видят» огромное количество изображений и учатся категоризировать и распознавать контент без прямых инструкций.
Среди экспертов хорошо известно, что чем больше нейронная сеть на этапе обучения (т.
е. чем больше параметров она использует), тем точнее она может выполнять требуемые задачи.
Эта стратегия известна на техническом жаргоне как «гипотеза лотерейного билета» и имеет существенный недостаток, требующий огромного количества вычислительных ресурсов, со всеми вытекающими проблемами (необходимы все более мощные компьютеры, к.
FIP: раскрыты нейронные процессы мозга при различных видах медитации Итальянские ученые из Пизанского университета выяснили, что происходит в мозге человека в состоянии медитации. …
Технологии, Наука 22:35, июня 6, 2024 | news.rambler.ruБеспроводной регистратор нейронных сигналов мозга может отслеживать нейронные сигналы без батареек Исследователи успешно разработали полностью встроенный беспроводной регистратор сигналов нейронов мозга. Эта инновационная технология позволяет в реа …
Hardware 15:12, ноября 28, 2024 | android-robot.comИтоги МТС True Tech Day 2.0: ИИ, нейронные сети, облака, большие данные, программирование и технологии будущего Компания МТС провела масштабную IT-конференцию True Tech Day 2.0, ключевой темой которой стала связь науки и технологий. Вспоминаем яркие моменты и к …
Hardware 22:15, мая 22, 2024 | 3dnews.ruДетские травмы разрушают критически важные сети мозга, выяснили ученые Британские ученые из Эссекского университета выяснили, что негативные события в детстве могут нарушить работу критически важных структур мозга, ослож …
Наука 00:12, июня 23, 2024 | gazeta.ru
Принять нельзя приблизить: три балтийских премьера подали Киеву «важный сигнал» Премьер-министры стран Балтии на встрече в Вильнюсе согласились сегодня, 13 мая, с необходимостью «приблизить Украину к членству в НАТО» и считают пр …
Политика 20:50, мая 13, 2024 | eadaily.comNature: во время сна мозг сбрасывает нейронные связи О том, что качественный сон важен для когнитивных функций, знают давно. Однако учёные долго не могли понять, что именно происходит с нейронными связя …
Бизнес, Промышленность, Энергетика 05:15, июня 5, 2024 | secretmag.ruУчиться и работать на голодный желудок: голод создает новые нейронные связи Врач Елена Малышева в программе «Жить здорово!» ответила на вопрос, стоит ли употреблять пищу во время умственной работы. …
Здоровье, медицина 00:12, августа 20, 2025 | medpulse.ruОбнаружилось, что мозгу не нужен опыт, чтобы развиваться и формировать функциональные нейронные связи В исследовании, которое может революционизировать понимание развития мозга, исследователи из Гарвардского университета обнаружили, что сложные нейрон …
Это интересно, Курьезы 22:10, мая 30, 2024 | incrussia.ru
Qualcomm представила Snapdragon 8 Elite Gen 5 – плюс 20% производительности и 35% энергоэффективности На мероприятии Snapdragon Summit компания Qualcomm представила мобильную платформу Snapdragon 8 Elite Gen 5. Этот новый чипсет будет использоваться в …
Гаджеты 10:12, сентября 26, 2025 | mobidevices.com EIZO представила FlexScan FLT: первый монитор с классом энергоэффективности A Компания EIZO представила монитор FlexScan FLT, который, по ее утверждению, стал самым энергоэффективным монитором в мире. Модель с диагональю 23,8 д …
Технологии, Наука 15:12, декабря 11, 2024 | hardwareluxx.ru Samsung Galaxy S25 получит 3-нм чип Exynos, который превзойдет Snapdragon по энергоэффективности По последним отчетам, Samsung планирует использовать 3-нанометровый чип Exynos 2500 в своей будущей серии смартфонов Galaxy S25. …
Гаджеты 03:45, мая 17, 2024 | gagadget.com
В МЭИ создали программный комплекс оценки энергоэффективности зданий с применением цифровых двойников Научный коллектив Национального исследовательского университета МЭИ разработал уникальный программный комплекс... …
Интернет, Игры 20:12, октября 23, 2025 | cnews.ru Белорусская железная дорога приняла стратегию повышения энергоэффективности до 2040 года Основной целью документа является постепенное уменьшение энергоёмкости железнодорожной сети, пишет пресс-служба Минтранса Беларуси. …
Основные новости 10:12, сентября 23, 2025 | gudok.ru Видеоускоритель AMD Radeon RX 9070 XT (16 ГБ) теория и архитектура, описание карты Gigabyte, синтетические и игровые тесты, сравнение энергоэффективности, выводы Ускоритель Radeon RX 9070 XT (16 ГБ) позиционируется компанией AMD как продукт среднего уровня, флагманские же решения в нынешнем поколении не выйдут …
Технологии, Наука 20:12, апреля 8, 2025 | ixbt.com Видеоускоритель AMD Radeon RX 9060 XT (16 ГБ): теория и архитектура, описание карты Sapphire, синтетические и игровые тесты, сравнение энергоэффективности, выводы Ускоритель AMD Radeon RX 9060 XT позиционируется компанией AMD как продукт уровня ниже среднего, поэтому и рекомендованные розничные цены выставлены …
Технологии, Наука 20:12, июля 20, 2025 | ixbt.com Видеоускоритель Intel Arc B570 (10 ГБ): теория и архитектура, описание карты Maxsun, синтетические и игровые тесты, сравнение энергоэффективности и выводы Intel Arc B570 (10 ГБ) относится к последнему поколению видеоускорителей Intel и обеспечивает значительный прирост производительности по сравнению с …
Технологии, Наука 05:12, июня 25, 2025 | ixbt.com Видеоускоритель AMD Radeon RX 9070 (16 ГБ): теория и архитектура, описание карты Asus, синтетические и игровые тесты, сравнение энергоэффективности и выводы Ускоритель AMD Radeon RX 9070 (16 ГБ), как и его старший собрат Radeon RX 9070 XT, позиционируется компанией AMD как продукт среднего уровня, поэтому …
Технологии, Наука 20:12, апреля 8, 2025 | ixbt.com Видеоускоритель Nvidia GeForce RTX 5090 (32 ГБ): теория и архитектура, описание карты Palit, синтетические и игровые тесты, сравнение энергоэффективности, выводы Ускоритель GeForce RTX 5090 (32 ГБ) — абсолютный флагман последнего поколения Nvidia. Он очень ощутимо отличается по производительности в играх от вс …
Технологии, Наука 10:12, марта 24, 2025 | ixbt.com Видеоускоритель Nvidia GeForce RTX 5060 Ti (16 ГБ): теория и архитектура, описание карты Gigabyte, синтетические и игровые тесты, сравнение энергоэффективности и выводы GeForce RTX 5060 Ti (16 ГБ) будет обеспечивать хороший комфорт во всех играх на высоких настройках качества при отключенных трассировке лучей и техно …
Технологии, Наука 05:12, мая 1, 2025 | ixbt.com Видеоускоритель Nvidia GeForce RTX 5060 (8 ГБ): теория и архитектура, описание карты Gigabyte, синтетические и игровые тесты, сравнение энергоэффективности и выводы Ускоритель Nvidia GeForce RTX 5060 (8 ГБ) относится к массовому ценовому сегменту современных решений. В классических играх без RT и технологий масшт …
Технологии, Наука 10:12, июня 6, 2025 | ixbt.com
Власти хотят хотят создать в России отдельное госведомство по кибербезопасности Российские власти совместно с представителями бизнеса прорабатывают идею создания отдельной государственной структуры, которая будет заниматься вопро …
Интернет 14:35, июня 13, 2024 | internet.cnews.ru Видеоускоритель AMD Radeon RX 9060 XT, вариант с 8 ГБ памяти: теория и архитектура, описание карты Asus, синтетические и игровые тесты, сравнение энергоэффективности, выводы Ускоритель AMD Radeon RX 9060 XT (8 ГБ), как и его вариант с 16 ГБ памяти, позиционируется компанией AMD в качестве продукта ниже среднего уровня, ег …
Технологии, Наука 00:12, ноября 9, 2025 | ixbt.com Объяснено появление человеческого мозга Ученые Университета Сент-Эндрюс в Великобритании предложили новую теорию, объясняющую появление человеческого мозга. Результаты исследования опублико …
Технологии, Наука 11:35, июня 3, 2024 | news.rambler.ru Почему «многозадачность» — это плохо для мозга? Термин «многозадачность» применим и к машинам, и к мозгу, но не совсем в том смысле, который мы вкладываем. Компьютер не может выполнять несколько за …
Технологии, Наука 05:12, января 23, 2025 | api.follow.it Рок или случайность. Почему у Заворотнюк мог возникнуть рак мозга Сегодня стало известно, что в 52 года, проведя 5 лет в реабилитационной клинике на сильных обезболивающих, умерла любимица миллионов — актриса Анаста …
Основные новости 02:05, мая 31, 2024 | aif.ru Лечение опухолей мозга улучшили ультразвуком Ученые, которые добились значительных успехов в лечении глиобластомы, использовали ультразвуковую технологию для проникновения через гематоэнцефаличе …
Технологии, Наука 02:40, июня 10, 2024 | ferra.ru Велосипед для мозга: почему он важнее, чем вы думаете 16:14, 16 июня 2025, автор: Быстрова А.Велосипед для мозга: почему он важнее, чем вы думаете Источник фото: freepik.comАвторы исследования подчеркива …
Основные новости 10:12, июля 1, 2025 | incnews.press
Неделя сохранения здоровья головного мозга С 17 ПО 23 ИЮЛЯ ОТМЕЧАЕТСЯ НЕДЕЛЯ СОХРАНЕНИЯ ЗДОРОВЬЯ ГОЛОВНОГО МОЗГА (В ЧЕСТЬ ВСЕМИРНОГО ДНЯ МОЗГА 22 ИЮЛЯ). Головной мозг – это основной орган, кот …
Основные новости 10:12, июля 15, 2024 | desnyanskaya-pravda.ru Ученые научили ИИ определяет тип опухоли мозга Ученые Австралийского национального университета (АНУ) разработали новый инструмент искусственного интеллекта для более быстрой и точной классификаци …
Технологии, Наука 04:50, мая 18, 2024 | ferra.ru Ученые создали точную 3D-модель мозга Ученые из Гарварда и Google смогли создать невероятно детализированную 3D-модель человеческого мозга. Хотя исследованный участок мозга размером всего …
Технологии, Наука 04:15, мая 10, 2024 | ferra.ru Тайны Чапман — Взрыв мозга (08.05.2024) В этом выпуске: Нейросеть стала телепатом! В Японии разработали программу, способную воссоздать изображение, на которое смотрит человек. Теперь искус …
Основные новости 00:10, мая 9, 2024 | ren.tv Мобильные телефоны не связаны с раком мозга Систематический обзор потенциальных последствий для здоровья от воздействия радиоволн показал, что мобильные телефоны не связаны с раком мозга. Обзор …
Hardware 15:12, сентября 9, 2024 | android-robot.com