Необычные свойства функции потерь в глубинном обучении. Дмитрий Ветров, НИУ ВШЭ
За последние несколько лет в нейронных сетях обнаружен ряд необычных эффектов. Среди них можно упомянуть связность глобальных минимумов, двойной спуск, разрыв между теоретическими предсказаниями и практическими результатами, т.н. «минные поля» в пространстве весов.
На вебинаре Дмитрий Ветров, один из самых заметных российских ученых в области машинного обучения, подробнее рассмотрел эти эффекты и представил гипотезу, которая может, по крайней мере, частично объяснить, что происходит в процессе обучения нейронной сети и какими свойствами обладает оптимизируемая в ходе него функция потерь. Основываясь на этой гипотезе Дмитрий предложил ряд экспериментов, которые могут дать ее косвенные подтверждения и расскажет о предварительных результатах. Лучшее понимание динамики обучения нейросети может привести к созданию более эффективных методов обучения. В докладе указаны возможные пути для их улучшения.
Спикер: Дмитрий Ветров, НИУ ВШЭ, Москва, Россия.
---
Чтобы не пропустить анонсы следующих научно-технических веб
49 views
18
9
1 month ago 00:02:19 1
Видео от Фонд «Каждый Особенный»
1 month ago 00:01:12 1
Видео от Особенные таланты Уфы
1 month ago 00:13:39 4
Просто очередная покатушка. Ничего особенного.
1 month ago 00:19:42 48
Особенности проблем проституток при обслуживании депутатов
1 month ago 00:00:25 32
Видео от Детский сад «Полянка Плюс» для особенных детей.
1 month ago 00:07:08 739
Видео от OLIVIA l Кунгур. Одежда для особенной тебя!
1 month ago 00:01:32 822
Особенная курянка готовится выступить на XXIII молодёжных Дельфийских играх
1 month ago 00:00:16 89
💜💜💜
🌺Обладает особенной красотой и очарованием😍
Взгляд ее глаз словно отражает разум, а действия и выражение мордочки – спокойс
1 month ago 00:07:13 1
Ты особенный
1 month ago 00:05:07 313
Особенности Project Eva. Это новая Lineage 2?
1 month ago 00:02:54 186
Почему Элвис Пресли не носил трусы, и другие особенности моды 1960-х
1 month ago 00:12:10 2
Особенности замены искусственного хрусталика глаза.
1 month ago 00:00:10 1
Уникальные вещи - это что-то особенное.
1 month ago 00:00:46 1
Виктор Полетаев: Путь к Успеху в Кузбассе и Технические Особенности Игры
1 month ago 00:02:37 86
Молочные муфты Titan Lock: компоненты молочных муфт и их особенности
1 month ago 00:02:36 1
Особенности организации обеспечения безопасности детей в сфере дорожного движения
1 month ago 00:01:56 87
🌈Арт- терапия. «Твой Особенный Мир».
1 month ago 00:00:57 1.3K
«Особенности национального беттинга». Тизер
1 month ago 00:27:31 729
Особенная любовь двух братьев и сестры [порно, секс, русское, инцест, групповое, оргия, домашнее]
1 month ago 00:09:05 1
Особенный русский народ
1 month ago 00:13:56 1
Шелковица в Подмосковье. Особенности выращивания.
1 month ago 00:07:56 1
Особенности национальной JRPG - руки на стол! Что такое Японские Ролевый Игры?
1 month ago 00:24:35 1
Особенности бухгалтерского учета в СХ организации
1 month ago 01:21:36 1
Острые стрессовые реакции, особенности проявления, алгоритмы работы