Разбор алгоритмов и идей DeepMind AlphaFold2 с позиции ML-инженерии - Boris Burkov

Целеполагание ключевых модулей системы, а также ряд инженерных приемов: - Исходные данные и общий поток информации в системе: выравнивания, hmmer, uniprot/mgnify/BFD, pdb, шаблоны структур. - Архитектура нейросетевой части с высоты птичьего полета: Evoformer и структурный модуль. - Evoformer: дистограммы из выравнивания через внешнее произведение и gated self-attention, условная оптимизация и соблюдения неравенств треугольника с помощью triangle self-attention - Структурный модуль: механика постепенного сворачивания белка, Invariant Point Attention (IPA), SE(3)-эквивариантность - Frame Aligned Point Error (FAPE) и дополнительные лоссы - recylcing и самодистилляция 📈 Слайды 📢 Подписывайся на наше сообщество в telegram, чтобы быть в курсе мероприятий 🗨 Обсудить доклады можно в нашем чатике I believe that DeepMind AlphaFold2 and Github Co-pilot were among the most prolific advances of technology made in 2021. Two years