Как защитить алгоритм машинного обучения от Adversarial-примеров | Технострим

Самые значимые и интересные доклады от наших партнеров - известных отраслевых конференций, теперь доступны на канале “Технострим“. У нас вы найдете 5-10 лучших докладов с прошедших конференций для программистов и разработчиков. Доклады Moscow Python 2018. Как защитить алгоритм машинного обучения от Adversarial-примеров Сергей Дудоров (Digital Security) Специалист по анализу данных, увлечён исследованиями применения алгоритмов машинного обучения в реальных задачах. Возлагая функцию принятия решения на алгоритм машинного обучения, достаточно справедливо задать себе вопрос, насколько тот или иной алгоритм устойчив к атакам, результатом которых будет неправильно принятое решение. В данном докладе будут рассмотрены методы нападения, защиты и тестирования алгоритмов машинного обучения на предмет противодействия Adversarial-примерам с использованием библиотек CleverHans и Adversarial-robustness-toolbox. ___ ТЕХНОСТРИМ - образовательный канал для IT специ