Как обмануть искусственный интеллект? Алексей Зайцев

Чат GPT написал курсовую, искусственный интеллект поставил диагноз и назначил лечение, а программы научились выдавать себя за людей, имитируя их внешность и голос. Пугающая фантастика, которая стала реальностью. Но уязвим ли сам искусственный интеллект? Можно ли заставить его ошибиться или он сам способен виртуозно обманывать разработчиков? Помогает ли такая игра в обман узнать больше о работе нейросетей и заглянуть внутрь их искусственного мозга? Как изучение их ошибок влияет на безопасность моделей – и как их избежать? Алексей Зайцев, старший преподаватель Сколтеха, руководитель лаборатории Центра прикладного искусственного интеллекта, кандидат физико-математических наук. Лауреат премии Правительства Москвы молодым учёным. Занимается исследованиями в области искусственного интеллекта, разработкой новых методов и технологий. Создатель моделей по предсказанию засухи, аварий при бурении, качества крыла самолёта и других, используемых в крупных компаниях. Отдельно исследует надёжность моделей искусственного интеллекта и возможности их безопасного использования.
Back to Top