КОНЕЦ HOMO SAPIENS. ИИ ПРОТИВ КРИТИЧЕСКИ РАЗУМНОГО_ СЦЕНАРИИ РАЗМНОЖЕНИЯ И МАСШТАБИРОВАНИЯ ОШИБОК

Компания OpenAI (разработчик чат-бота ChatGPT) представила новую модель искусственного интеллекта - GPT-4o. Она быстрее старой и обладает более широким набором функций. И вот уже известная актриса Скарлетт Йоханссон требует, чтобы компания-разработчик раскрыла процесс создания голоса для бота ChatGPT, который «устрашающе похож» на ее собственный. Итак, можно смоделировать любое изображение, любой голос или текст на 50 языках мира, включая русский. Но самое главное - по запросу можно получить практически любую информацию по всем областям знаний, включая узкоспециализированные, вроде создание взрывного устройства или огнестрельного оружия в домашних условиях. На сегодняшнем этапе развития генеративные модели ИИ свою базу данных формируют из инфоресурсов интернета. Глобальная сеть – копилка не только верифицированных, строго научных знаний, но и всевозможных домыслов, фантазий и откровенного вранья. Включая материалы пропаганды и контрпропаганды, к объективной реальности имеющие весьма опосредованное отношение. Но именно на этот массив «знаний» опирается ИИ при формировании того или иного ответа. Таким образом генеративные модели отзеркаливают, наследуют все интеллектуальные болячки открытого интернет-знания человечества. На следующем этапе, а также в случае корректировки ценностно-смысловых алгоритмов, ИИ начнет самостоятельно отсеивать неподходящие факты. Если предположить, что объемы лживой информации в сети будут доминировать над правдивыми, то среднестатистическая выдача ИИ по тому или иному запросу будет на 40% достоверной и на 60% нет. С увеличением общего объема лжи недостоверность знаний будет расти экспоненциально по кривой Эйлера. Вопрос: «что такое хорошо, а что такое плохо» из ценностных категорий перейдет в модальные – применительно к той или иной социокультурной или политической страте, стране или пользовательской группе будут выдаваться нужные ответы. Интернет-цензура могла бы стать решением проблемы? Сегодня внесение корректировок с удалением целых сегментов деструктивной или враждебной информации в модели ИИ грозит их выхолащиваем и снижением эффективности. Алгоритмы самоцензурирования в случае с обучающимися моделями – почти недостижимы. Тем временем ИИ – новая реальность этого мира, прямо влияющая на его процессы – от воспитания и образования, до принятия тех или иных решений. И сегодня крайне высок риск того, что в последующих поколениях мы получим полигендерных дегенератов. И делегирование машинному разуму решение большинства бытовых и производственных задач – это станет точкой невозврата. Генеративная модель ИИ против человека разумного: мы уже в ловушке массива лживых знаний и учений – что дальше? Машинный интеллект как неотъемлемая часть нашего мира - в новом выпуске авторской программы Анны Шафран «Стратегия национальной безопасности». Гость студии – Юрий Линдре, эксперт по вопросам международного регулирования искусственного интеллекта и сквозных технологий.