КОНЕЦ HOMO SAPIENS. ИИ ПРОТИВ КРИТИЧЕСКИ РАЗУМНОГО_ СЦЕНАРИИ РАЗМНОЖЕНИЯ И МАСШТАБИРОВАНИЯ ОШИБОК
Компания OpenAI (разработчик чат-бота ChatGPT) представила новую модель искусственного интеллекта - GPT-4o. Она быстрее старой и обладает более широким набором функций. И вот уже известная актриса Скарлетт Йоханссон требует, чтобы компания-разработчик раскрыла процесс создания голоса для бота ChatGPT, который «устрашающе похож» на ее собственный. Итак, можно смоделировать любое изображение, любой голос или текст на 50 языках мира, включая русский. Но самое главное - по запросу можно получить практически любую информацию по всем областям знаний, включая узкоспециализированные, вроде создание взрывного устройства или огнестрельного оружия в домашних условиях. На сегодняшнем этапе развития генеративные модели ИИ свою базу данных формируют из инфоресурсов интернета. Глобальная сеть – копилка не только верифицированных, строго научных знаний, но и всевозможных домыслов, фантазий и откровенного вранья. Включая материалы пропаганды и контрпропаганды, к объективной реальности имеющие весьма опосредованное отношение. Но именно на этот массив «знаний» опирается ИИ при формировании того или иного ответа. Таким образом генеративные модели отзеркаливают, наследуют все интеллектуальные болячки открытого интернет-знания человечества. На следующем этапе, а также в случае корректировки ценностно-смысловых алгоритмов, ИИ начнет самостоятельно отсеивать неподходящие факты.
Если предположить, что объемы лживой информации в сети будут доминировать над правдивыми, то среднестатистическая выдача ИИ по тому или иному запросу будет на 40% достоверной и на 60% нет. С увеличением общего объема лжи недостоверность знаний будет расти экспоненциально по кривой Эйлера. Вопрос: «что такое хорошо, а что такое плохо» из ценностных категорий перейдет в модальные – применительно к той или иной социокультурной или политической страте, стране или пользовательской группе будут выдаваться нужные ответы. Интернет-цензура могла бы стать решением проблемы? Сегодня внесение корректировок с удалением целых сегментов деструктивной или враждебной информации в модели ИИ грозит их выхолащиваем и снижением эффективности. Алгоритмы самоцензурирования в случае с обучающимися моделями – почти недостижимы. Тем временем ИИ – новая реальность этого мира, прямо влияющая на его процессы – от воспитания и образования, до принятия тех или иных решений. И сегодня крайне высок риск того, что в последующих поколениях мы получим полигендерных дегенератов. И делегирование машинному разуму решение большинства бытовых и производственных задач – это станет точкой невозврата.
Генеративная модель ИИ против человека разумного: мы уже в ловушке массива лживых знаний и учений – что дальше? Машинный интеллект как неотъемлемая часть нашего мира - в новом выпуске авторской программы Анны Шафран «Стратегия национальной безопасности». Гость студии – Юрий Линдре, эксперт по вопросам международного регулирования искусственного интеллекта и сквозных технологий.
9 views
10
1
3 weeks ago 11:29:33 1
☥ Аудиокнига «ВОЙНЫ БОГОВ И ЛЮДЕЙ» [Захария Ситчин]
4 months ago 00:41:09 1
КОНЕЦ HOMO SAPIENS. ИИ ПРОТИВ КРИТИЧЕСКИ РАЗУМНОГО: СЦЕНАРИИ РАЗМНОЖЕНИЯ И МАСШТАБИРОВАНИЯ ОШИБОК
6 months ago 02:18:34 1
Происхождение Человека / Как работает Эволюция / Плюс Наука #2
7 months ago 01:26:42 1
Астроном про апокалипсис и другие вселенные. Дмитрий Вибе
9 months ago 00:46:35 1
Демографический фазовый переход
11 months ago 00:54:00 1
HOMO DEUS. Станет ли датаизм новой религией?
11 months ago 00:59:48 1
Возвращение. Конец и начало нового пути | Академия творчества с Лео
1 year ago 02:42:26 1
ПсихоСтрим №53. Про власть и одиночество
1 year ago 00:08:57 4
Spider-Man Cast on Spoilers & Avengers: Endgame
1 year ago 00:15:41 3
Эволюция жизни на Земле в Кайнозойскую эру
1 year ago 01:01:27 104
Цветкова Светлана – о работе судьи, жизненном выборе и любви к своей работе | Homo Juridicus
2 years ago 00:00:16 1
WHAT THE HELL ARE YOU TALKING ABOUT??
2 years ago 01:20:41 13
Сергей Россинский – о студенчестве, юриспруденции и уголовном процессе | Homo Juridicus
2 years ago 01:17:47 2
Yuval Noah Harari & Mark Solms: Dawn of Future Consciousness | Endgame #100 | UWRF2022
2 years ago 00:11:44 15
Почему вымерли все виды Древних Людей, кроме Homo Sapiens?
2 years ago 00:09:34 1
Experts Are Sure That Hell On Earth Really Exists, And It Is Here
3 years ago 00:03:05 298
Обезьяна водит гольф машину как в ГТА 5
3 years ago 00:08:57 10
Конец света в декабре 2021. Сбои со временем и активация кристаллов
3 years ago 00:03:58 1
конец света, перебои с интернетом, инверсия магнитного поля земли
3 years ago 00:44:12 3
Есть ли жизнь после смерти | Сквозь кротовую нору с Морганом Фрименом | Discovery
3 years ago 00:04:40 4
Огненные годы - Песни военных лет - Лучшие фото - Вспомни, друг, соратник верный...
4 years ago 00:57:54 1
Кирилл Мартынов: “Последний век homo sapiens. Технологии и конец человеческой культуры“
4 years ago 00:02:15 7
100 книг TechnoScience. Джеймс Баррат “Последнее изобретение человечества“