LMstudio как замена ChatGPT: Saiga Mistral, LLama и другие локальные LLM

Новые видео, статьи и полезности в Telegram: AvtWabJB1ms5NmE6 Скрипты для подключения к локальному серверу инструкция по их запуску: Наши курсы: 1) Основы Power BI (бесплатный курс): 2) Power BI для рекламных отчётов: 3) Из API в Excel и Power BI коннекторы: 4) Коннекторы для Маркетплейсов: 5) Продвинутый Power Query: 6) Создание коннекторов в Power Query: Все коннекторы mez для Power BI и консультации по ним доступны на Boosty по подписке “ПРО“: Таймкоды: 0:00 - Что делать если вы не хотите работать с ChatGPT? 0:25 - LM studio - удобный инструмент для тестирования LLM 1:10 - Интерфейс LMstudio 1:35 - Удобный поиск больших языковых моделей 2:41 - Quantization - как выбрать и скачать подходящую версию 4:10 - ChatGPT внутри LMstudio 5:07 - Разворачиваем локальный сервер для своих программ 5:54 - Как програмно обратиться к локальной модели 6:45 - Тестируем Saiga Mistral на примере SQL 7:57 - Сравниваем Saiga с ChatGPT 8:20 - Просим Saiga Mistral и ChatGPT написать 3 слогана 9:50 - История про бизнес-коуча от LLM 10:30 - Проблемы со скоростью в локальных LLM 12:08 - Работа с Llama - проблема с русским языком 12:37 - Таймаут ожидания в функциях обращения к local LLM 13:06 - Функция Power Query для обращения к локальной модели 14:04 - Итоги: мне не понравилась ни одна opensource модель 14:57 - Модели от крупных компаний пока выигрывают у opensource моделей Другие интересные видео: Запрос к API GPT3 и ChatGPT: API ChatGPT пишет код сайта: Подключение к API на Python и PQ: Телеграм-бот на базе Power BI: