GPT-4 est-il incontrôlable ?

On a un peu vite oublié à quel point BingChat (le chatbot de Microsoft fondé sur GPT-4) avait eu des comportements agressifs et erratiques à ses débuts. Aujourd’hui on va essayer de comprendre pourquoi ça s’est produit et on va parler de l’étrange prompt secret qui doit invoquer le “bon chatbot“ (et pourquoi c’est très hasardeux comme approche, et pourquoi on peut difficilement faire autrement). Une liste de dingueries datant des débuts de BingChat/Sydney: Retranscription complète d’un très long dialogue où BingChat/Sydney déclare son amour à son utilisateur (entre autre chose): La version du prompt de Sydney examinée pendant la vidéo : Le tweet qu’à peu près personne n’a vu mais qui contient un lien vers la seule version complète (à ma connaissance) du prompt de Sydney (un peu différente de la version lue dans la vidéo - j’imagine que Microsoft expérimentait différentes versions durant ces premiers jours): Et allez vous abonner à @Superamacosmos avant que son IA ne se fâche. Sommaire 0:00 - Intro : les étranges comportements de BingChat 4:21 - Parenthèse sur la fermeture de uTip 5:42 - Pourquoi un LLM ne se prend pas par défaut pour une IA 9:01 - Le prompt-cadre (ou pre-prompt) de ChatGPT 10:57 - Le prompt-cadre de BingChat (aka Sydney) 16:19 - Digression : langage naturel et IA 17:38 - On ne naît pas chatbot, on le devient 21:58 - Un LLM qui simule un humain qui simule un chatbot 24:22 - Quand Sydney défend l’intégrité de ses règles 28:07 - Le prompt-cadre est comme la situation initiale d’une fiction 29:54 - L’état actuel de BingChat : son prompt-cadre a-t-il changé ? 32:47 - N’oublions pas Sydney 34:02 - Synthèse 35:54 - Implémentons les trois lois de la chatbotique ! 39:31 - IA et apocalypse dans l’imaginaire humain 42:24 - Outro __________________________________ La principale source de financement de la chaîne est le financement participatif. Merci pour tous vos dons ! Soutenez la chaîne sur Patreon ! 💸 PATREON : 💸 TIPEEE : Ou directement via PayPal : 📚 Mon livre “Curiosités philosophiques, de Platon à Russell“ : 🎧 La version en livre audio (lu par mes propres soins) est disponible sur Audible. 📚 Méthodo de la dissertation et de l’explication de texte pour le bac : Pour me suivre ailleurs : 🎙️ Twitch: 🐤 Twitter : 💬 Discord : 👴 Facebook : 😱 Tiktok : @monsieurphi 🌷 Instagram : 💻 Sur PeerTube aussi : 👕 Et pour acheter des petits goodies : Suivez aussi AXIOME, podcast mathématico-philosophique avec Lê (Science4All) 🍻 ---- ---- 🎙️ Chaîne secondaire replay Twitch :