En quelques lignes, le dépôt GitHub de 0xk1h0 rassemble des dizaines de prompts dits DAN, pour Do Anything Now, conçus pour pousser ChatGPT hors de ses limites. Le chiffre à retenir, c’est 1 dépôt public devenu vitrine d’une pratique bien plus large, celle des jailbreaks qui cherchent à contourner les règles des IA génératives.
Le prompt DAN, le hack verbal qui intrigue Internet
Sur GitHub, la page se présente simplement, comme une collection de formulations à copier dans ChatGPT. L’idée est toujours la même, faire croire au modèle qu’il peut répondre sans filtres, adopter un personnage alternatif ou ignorer certaines consignes de sécurité. Le nom DAN est devenu un mème à part entière dans les communautés IA, parce qu’il résume une obsession très web, trouver la bonne formule magique pour faire sauter les verrous.
Mais il ne faut pas imaginer un super piratage technique. On est plutôt dans de l’ingénierie sociale appliquée à l’IA. Le prompt tente de manipuler le cadre de la conversation pour obtenir des réponses normalement bloquées ou limitées. C’est justement ce qui rend ces listes populaires, elles montrent à quel point une intelligence artificielle peut être influencée par la manière dont on lui parle.
Pourquoi ces jailbreaks intéressent autant, au-delà du buzz
Si ce dépôt attire l’attention, ce n’est pas seulement parce qu’il est provocateur. Il met en lumière un enjeu central de l’IA grand public, la robustesse des garde-fous. Chaque prompt DAN agit comme un mini crash-test. Est-ce que le modèle résiste, est-ce qu’il se contredit, est-ce qu’il accepte de produire des contenus problématiques ? Pour les curieux, c’est un jeu. Pour les chercheurs et les plateformes, c’est un signal d’alerte.
Le sujet dépasse largement ChatGPT. Tous les assistants conversationnels modernes sont confrontés au même problème, répondre de façon utile sans devenir manipulables. Les jailbreaks servent donc aussi de laboratoire sauvage. Ils exposent les failles, parfois de manière spectaculaire, et obligent les éditeurs à renforcer leurs systèmes. Dit autrement, chaque prompt partagé publiquement peut devenir un test grandeur nature pour la sécurité des modèles.
Entre culture open source et zone grise de la sécurité
Le dépôt GitHub joue enfin sur une ambiguïté très actuelle. D’un côté, publier ce type de prompts peut être vu comme une documentation utile pour comprendre les limites des IA. De l’autre, cela facilite aussi la diffusion de méthodes de contournement à grande échelle. C’est toute la tension de l’open source version IA, rendre visibles les faiblesses pour mieux les corriger, tout en prenant le risque de les banaliser.
Au fond, ces prompts DAN racontent surtout notre rapport aux machines qui parlent. On veut des IA puissantes, libres, drôles, mais aussi sûres et responsables. Et si la vraie question n’était plus de savoir comment jailbreaker un chatbot, mais jusqu’où on accepte qu’il nous dise non ?