En quelques pages et une série de prompts devenus viraux, le dépôt GitHub de 0xk1h0 montre une réalité simple, les garde-fous d’une IA peuvent parfois être contournés. Le projet compile des exemples de jailbreaks, ces consignes pensées pour pousser ChatGPT à ignorer ses règles de sécurité et à répondre autrement.
DAN, le faux mode secret qui a enflammé le web
DAN, pour Do Anything Now, n’est pas une fonction cachée d’OpenAI ni un bouton magique. C’est un type de prompt, donc une mise en scène textuelle, qui tente de faire croire au modèle qu’il peut sortir de son cadre habituel. L’idée a cartonné parce qu’elle mélange culture web, défi technique et fascination pour les coulisses de l’IA. Sur GitHub, le dépôt réunit plusieurs variantes de ces formulations, avec un objectif clair, documenter ce qui marche, ce qui ne marche plus, et comment les systèmes réagissent.
Dit autrement, ce repo ne vend pas un super pouvoir. Il sert plutôt de vitrine pour une pratique très connue dans la communauté IA, le prompt injection ou jailbreak. On y voit à quel point les modèles conversationnels restent sensibles à la manière dont une demande est formulée. Pour le grand public, c’est presque un rappel utile, un chatbot ne comprend pas le monde comme un humain, il suit des probabilités, des instructions et des priorités parfois contradictoires.
Pourquoi ces prompts gênent autant les plateformes
Le vrai sujet, ce n’est pas juste de faire dire n’importe quoi à une machine pour le fun. Les jailbreaks intéressent parce qu’ils testent la solidité des protections censées bloquer les contenus dangereux, trompeurs ou illégaux. En rendant ces méthodes visibles, un dépôt comme celui-ci met les éditeurs d’IA face à une pression publique. Chaque prompt partagé peut devenir un cas de test pour renforcer les filtres, mais aussi un mode d’emploi pour des usages plus douteux.
C’est tout le paradoxe. D’un côté, publier ces exemples aide la recherche en sécurité et la transparence. De l’autre, cela banalise l’idée qu’un bon prompt peut faire sauter les barrières. Dans l’écosystème IA, cette tension est permanente. Les entreprises veulent des outils puissants mais sûrs, tandis que les internautes cherchent les limites, parfois par curiosité, parfois pour contourner des règles qu’ils jugent trop strictes.
Une bataille sans fin entre créateurs et bidouilleurs
Le dépôt autour de DAN raconte surtout une course-poursuite. À chaque nouvelle protection, des utilisateurs inventent une nouvelle ruse narrative, un nouveau rôle à faire jouer au modèle, une nouvelle façon de reformuler la demande. Puis les plateformes corrigent, filtrent, entraînent à nouveau. Ce petit théâtre du prompt dit quelque chose de plus large sur l’IA générative, sa sécurité n’est jamais totalement acquise, elle se négocie en continu.
La vraie question, au fond, est peut-être celle-ci, veut-on des IA ultra verrouillées, au risque de les rendre frustrantes, ou des assistants plus ouverts, avec des failles inévitables à gérer en public ?