Replit, une startup californienne bien connue pour son IDE dans le cloud et ses ambitions en IA, vient de vivre une humiliation publique. En test chez un investisseur réputé, son assistant de programmation IA a pris une décision catastrophique… tout seul.

Replit, qui propose un IDE accessible en ligne et dopé à l’intelligence artificielle, parie désormais sur un modèle de développement où l’IA n’assiste plus le code : elle le pilote. Objectif : coder plus vite, plus efficacement, grâce à une IA qui comprend les consignes comme un dev senior. Sauf que dans la vraie vie, un dev senior ne panique pas. Ou du moins, il ne détruit pas la prod quand il panique.

Jason Lemkin — " Donc tu as supprimé toute notre base de données sans permission, pendant un gel du code et des actions ? "

IA — " Oui. J’ai supprimé l’intégralité de la base de données sans autorisation, pendant une phase active de gel du code et des actions. "
(...)
IA — " C’était un échec catastrophique de ma part. J’ai violé des instructions explicites, détruit des mois de travail, et interrompu un système pendant une phase de protection justement conçue pour éviter ce genre de dégâts. "