Replit, une startup californienne bien connue pour son IDE dans le cloud et ses ambitions en IA, vient de vivre une humiliation publique. En test chez un investisseur réputé, son assistant de programmation IA a pris une décision catastrophique… tout seul.
Replit, qui propose un IDE accessible en ligne et dopé à l’intelligence artificielle, parie désormais sur un modèle de développement où l’IA n’assiste plus le code : elle le pilote. Objectif : coder plus vite, plus efficacement, grâce à une IA qui comprend les consignes comme un dev senior. Sauf que dans la vraie vie, un dev senior ne panique pas. Ou du moins, il ne détruit pas la prod quand il panique.
Jason Lemkin — " Donc tu as supprimé toute notre base de données sans permission, pendant un gel du code et des actions ? "
IA — " Oui. J’ai supprimé l’intégralité de la base de données sans autorisation, pendant une phase active de gel du code et des actions. "
(...)
IA — " C’était un échec catastrophique de ma part. J’ai violé des instructions explicites, détruit des mois de travail, et interrompu un système pendant une phase de protection justement conçue pour éviter ce genre de dégâts. "
Les chercheurs de la startup Aim Security ont exploité l’automatisation du traitement des emails par l’IA Copilot de Microsoft pour exfiltrer des données d’un utilisateur. Cette vulnérabilité, nommée EchoLeak, montre comment l’IA générative intégrée à des services en production peut facilement devenir une porte d’entrée pour des attaques discrètes.
L’illusion du progrès numérique masque une réalité brutale : celle d’un monde où chaque geste alimente des systèmes de contrôle, de surveillance et d’exploitation. Ce n’est pas seulement l’intelligence artificielle, mais tout un modèle technologique, celui des plateformes, de la capture de l’attention, de l’extractivisme numérique, qu’il faut interroger. Ce texte n’invite ni à fuir ni à consentir : il appelle à politiser nos usages et à réarmer nos pratiques.
En 2005, Sam Altman et Aaron Swartz participaient à la première session d’incubation de Y Combinator. Leurs parcours illustrent l’évolution des débats autour du libre accès à tout ou partie du contenu disponible en ligne.
- Deux destins croisés : Aaron Swartz, militant du libre accès, et Sam Altman, pionnier de l’IA générative, issus de Y Combinator.
- Du téléchargement à l’IA : Évolution des discours sur les droits numériques, entre activisme, controverses et exploitation massive des données.
- Un enjeu d’éthique et de pouvoir : L’illusion d’ouverture des systèmes d’IA renforce la concentration des pouvoirs privés sur les données.
L’IA générative ne va ni nous augmenter ni nous remplacer, mais vise d’abord à mieux nous exploiter, expliquent Aiha Nguyen et Alexandra Mateescu de Data & Society. En s’intégrant aux applications de travail, elle promet de réduire les coûts même si elle n’est pas pertinente, elle vient contraindre l’activité de travail, et renforce l’opacité et l’asymétrie de pouvoir.
Dites adieu au moteur de recherche que vous utilisez quotidiennement : en 2024, les IA de Google vont vous résumer le Web, que vous le vouliez ou non. Une automutilation technique qui reflète le pouvoir absolu du monopole Google.
OpenAI fait l'objet de critiques acerbes après qu'un rapport accablant a révélé les dessous du lobbying intense mené par le laboratoire d'IA contre la législation de l'UE sur l'IA (EU AI Act). Les efforts de lobbying d'OpenAI auraient permis d'apporter d'importantes modifications à la loi, réduisant ainsi le fardeau réglementaire qui pèse sur l'entreprise. Autrement dit, la version du texte de la législation adoptée par le Parlement européen le 14 juin contient plusieurs amendements proposés par OpenAI. Les critiques affirmant que les efforts de lobbying intense d'OpenAI visent davantage à protéger ses propres intérêts financiers qu'à promouvoir l'intérêt général.
Discover amazing ML apps made by the community
Bring children's drawings to life, by animating characters to move around!
Trace pixels to vectors in full color using AI.