Transatlantic Intelligence

AI · Business · Governance IA · Économie · Gouvernance

Subscribe S'abonner

← All dispatches

Beyond the Chatbot: The Model Reasons, the Tooling Governs Au-delà du chatbot : le modèle raisonne, l’outil gouverne

Suzanne: Earlier this year I was writing about the Department of War, the name this administration has given what most of us grew up calling the Department of Defense, and the chatbot would not have it. It kept correcting me, certain the department was still the DoD and that no such change had happened. It was confident, and it was wrong, because the rename came after it had finished learning. A model knows the world only as of its training, and past that cutoff its sense of things simply stops. Only when I told it to go and check the news did it search, read, and come back with a slightly sheepish “you’re right.” What stayed with me was not that it could not find out. It was that it did not think to. I had to tell it to look.

An earlier piece here, “Beyond the Chatbot: What Is an Agent?”, asked a plain question and landed on a plain answer: an AI you hand a goal to, one that goes off and does the work rather than one you merely talk to. This one is about what sits underneath that answer, and the small scene above is where it starts. You cannot judge what to trust one of these systems with until you know what it is doing when it answers you, and what it will not do unless something makes it.

Thanks for reading Transatlantic Intelligence! Subscribe for free to receive new posts and support my work.

* * *

Start with the machinery. Today’s AI came out of machine learning, which changed the basic method of building software. Instead of a programmer spelling out a rule for every case, the system is shown an enormous quantity of examples and works out the patterns for itself. A large language model, the engine inside every chatbot and most agents, is that approach turned loose on text: it has read a staggering share of what human beings have written, and what it learned, beneath everything else, is how to predict the next word. Give it a passage and it produces the likeliest continuation, one word after another, drawn from all it absorbed. The word worth carrying away is likeliest. The model is not retrieving a fixed answer from a drawer; it is composing a probable one. That is what people mean when they call it probabilistic, and it is why the same question, asked twice, can come back in two different shapes.

* * *

Neither of those limits matters much in a conversation. Both matter enormously the moment the work has to stand up to scrutiny, which describes most of the work done in government. A chatbot answers from memory because nothing tells it to do otherwise; an agent checks the live source first, not because it is a cleverer model, but because checking first is a rule you can build into it. Ask a model to help draft a memo and a little looseness is fine, even welcome. Ask it for something you will have to repeat, defend, or hand to an auditor, and a tool that improvises, or quietly works from a stale picture of the world, becomes a liability. You cannot build a dependable process on it, no more than you would keep the contractor from that earlier piece if he set each wall to a different height depending on his mood.

The answer is not a better-behaved model. It is what you build around the model. A well-made agent does the real work by deterministic means, calling a system’s own interfaces, running code, following a fixed procedure, and going to check live sources when the facts may have moved, rather than narrating a result from memory. The model powers the work; the tooling around it governs the work.

There is a smaller example, at my own expense. I write these pieces under a standing instruction that the drafts carry no em-dashes, a preference of mine that is neither subtle nor hard to follow. Going back through the adoption piece from back in the spring, I counted fifteen of them. The model had not refused me; it had simply drifted back, one sentence at a time, to the way it usually writes. An instruction given in a conversation is a request. A rule that holds is one something else enforces, a check that runs over the draft and catches every one before it reaches me. That is a trivial stake. Move the same gap from punctuation to a figure in a report and it stops being trivial.

* * *

The question I am asked is almost never whether one of these things works. It is what it would even be for. People picture the chatbot, imagine a faster way to write the email they were going to write anyway, and stop there, because nobody has shown them the other shape of it. So when someone asks me where to begin, I tell them to think about the parts of the job they hate most. The stubby pencil work, as they say in government, is exactly what this is ripe for.

So here it is, drawn from the kind of work that fills a government week. The status roll-up somebody assembles by hand every Friday out of six systems that do not talk to each other. The submission package that has to be checked against a fourteen-point checklist before it goes out, by a person who has read it so many times they no longer see it. The export that is technically data and functionally unreadable until someone spends an afternoon on it. The regulation that changed last month, and the question of which of your documents are now quietly wrong. None of that is exotic.

It does not stop at the small stuff, though, and this is the part people tend not to see coming. An agent that works the deliverables schedule on a contract, the CDRL to anyone who has lived with one, which is the long list of reports, plans and drawings a contractor owes, each with its own due date and its own reviewer, chased today by somebody with a spreadsheet. Agents that work the hiring process, ranking applications against the position description and routing a shortlist to the review committee with the reasoning attached, so the panel spends its time arguing about candidates instead of assembling the packet. Agents that map what a mission actually requires from end to end, score the options against a common set of criteria, and run the comparison of what you give up against what you gain that currently takes a team of analysts a month. Agents across the buying process, drafting the statement of work from a requirement, assembling the contract, and assessing what came back against what was asked for.

Notice what none of those do. They do not choose the hire, approve the award, or decide which capability gets funded. They do the assembling, the ranking, the cross-checking and the first draft, which is where the hours actually go, and then they hand the decision back to the person whose name is on it. That is the division worth holding onto.

The exercise is worth doing, and it costs nothing. Look at your own week and count what you dread, then ask which of it recurs, has a right answer, crosses more than one system, and eats hours nobody would defend as the best use of the person spending them. Most people find three or four things before they get to Wednesday, and they are usually not the things anyone has put on a roadmap. They are the work that has been absorbed into somebody’s Friday afternoon for so long that it stopped being visible as work at all.

Find one of those first. The questions to ask about whatever you then buy or build to do it are drier, and Adeline asks them for a living.

Adeline: I come at this from a different angle than you do. I do not sit inside one institution counting my own Friday afternoons. I spend my time around companies selling AI into financial services here in Luxembourg, into funds and banks and the firms that service them, which means I see a great many attempts to automate somebody else’s week, and I see them side by side.

So I will not match your list item for item, because I would be describing work I have not done. What I can say is that the shape you describe is exactly what the pitches in this market are aimed at. Every deck opens onto the same kind of problem: a file that has to be checked against a rulebook, a document that has to be reconciled with guidance that changed after it was written, a pile of information that is technically available and practically unusable until somebody sits down with it. Nobody is selling into the interesting decisions. They are all selling into the stubby pencil work, which suggests you have identified the right thing.

On your central argument I do not want to disagree, because from where I sit it is not really a proposition to be argued with. It is a description of the market. Of the companies building in this space, very few have built the model. Almost everyone is working with the same handful, which means the model cannot be where the difference lives. What differs is everything built around it: what the system is allowed to reach, what it must do before it answers, what it writes down as it goes, what it will not do at all. Two products running on the same engine can behave nothing alike, and the engine is never the reason.

That was not obvious to me at first. I remember assuming the interesting question was which model a company had chosen. It turns out to be close to the least informative question you can ask, though it is the one everybody in the room recognises, which is why it keeps being asked. A confident answer to it tells you almost nothing about whether the thing will hold up.

The questions that do tell you something are duller. What does it do without invoking the model at all. Where does it go when a fact may have moved. What does it write down, and does that record exist because the work produced it, or because someone assembled it afterwards for whoever came asking.

That last one is where the AI Act lands for me. Its requirements for high-risk systems, human oversight, record-keeping, traceability, are the formal version of what you are arguing for. The letter of it can be satisfied either way. A system that could not have done its work without leaving a trail gives you real control. A system that leaves no trail, with the file written up afterwards, gives you a well-kept compliance folder and the belief that you have control, which is worse than knowing you do not.

* * *

Suzanne: Adeline is right that the model is close to the least informative thing you can learn about a system. For all that, the responsibility does not move. An agent doing the legwork does not take your name off the result. That was the argument of the earlier essay. One caution is worth repeating. People tend to read whatever a machine produces as neutral, objective, already checked. In a University of Washington study presented in late 2025, 528 people were asked to screen candidates alongside an AI recommendation. On their own they showed little bias. Working with a badly biased system, they went along with it roughly ninety percent of the time. A human in the loop is a safeguard only when that human is genuinely expected, and genuinely equipped, to overrule the machine.

* * *

Someone put a sharper version of the responsibility question to me in a meeting not long ago: if one agent drafts a statement of work and the other side’s agent reviews it, where does that end? The first season of “Shell Game” is the version of that I cannot shake, the journalist Evan Ratliff building an AI of himself convincing enough that his friends did not at first realize they were not talking to him, and the obvious next step being two such avatars on a call together while the humans are off doing something else. It is coming. One agent will draft while another redlines, and the two will settle the boilerplate without either of us touching a keyboard, which is fine so long as we stay honest about what counts as boilerplate. What price we will accept, what scope we will commit to, and whether we want the deal at all stay with the people whose names go on them.

* * *

The era of marveling at what a chatbot could write was a useful thing to pass through; it convinced a lot of people the technology was real. What comes after it is better. The move from generative to agentic is the move from help me write this to handle this for me, and it changes what a day of work is made of. It is also arriving in the tools already on the desk, the mail client, the document editor, the ticketing system, the case file, offered as a button that finishes the task rather than a box that answers a question, which means the people with the most to gain are not only the ones who went looking for it.

Most of us will meet our first real agent in software we already had, and what it hands back is the part of the week that was never worth our time. The organizations that do best with it will be the ones that build it well, clear about which decisions stay with a person, willing to put real machinery behind the work that has to be repeatable, and generous about handing over everything else. The trick, in the end, is to hand off the tiling and hold on to the blueprint.

* * *

Adeline: I do share your optimism, and the reach is why. Almost everything I see is sold to people already persuaded, in organisations that went out looking. An agent that appears inside the document editor reaches the person who never would have, and that is a bigger change than anything happening at the buying end.

The wrinkle is one my own job hands me. My time goes on the dull questions: what the system does without the model, where it goes when a fact may have moved, what it writes down while it works. Those questions get asked because there is a vendor in the room and a decision to be made. A feature that appears inside software the institution already runs faces nobody. The harness is still there, still the thing that determines whether the work holds up, and still exactly what distinguishes a good version from a careless one. It simply arrives without the meeting.

I do not think that argues for switching it off. It argues that the questions have to survive the disappearance of the person who used to be made to answer them, which means somebody has to ask them of a feature, unprompted, with no vendor in the room and no procurement process to force the issue.

And the person best placed to gain, the one who was never looking, is the one least likely to know there was a question. That is your Washington study arriving through a different door. Output that appears inside familiar software looks even more like something already checked.

So yes, hand off the tiling. Just find out who laid it, including the parts laid long before you moved in.

Suzanne writes from the US; Adeline writes from Luxembourg. We let the agents do the stubby pencil work. The opinions are hand-made.

Sources & further reading

Earlier in this series: “Beyond the Chatbot: What Is an Agent?” (Transatlantic Intelligence)

Earlier in this series: “Who Owns the Output?” (Transatlantic Intelligence)

Earlier in this series: “The Adoption Problem Nobody Wants to Talk About” (Transatlantic Intelligence)

Earlier in this series: “Your Data Isn’t Dirty. It’s Unstructured.” (Transatlantic Intelligence)

On how we got here: Acquired, “Google: The AI Company”

On the voice-clone future: Evan Ratliff, “Shell Game,” season one

The study itself: Wilson and Caliskan, University of Washington, presented at AAAI/ACM AIES, October 2025; reported by Reworked

Thanks for reading Transatlantic Intelligence! Subscribe for free to receive new posts and support my work.

Suzanne : Plus tôt cette année, j'écrivais sur le Département de la Guerre, le nom que cette administration a donné à ce que la plupart d'entre nous appelions le Département de la Défense, et le chatbot refusait de l'admettre. Il n'arrêtait pas de me corriger, persuadé que le département s'appelait toujours le DoD et qu'aucun changement n'avait eu lieu. Il était sûr de lui, et il avait tort, car le changement de nom est intervenu après la fin de son apprentissage. Un modèle ne connaît le monde que dans la limite de son entraînement, et au-delà, sa compréhension s'arrête net. Ce n'est que lorsque je lui ai demandé d'aller vérifier les actualités qu'il a cherché, lu, et est revenu avec un « vous avez raison » un peu penaud. Ce qui m'a marquée, ce n'est pas qu'il n'ait pas pu trouver l'information, c'est qu'il n'y ait pas pensé. J'ai dû lui dire de chercher.

Un article précédent, « Au-delà du chatbot : qu'est-ce qu'un agent ? », posait une question simple et y apportait une réponse tout aussi simple : une IA à qui l'on confie un objectif, une IA qui se charge de l'exécution plutôt qu'un simple interlocuteur. Celui-ci explore ce qui se cache derrière cette réponse, et la courte scène ci-dessus en est le point de départ. On ne peut juger de la fiabilité de ces systèmes sans comprendre leur fonctionnement lorsqu'ils répondent, et ce qu'ils ne feront pas sans raison particulière.

Merci d'avoir lu Transatlantic Intelligence ! Abonnez-vous gratuitement pour recevoir les nouveaux articles et soutenir mon travail.

* * *

Commençons par la machinerie. L'IA d'aujourd'hui est issue de l'apprentissage automatique, qui a révolutionné la conception logicielle. Au lieu qu'un programmeur définisse une règle pour chaque cas, le système reçoit une quantité considérable d'exemples et en déduit lui-même les schémas. Un vaste modèle de langage, moteur de chaque chatbot et de la plupart des agents, est l'application de cette approche au texte : il a lu une part impressionnante de ce qu'ont écrit les êtres humains et, fondamentalement, il a appris à prédire le mot suivant. Donnez-lui un passage et il en produira la suite la plus probable, mot après mot, en puisant dans tout ce qu'il a assimilé. Le mot le plus pertinent est le plus probable. Le modèle ne se contente pas de piocher une réponse toute faite ; il en compose une probable. C'est ce que l'on entend par « probabiliste », et c'est pourquoi une même question, posée deux fois, peut donner deux réponses différentes.

* * *

Aucune de ces limites n'a grande importance dans une conversation. Elles deviennent cruciales dès lors que le travail doit être soumis à un examen rigoureux, ce qui est le cas pour la majeure partie du travail effectué au sein du gouvernement. Un chatbot répond de mémoire, car rien ne lui indique de faire autrement ; un agent vérifie d'abord la source en direct, non pas parce qu'il s'agit d'un modèle plus intelligent, mais parce que cette vérification préalable est une règle qu'on peut lui intégrer. Demandez à un modèle de vous aider à rédiger une note de service et une certaine marge d'erreur est acceptable, voire souhaitable. Demandez-lui de rédiger un document que vous devrez répéter, défendre ou remettre à un auditeur, et un outil qui improvise ou qui se contente d'une vision figée du monde devient un handicap. On ne peut pas bâtir un processus fiable sur cette base, pas plus qu'on ne pourrait empêcher un entrepreneur de réaliser un travail précédent s'il réglait la hauteur de chaque mur différemment selon son humeur.

La solution ne réside pas dans un modèle plus performant, mais dans ce que l'on construit autour de ce modèle. Un agent bien conçu effectue le travail de manière déterministe : il appelle les interfaces du système, exécute du code, suit une procédure fixe et consulte les sources en temps réel lorsque les données ont évolué, au lieu de se contenter de réciter un résultat de mémoire. Le modèle alimente le travail ; les outils qui l'entourent le régissent.

Voici un exemple plus modeste, à mes propres dépens. J'écris ces textes en suivant une consigne permanente : pas de tirets cadratins dans les brouillons, une préférence personnelle ni subtile ni difficile à respecter. En relisant le texte d'adoption du printemps dernier, j'en ai compté quinze. Le modèle ne m'avait pas refusé quoi que ce soit ; il était simplement revenu, phrase après phrase, à son style habituel. Une consigne donnée à l'oral est une demande. Une règle qui s'applique est une règle qui est appliquée par un mécanisme de contrôle qui vérifie chaque brouillon avant qu'il ne me parvienne. C'est un enjeu mineur. Déplacez ce même espacement de la ponctuation à un chiffre dans un rapport et l'enjeu devient considérable.

* * *

On ne me demande presque jamais si l'une de ces choses fonctionne. On me demande plutôt à quoi elle servirait. Les gens imaginent un chatbot, une façon plus rapide de rédiger l'e-mail qu'ils allaient de toute façon écrire, et ils s'arrêtent là, car personne ne leur a montré l'autre facette de la chose. Alors, quand on me demande par où commencer, je leur conseille de penser aux aspects de leur travail qu'ils détestent le plus. Les tâches ingrates, comme on dit dans l'administration, correspondent exactement à ce que cette technologie a à offrir.

Voilà donc le genre de travail qui occupe une semaine au sein de l'administration. Le récapitulatif de statut que quelqu'un assemble manuellement chaque vendredi à partir de six systèmes qui ne communiquent pas entre eux. Le dossier de soumission qui doit être vérifié selon une liste de contrôle en quatorze points avant son envoi, par une personne qui l'a lu et relu tant de fois qu'elle ne le reconnaît plus. L'exportation qui, techniquement, n'est que données, mais fonctionnellement illisible tant que quelqu'un n'y a pas consacré un après-midi. La réglementation qui a changé le mois dernier et la question de savoir quels documents sont désormais, sans le savoir, erronés. Rien d'extraordinaire à cela.

Cela ne s'arrête pas aux détails, et c'est un aspect souvent négligé. Prenons l'exemple d'un agent qui gère le calendrier des livrables d'un contrat, le CDRL (Contract Development List, ou CDRL) – cette longue liste de rapports, plans et dessins qu'un entrepreneur doit fournir, chacun avec sa propre date d'échéance et son propre responsable –, aujourd'hui géré par une personne munie d'un tableur. Il y a aussi les agents qui gèrent le processus de recrutement : ils classent les candidatures en fonction du profil du poste et transmettent une liste restreinte au comité d'évaluation, accompagnée des justifications, afin que ce dernier puisse consacrer son temps à débattre des candidats plutôt qu'à constituer le dossier. D'autres encore sont chargés de définir les exigences d'une mission de bout en bout, d'évaluer les options selon des critères communs et de comparer les avantages et les inconvénients – une tâche qui prend actuellement un mois à une équipe d'analystes. Enfin, il y a les agents tout au long du processus d'achat : ils rédigent le cahier des charges à partir des besoins, élaborent le contrat et évaluent la conformité des prestations aux exigences initiales.

Remarquez ce que ces personnes ne font pas. Elles ne choisissent pas le candidat, n'approuvent pas l'attribution du contrat et ne décident pas quelle capacité sera financée. Elles se chargent de la compilation, du classement, des vérifications croisées et de la première ébauche, ce qui représente le plus gros investissement en temps, puis elles rendent la décision à la personne dont le nom y figure. C'est cette division qu'il faut préserver.

Cet exercice vaut la peine d'être tenté, et il ne coûte rien. Examinez votre semaine et comptez ce que vous redoutez, puis demandez-vous quelles sont les tâches récurrentes, celles qui ont une réponse logique, celles qui concernent plusieurs systèmes et celles qui vous font perdre un temps précieux. La plupart des gens en trouvent trois ou quatre avant même d'arriver au mercredi, et il ne s'agit généralement pas de tâches planifiées. Ce sont des tâches tellement absorbées par le vendredi après-midi qu'elles ne sont plus perçues comme telles.

Commencez par trouver l'un de ces outils. Les questions à se poser ensuite sur ce que vous achèterez ou construirez pour y parvenir seront plus techniques, et Adeline les pose pour gagner sa vie.

Adeline : Mon point de vue est différent du vôtre. Je ne travaille pas dans une seule institution à compter mes vendredis après-midi. Je côtoie des entreprises luxembourgeoises qui commercialisent l’IA auprès des services financiers, des fonds d’investissement, des banques et des sociétés qui les gèrent. Je suis donc témoin de nombreuses tentatives d’automatisation du quotidien, et je les observe côte à côte.

Je ne peux donc pas reproduire votre liste point par point, car cela reviendrait à décrire un travail que je n'ai pas effectué. Ce que je peux dire, c'est que la situation que vous décrivez correspond exactement à ce que recherchent les entreprises sur ce marché. Chaque projet révèle le même type de problème : un fichier à vérifier par rapport à un règlement, un document à mettre à jour avec des directives modifiées après sa rédaction, une masse d'informations techniquement disponibles mais pratiquement inutilisables tant que personne ne s'y penche. Personne ne s'intéresse aux décisions intéressantes. Tous s'intéressent aux tâches ingrates, ce qui laisse penser que vous avez visé juste.

Je ne souhaite pas contester votre argument principal, car il ne s'agit pas d'une proposition à réfuter. C'est une description du marché. Parmi les entreprises qui développent dans ce secteur, très peu ont construit le modèle. Presque toutes travaillent avec les mêmes éléments, ce qui signifie que le modèle ne peut être la source de la différence. Ce qui diffère, c'est tout ce qui est construit autour : les capacités du système, les étapes préalables à la réponse, les données enregistrées et les limitations. Deux produits fonctionnant avec le même moteur peuvent avoir des comportements totalement différents, et le moteur n'en est jamais la cause.

Cela ne m'avait pas sauté aux yeux au début. Je me souviens avoir cru que la question intéressante était de savoir quel modèle l'entreprise avait choisi. En réalité, c'est presque la question la moins instructive qu'on puisse poser, même si c'est celle que tout le monde connaît, et c'est pourquoi elle revient sans cesse. Une réponse assurée ne nous apprend quasiment rien sur la durabilité du produit.

Les questions qui nous apprennent quelque chose sont plus ternes. Que fait-elle sans même faire appel au modèle ? Où va-t-elle lorsqu’un fait a évolué ? Qu’écrit-elle, et cette trace existe-t-elle parce que le travail l’a produite, ou parce que quelqu’un l’a compilée a posteriori pour quiconque venait la demander ?

C’est sur ce dernier point que la loi sur l’IA intervient à mon sens. Ses exigences relatives aux systèmes à haut risque, à la supervision humaine, à la tenue de registres et à la traçabilité constituent la version formelle de ce que vous préconisez. On peut s’en tenir à la lettre de l’une ou l’autre des solutions. Un système qui ne peut fonctionner sans laisser de traces vous confère un contrôle réel. Un système qui ne laisse aucune trace, avec un rapport rédigé a posteriori, vous offre un dossier de conformité impeccable et l’illusion du contrôle, ce qui est pire que de savoir que ce n’est pas le cas.

* * *

Suzanne : Adeline a raison : le modèle est sans doute l’élément le moins informatif qu’on puisse tirer d’un système. Pour autant, la responsabilité reste la même. Un agent qui effectue le travail de terrain ne vous exonère pas du résultat. C’était l’argument de l’ essai précédent . Il convient de rappeler une mise en garde : on a tendance à considérer les résultats produits par une machine comme neutres, objectifs et déjà vérifiés. Dans une étude de l’Université de Washington présentée fin 2025, 528 personnes ont été invitées à évaluer des candidats en parallèle avec une recommandation d’IA. De leur propre initiative, elles ont montré peu de biais. En revanche, face à un système fortement biaisé, elles se sont conformées à ses recommandations dans environ 90 % des cas. L’intervention humaine n’est une garantie que si l’on attend réellement de cette personne, et si elle dispose réellement des compétences nécessaires, qu’elle puisse contredire la machine.

* * *

Il y a peu, lors d'une réunion, quelqu'un m'a posé une question de responsabilité plus directe : si un agent rédige un cahier des charges et que l'agent de la partie adverse le relit, où cela s'arrête-t-il ? La première saison de « Shell Game » illustre parfaitement cette problématique : le journaliste Evan Ratliff y crée une IA à son image, si convaincante que ses amis ne réalisent pas tout de suite qu'ils ne parlent pas à lui. La suite logique ? Deux avatars de ce type en communication téléphonique, pendant que les humains sont occupés ailleurs. C'est inévitable. Un agent rédigera le contrat, l'autre le corrigera, et les deux finaliseront les clauses standard sans que personne n'ait à toucher à un clavier. C'est parfait, à condition de rester honnêtes sur ce qui constitue une clause standard. Le prix que nous sommes prêts à accepter, le périmètre du contrat sur lequel nous nous engageons, et même notre décision de conclure l'affaire, restent du ressort des personnes concernées.

* * *

L'époque où l'on s'émerveillait des capacités d'écriture des chatbots a été une étape utile ; elle a convaincu beaucoup de gens de la réalité de cette technologie. Ce qui vient après est encore mieux. Le passage d'une approche générative à une approche proactive, c'est passer d'une demande d'aide à une prise en charge complète, et cela transforme radicalement le quotidien professionnel. Cette technologie s'intègre également aux outils déjà présents sur nos bureaux : messagerie, traitement de texte, système de gestion des tickets, gestion des dossiers, le tout sous forme de bouton permettant de finaliser une tâche plutôt que de simple formulaire répondant à une question. Ainsi, ceux qui en tireront le plus grand bénéfice ne seront plus seulement ceux qui l'ont recherchée.

La plupart d'entre nous découvrirons notre premier véritable agent dans un logiciel que nous utilisions déjà, et ce qu'il nous rendra, c'est la partie de la semaine qui n'a jamais été rentable. Les organisations qui tireront le meilleur parti de cette technologie seront celles qui la conçoivent correctement, en définissant clairement les décisions qui restent du ressort de chaque personne, en investissant massivement dans les processus répétitifs et en déléguant généreusement le reste. En fin de compte, l'astuce consiste à déléguer la mise en œuvre et à conserver la conception initiale.

* * *

Adeline : Je partage votre optimisme, et c’est la portée qui le motive. Presque tout ce que je vois est vendu à des personnes déjà convaincues, au sein d’organisations qui ont prospecté. Un agent intégré à l’éditeur de documents permet d’atteindre une personne qui ne l’aurait jamais contactée autrement, et c’est un changement bien plus important que tout ce qui se passe au niveau de l’achat.

Le hic, c'est que mon propre travail me le impose. Je passe mon temps à me poser des questions fastidieuses : que fait le système sans le modèle ? Où va-t-il lorsqu'une donnée a changé ? Qu'enregistre-t-il pendant son fonctionnement ? Ces questions sont posées parce qu'un fournisseur est présent et qu'une décision doit être prise. Une fonctionnalité intégrée à un logiciel déjà utilisé par l'institution passe inaperçue. Le cadre de référence est toujours là, il détermine toujours la fiabilité du travail et distingue toujours une bonne version d'une version bâclée. Simplement, il arrive sans réunion.

Je ne pense pas que cela justifie sa désactivation. Cela signifie plutôt que les questions doivent survivre à la disparition de la personne chargée d'y répondre, ce qui implique que quelqu'un doit poser la question d'une fonctionnalité spontanément, sans fournisseur présent et sans procédure d'achat pour imposer la question.

Et la personne la mieux placée pour en tirer profit, celle qui n'a jamais cherché à le savoir, est celle qui a le moins de chances de savoir qu'une question a été posée. C'est ainsi que votre étude de Washington arrive par une autre voie. Les résultats affichés dans un logiciel familier ressemblent encore plus à des données déjà vérifiées.

Alors oui, confiez-leur la pose du carrelage. Renseignez-vous simplement sur la personne qui l'a posé, y compris pour les parties posées bien avant votre emménagement.

Suzanne écrit des États-Unis ; Adeline écrit du Luxembourg. Nous laissons les agents se charger de la rédaction. Les opinions sont subjectives.

Sources et lectures complémentaires

Article précédent de cette série : « Au-delà du chatbot : qu’est-ce qu’un agent ? » (Transatlantic Intelligence)

Article précédent de cette série : « À qui appartiennent les résultats ? » (Transatlantic Intelligence)

Article précédent de cette série : « Le problème de l’adoption dont personne ne veut parler » (Transatlantic Intelligence)

Article précédent de cette série : « Vos données ne sont pas sales. Elles sont non structurées. » (Transatlantic Intelligence)

Comment nous en sommes arrivés là : Acquisition de « Google : L’entreprise d’IA »

À propos de l'avenir des clones vocaux : Evan Ratliff, « Shell Game », saison 1

L'étude elle-même : Wilson et Caliskan, Université de Washington, présentée à la conférence AAAI/ACM AIES, octobre 2025 ; rapportée par Reworked

Merci d'avoir lu Transatlantic Intelligence ! Abonnez-vous gratuitement pour recevoir les nouveaux articles et soutenir mon travail.

Subscribe S'abonner

AI and governance, across the Atlantic — delivered to your inbox. IA et gouvernance, de part et d'autre de l'Atlantique — dans votre boîte mail.