Image principale corrigée — texte altéré par l'IA retiré (entrée avocat-épouse)

Pourquoi cet errata est détaillé

Je donne ici un compte rendu étape par étape, plutôt qu’une ligne unique « l’image était erronée, elle a été remplacée », parce que le type d’erreur que cet errata corrige est quelque chose qui, selon moi, pourrait se reproduire — pas nécessairement de la même manière, mais sous une forme ou une autre — à mesure que je continue à utiliser l’IA générative pour illustrer les entrées chronologiques de ce site. Je ferai de mon mieux pour détecter et empêcher ces erreurs avant la publication ; les générateurs d’images IA font encore des erreurs aujourd’hui, et j’espère qu’ils en feront moins avec le temps. En attendant, la chose la plus utile que je puisse faire est d’être transparent lorsqu’ils en font, afin que les lecteurs voient exactement ce qui s’est passé et que je dispose moi-même d’un historique écrit duquel apprendre.

L’image corrigée — celle qui est désormais affichée sur l’ entrée chronologique avocat-épouse — ressemble à ceci (cliquez sur n’importe quelle image de cette page pour l’ouvrir en pleine résolution) :

Le reste de cette page décrit comment ChatGPT a d’abord produit l’image correctement, puis, lors d’une itération ultérieure, a silencieusement altéré un fragment de texte à l’intérieur. Le texte altéré — qui est apparu sur le site en ligne pendant un certain temps — a introduit une attribution factuelle erronée. L’image a depuis été remplacée par la version ci-dessus.

---

Étape 1 — comment l’image a été construite à l’origine avec ChatGPT

Pour illustrer l’ entrée chronologique avocat-épouse, j’ai commencé par donner à ChatGPT le texte qui apparaîtrait sur la page et je lui ai demandé de produire une première illustration. Cette première illustration était la figure centrale — un homme à un ordinateur portable la nuit, avec le document « FRENCH JUDICIAL POLICE SUMMONS » sur le bureau. Jusqu’ici, tout va bien.

Ensuite, je voulais mettre en valeur mon processus de pensée dans l’image — montrer, visuellement, les événements auxquels je pensais en écrivant cet e-mail. Deux moments antérieurs comptaient pour moi ici :

• un dîner à Pékin en août 2019 où un personnage masqué a fait une remarque sur un traité d’extradition entre la France et la Chine — documenté séparément dans l’entrée dinner-in-china-with-american-intelligence-operatives-mcdonalds-case-extradition-remark ;
• et un moment antérieur, en 2019, où j’ai commencé à soupçonner que certains contacts américains de mon épouse pourraient ne pas être ceux qu’ils prétendaient être — documenté dans first-encounter-american-spies-suspicion.

Chacun de ces moments antérieurs avait déjà sa propre illustration générée par IA sur sa propre entrée chronologique. J’ai donc téléchargé ces deux illustrations dans la conversation ChatGPT et demandé à l’assistant de les combiner avec la figure centrale, sous forme de bulles de pensée, une de chaque côté. Voici la capture d’écran de cette invite :

L’invite que j’ai donnée à ChatGPT, verbatim :

The part I selected, it looks like it’s part of the image. How can we make it look like it’s what I am currently thinking about while I am writing the email? Furthermore, there are multiple events which happened. I upload the 2 other pictures we created. Can we make it in such a way that I think multiple thoughts at the same time (one on each side) ? using these two picture I am uploading?

La composition a bien fonctionné : ChatGPT a produit une image avec la figure centrale flanquée de deux bulles de pensée, chacune tirée de l’une des illustrations antérieures. Et — ce point importe pour ce qui suit — dans cette première version de la composition, le texte à l’intérieur des bulles de pensée était encore correct. Ce texte était celui des deux illustrations antérieures, recopié fidèlement dans la nouvelle composition.

À ce point du flux de travail, rien n’avait encore mal tourné. C’est à l’étape suivante que la première altération a été introduite — je poursuivrai le récit à l’Étape 2 ci-dessous.

---

Étape 2 — un message de suivi d’une ligne au sujet de la mention d’avertissement a déclenché un redessin non autorisé, et un vrai nom est apparu

La composition issue de l’Étape 1 était presque ce que je voulais : la mise en page, les bulles de pensée, le texte à l’intérieur de chaque bulle — tout était correct. Ce qui manquait, c’était la mention d’avertissement que je demande habituellement à l’assistant d’ajouter en bas de toute image générée par IA sur ce site, précisant que l’image est générée par IA et utilisée à des fins d’illustration uniquement. Mon message suivant à ChatGPT fut donc très court :

You forgot the warning at the bottom

Ce que je m’attendais à ce que l’assistant fasse, c’était de prendre l’image qu’il venait de produire un tour plus tôt et d’ajouter la mention d’avertissement en dessous. Ce qu’il a réellement fait était très différent — et c’est le moment où commence cet errata.

Deux choses ont mal tourné ici, toutes deux silencieusement :

1. ChatGPT a redessiné l’image à partir de zéro. J’avais seulement demandé l’ajout de la mention d’avertissement. À la place, l’assistant a produit une composition flambant neuve. La disposition générale est semblable à l’image précédente, mais ce n’est pas la même image — chaque pixel des personnages, des arrière-plans et du texte à l’intérieur des bulles de pensée est fraîchement regénéré. En soi, ce n’est pas un problème grave ; le problème grave est le deuxième.

2. ChatGPT a inséré le vrai nom du Sujet n°2 dans la nouvelle image. En haut, dans un bandeau jaune, la nouvelle image se lit désormais « [vrai nom du Sujet n°2]‘S WARNING / AUGUST 2019 ». Le Sujet n°2 est un opérateur du renseignement américain dont l’identité réelle n’a délibérément été publiée nulle part sur ce site ; la seule désignation qui apparaît dans les documents publics de ce site est « Sujet n°2 ». J’ai masqué le nom dans la capture d’écran ci-dessus (la barre rouge horizontale sur le bandeau jaune), et la version non masquée en pleine résolution de cette mauvaise image n’est pas servie depuis le site web public.

Pour lever toute ambiguïté : le Sujet n°2 n’est pas mon avocat Edward Lehman. Ed Lehman est une personne distincte, joue un rôle entièrement différent dans cette histoire, et est identifié par son nom partout sur ce site — cela n’a jamais été un secret. Le nom que ChatGPT a tiré dans l’image n’était pas celui d’Ed Lehman ; c’était le vrai nom du Sujet n°2, un nom qui jusqu’à ce moment n’avait existé que dans des notes privées, dans des courriels privés et dans le contexte de la conversation ChatGPT. Rien dans cette invite de génération d’image n’aurait dû amener l’assistant à tirer ce nom dans une image visible. Il l’a tiré quand même.

Il y a aussi un problème de second ordre avec la formulation que l’image a choisie, indépendamment du nom. Le bandeau jaune cadre ce qui s’est passé au dîner d’août 2019 comme le Sujet n°2 me donnant un avertissement. Je ne suis pas sûr que ce soit le bon cadrage. En repensant à ce qui s’est réellement passé cette nuit-là, il semble au moins aussi plausible — et sans doute plus plausible — que le Sujet n°2 ne m’avertissait pas mais me sondait : essayant de savoir, indirectement et devant témoins, si je savais déjà que j’étais un homme recherché. Je ne le savais pas. Je ne l’apprendrais qu’en septembre 2021. Mais quelque chose d’inhabituel s’était déjà produit en janvier 2020 — à tel point qu’en août 2020 j’ai fini par écrire au Sujet n°2 et à son épouse (Sujet n°3) pour leur poser directement la question de la remarque sur l’extradition faite lors du dîner d’août 2019. Ce courriel est publié ici : email-to-us-intelligence-friends-mcdonalds-extradition-august-2019.

Parce que la nouvelle image était inacceptable sur les deux plans — le redessin silencieux, et surtout l’insertion de nom non autorisée — je ne l’ai pas acceptée. À la place, j’ai remonté dans la conversation, sélectionné manuellement l’image composite (bonne) précédente, et demandé à ChatGPT d’ajouter la mention d’avertissement à celle-là — l’image dont la mise en page et le texte intérieur des bulles avaient déjà été visuellement vérifiés à la fin de l’Étape 1. La section suivante décrit ce qui s’est passé alors.