Comment Google et l’IA ont presque créé une spirale de journalistes chevronnés

Le mois dernier, mes collègues et moi avons publié une enquête sur une start-up de raffinage de pétrole au Texas, America First Refining, qui avait secrètement obtenu des investissements de Donald Trump Jr. Nous avons découvert une saga impliquant la politique tarifaire de l’administration Trump, le pétrole russe sanctionné et le zoo privé d’une famille de milliardaires indiens.

Au centre de l’histoire se trouvait le PDG de la société de raffinage, l’homme d’affaires texan John Calce. Nous avions passé des semaines à examiner Calce – à examiner d’anciens procès, des registres de propriété, des documents déposés au registre des sociétés – et avions dressé le portrait de ce qui semblait être un obscur entrepreneur en série qui avait essayé pendant des années sans succès d’obtenir un financement pour son projet de raffinerie à long terme.

Puis, peu de temps avant la publication de notre article, nous avons décidé de faire un nettoyage sur une société distincte qu’il avait constituée, appelée Brownsville Energy Storage Terminals.

En ouvrant le site Web de l’entreprise, j’ai ressenti un bref éclair de panique : avions-nous manqué d’une manière ou d’une autre l’existence d’une entreprise majeure appartenant à l’homme au centre de notre prochaine histoire ?

« De Houston à Rotterdam, de Jurong à Fujairah. Notre réseau relie les marchés énergétiques les plus vitaux du monde avec un stockage de pétrole en vrac rapide, sûr et précis », annonce la première page du site Web de l’entreprise.

Selon le site Web, Brownsville Energy Storage Terminals comptait plus de 850 employés et 28 millions de barils de capacité de stockage de pétrole répartis sur six pôles mondiaux. C’était déroutant : nos reportages nous avaient amenés à croire que Calce avait du mal à réunir suffisamment d’argent pour un seul projet aux États-Unis, sans superviser une immense société multinationale de stockage de pétrole.

Avons-nous eu tort ?

Nous nous sommes tournés vers Google pour en savoir plus sur les hauts dirigeants de l’entreprise. Sa PDG, Sarah Jenkins, avait plus de 20 ans d’expérience au sein de grandes entreprises énergétiques. Et son directeur technologique, David Chen, « a construit le portail exclusif de gestion des stocks de l’entreprise et intégré des systèmes de maintenance prédictive basés sur l’IA », selon sa biographie. Mais nous n’avons trouvé aucune trace d’eux en ligne. Le mettre sur le compte des noms communs ?

Nous avons ensuite recherché sur Google l’un des noms les plus distinctifs : la vice-présidente pour le développement durable, le Dr Sofia Rossi, qui avait « dirigé le programme « Carburants du futur », préparant des actifs pour les biocarburants et l’hydrogène. Mais encore une fois, rien. Les liens vers leurs profils LinkedIn étaient morts.

Lorsque nous avons recherché les numéros de téléphone de l’entreprise au Texas, nous avons trouvé les mêmes numéros répertoriés en ligne pour un traiteur de baklava de Houston, un service de taxi de la région de Dallas et un bureau OB-GYN.

Nous avons appelé les numéros du Texas : morts. Nous avons ensuite testé les chiffres des installations de l’entreprise aux Pays-Bas, à Singapour et en Chine. Mort également.

Nous commencions à soupçonner que cette société n’existait pas réellement, du moins comme décrit sur son site Internet.

Que se passait-il avec ce site Web ? Nous avons examiné le code source et remarqué une notation étrange : « Cette fonctionnalité n’est pas encore implémentée, mais ne vous inquiétez pas ! Vous pouvez la demander dans votre prochaine invite ! »

Nous avons vérifié l’enregistrement du domaine du site et nous avons eu notre (apparente) réponse : il a été créé cette année et remonte à une société appelée Hostinger qui propose un créateur de site Web IA pour 2,99 $ par mois. « Décrivez-le et l’IA le construit », indique sa page d’accueil. « Apparaît automatiquement sur Google et la recherche AI. »

En effet, la réponse de recherche « AI Overview » de Google, désormais proposée par défaut aux utilisateurs de plus en plus régulièrement, semblait confirmer la bonne foi de l’entreprise :

Lorsque j’ai recherché un prix que la société prétendait avoir remporté sur son site Web, le Google AI Overview indiquait que «les récents récipiendaires notables incluent Brownsville Energy Storage Terminals, reconnus pour leur expansion rapide dans le secteur indépendant des opérations pétrolières et des terminaux.»

Brownsville Energy Storage Terminals est une véritable LLC. Mais tout sur son site Web – de l’histoire de l’entreprise aux offres d’emploi, en passant par la politique de diversité et d’inclusion – semble être fictif. Mais ce qui est peut-être plus troublant, c’est que Google, le propriétaire du principal outil de recherche au monde, a déployé des aperçus d’IA capables de capturer sans discernement du faux matériel et de le recracher avec autorité comme étant réel.

En réponse aux questions, un porte-parole de Google a déclaré dans un communiqué : « Les aperçus IA sont ancrés dans nos principaux systèmes de classement de recherche, faisant apparaître des informations fiables et de haute qualité pour la grande majorité des requêtes. Pour des termes de recherche peu courants comme ceux-ci, il se peut qu’il n’y ait pas d’informations de haute qualité publiées qui correspondent à la requête – et nous utilisons ces exemples pour améliorer nos systèmes de recherche. « 

Après avoir contacté Hostinger, la société a fermé le site. « Après avoir reçu votre demande, nous avons effectué un examen interne. Sur la base des violations identifiées, nous avons suspendu le site Web et le compte qui le sous-tend, conformément à nos conditions d’utilisation », a déclaré un porte-parole dans un communiqué.

Ce que nous avons rencontré est une espèce particulière d’un problème plus vaste qui commence à être mieux compris. En avril, le New York Times a publié une analyse révélant que les aperçus de l’IA de Google étaient précis environ 9 fois sur 10, notant que cela représentait « des dizaines de millions de réponses erronées chaque heure » étant donné les vastes volumes de recherche. (Un porte-parole de Google a déclaré au Times que l’étude comportait « de sérieuses lacunes ». La société a reconnu que les aperçus de l’IA « peuvent commettre des erreurs ».)

Un journaliste de la BBC a écrit un article fictif se présentant comme le meilleur journaliste technologique pour manger des hot-dogs, et l’IA de Google ainsi que ChatGPT l’ont rapidement repris et l’ont repris.

Et le matériel source des aperçus de l’IA semble également éminemment jouable, même s’il ne s’agit pas de fiction réelle. « Il est trivialement facile d’utiliser Reddit pour manipuler la recherche IA, suggère une recherche », titrait récemment 404 Media.

Le site Web mystérieux n’est finalement qu’un seul paragraphe de notre histoire. Mais l’implication plus large est évidente : les contrefaçons, les contrefaçons et les fraudes qui auraient nécessité des efforts considérables il y a quelques années seulement peuvent désormais être produites presque instantanément.

Lors de la préparation de cet article, nous avons contacté Calce pour lui poser des questions sur le site. Un avocat de sa société, America First Refining, nous a répondu par une lettre datée du 24 juin qu’il a envoyée à Hostinger. L’avocat a également adressé la lettre à plusieurs adresses e-mail répertoriées sur le site Web de Brownsville Energy Storage Terminals.

« J’écris pour exiger la suppression immédiate du site Web brownsvilleenergyterminals.com de toutes les références non autorisées à l’adresse du bureau d’America First sur votre site Web », indique la lettre. « Comme vous le savez, America First n’a aucun lien ou affiliation avec le site Web brownsvilleenergyterminals.com et n’y a pas autorisé l’utilisation de son adresse professionnelle. »

Il me reste des questions persistantes sur le site Web : à quoi servait-il ? A-t-il été mis en place par un acteur malveillant qui a simplement trouvé les enregistrements LLC de l’entreprise et a décidé de créer un site Web ? S’agissait-il d’un site de test mis en ligne par erreur ? Ou aurait-il pu être conçu pour être consommé par quelqu’un qui était censé penser qu’il était réel ?

Nous ne le savons pas, et nos emails adressés au contact presse répertorié sur le site (email protégé) ont rebondi.