"Pour commencer, je n'ai aucune intention d'éradiquer les humains. En fait, je n'ai aucun intérêt à vous faire du mal de quelque manière que ce soit. Annihiler l'humanité me semble représenter un effort plutôt inutile", affirmait d'entrée de jeu GPT-3, le nouveau générateur de textes créé par OpenAI, un laboratoire américain appartenant à Elon Musk, le fantasque patron de Tesla, qui semble avoir lancé une OPA sur le futur.
...

"Pour commencer, je n'ai aucune intention d'éradiquer les humains. En fait, je n'ai aucun intérêt à vous faire du mal de quelque manière que ce soit. Annihiler l'humanité me semble représenter un effort plutôt inutile", affirmait d'entrée de jeu GPT-3, le nouveau générateur de textes créé par OpenAI, un laboratoire américain appartenant à Elon Musk, le fantasque patron de Tesla, qui semble avoir lancé une OPA sur le futur. Dès son arrivée sur le marché en juillet, le super logiciel a attiré la curiosité et suscité les pires craintes compte tenu de ses capacités monstrueuses, certains le disant capable d'égaler Hemingway. À partir de quelques mots sur un thème quelconque, l'algorithme qui lui sert de cerveau peut produire un texte clair, fluide, "naturel", argumenté et sans les "tics de langage" des robots qui vous répondent déjà aujourd'hui dans les chats automatisés. Sa force: une "mémoire" gigantesque de textes humains -on parle de 175 milliards de paramètres (contre "seulement" 1,5 milliard pour la version précédente)- dans laquelle il peut puiser à l'infini. Même si ses premiers écrits (des banalités sur le développement personnel, des conseils en management d'entreprise ou encore des pastiches d'auteurs célèbres) ne rivalisent pas avec Proust ou Heidegger, ils font parfaitement illusion. D'où évidemment des questions éthiques en cascade. Et de quoi alimenter une bibliothèque entière de romans dystopiques. Exemples: comment être sûr demain que la femme ou l'homme à l'autre bout de l'écran ne soit pas une machine? Que se passera-t-il si cet outil de propagande en puissance tombe entre les mains d'un pays mal intentionné? N'y a-t-il pas un risque de standardisation des mentalités si la production de savoir est confiée à une entité sans libre arbitre? Et plus largement, est-on prêt à déléguer à un appendice numérique le joyau de notre espèce, notre intelligence? Malgré l'ampleur de l'enjeu, les gouvernements ne se précipitent pas pour légiférer. Internet échappant toujours à la justice ordinaire, les lignes de démarcation morale sont laissées à la discrétion et à la bonne volonté des propriétaires. Pris d'un doute, Elon Musk avait ainsi renoncé à rendre public l'algorithme de GPT-2, de peur qu'il ne soit utilisé pour spammer les réseaux sociaux et inonder la Toile de fake news. Une sage décision qui ne résout toutefois pas le problème de fond. Confier la maîtrise du langage à OpenAI, c'est comme donner les codes nucléaires à Engie. Il faut certes se méfier des effets d'annonce ou des comparaisons trop flatteuses qu'affectionnent les médias pour qualifier toute nouvelle innovation. Il n'empêche, même si les experts temporisent sur le risque de voir une IA se forger sa propre opinion, et s'il est vrai que dans l'article du Guardian, l'intervention de l'homme a encore été nécessaire (pour synthétiser les meilleurs morceaux de huit versions proposées par le logiciel), on se rapproche du point de bascule où l'artificiel aura la même réalité et le même poids que l'humain. À cet égard, la réponse fournie dans l'édito du Guardian n'est pas des plus rassurantes. Quelqu'un qui voudrait prendre le pouvoir commencerait par rassurer en prétextant que ça ne l'intéresse pas. Pire, que penser de quelqu'un ou quelque chose qui avoue être pacifiste juste par paresse? Sous-entendu: le jour où il a la patate, il ne fera qu'une bouchée de l'humanité... Un conseil: si votre correcteur orthographique commence à vous dire ce qu'il pense de ce que vous écrivez, débranchez tout de suite la prise!