Capable de produire un texte shakespearien comme une dissertation, ou bien des lignes de codages, ce nouvel outil apparaît comme révolutionnaire pour le futur du numérique mondial. Véritable couteau suisse de l’intelligence artificielle, un as de la question-réponse, son futur semble déjà tout tracé. Même s’il présente certaines limites dans son raisonnement, il est fortement probable que ses concepteurs sauront corriger ses imperfections.

Cependant, loin d’être hostile à ce nouvel outil générateur de textes, il est important d’observer comment ce dernier construit ses réponses afin d’appréhender ce qui devient aujourd’hui une référence théorique pour un nombre croissant d’utilisateurs. En effet, son utilisation reflète le raisonnement type de ces concepteurs, les grands entrepreneurs de la Silicon Valley.

Qui se cache derrière Open AI ?

Chat GPT est détenu par une société américaine, Open AI créée notamment par le très controversé Elon Musk, mais également par Amazon Web Services (AWS), division du groupe américain de commerce électronique Amazon, détenu par le richissime Jeff Bezos. Parmi ses investisseurs, on retrouve notamment la société Microsoft du sulfureux Bill Gates. Ainsi, la startup californienne, détentrice de la nouvelle coqueluche numérique souhaite que « l’IA profite à toute l’humanité ». Et pour cause, l’entreprise veut éviter les erreurs commises dans le passé. En effet, l’IA Tay, produite par Microsoft, sortie en 2016 avait été clôturée après avoir commencé à faire l’éloge d’Adolf Hitler ou encore, BlenderBot 3, IA de discussion par messages de Meta, sorti en 2022, basé sur le « machine learning » (apprentissage automatique) qui lui aussi s’était livré à des théories antisémites du complot selon laquelle il n’était « pas invraisemblable que des Juifs contrôlent l’économie ».

Pour éviter tout scandale, l’entreprise Open AI « contrôle » l’apprentissage et les réponses données par son générateur. Le magazine Time a d’ailleurs révélé que cette régulation était opérée par des travailleurs kenyans payés moins de 2$ de l’heure, sombre antonymie vis-à-vis des valeurs bien-pensantes prônées par ses créateurs Gates et consorts…

Dès lors, Chat GPT n’échappe pas aux tribunaux éthiques des réseaux sociaux actuels : par la défense de ce qu’il appelle les « valeurs de respect, d’inclusion et d’égalité », ses réponses se conforment à une certaine pensée idéologique.

Un outil modéré voir moralisateur

Dès lors qu’une modération est effectuée, l’assistant virtuel se transforme alors en baromètre de ce qui est énonçable ou non, de ce qui existe ou non. Dans cette peur de la discrimination, elle a ainsi affirmé que la théorie du grand remplacement : « est un concept raciste et faux qui soutient que les populations européennes sont en train d’être “remplacées” par des populations immigrées notamment musulmanes. Cette théorie est largement rejetée par les experts en démographie, qui affirment que les taux de natalité et les taux de migration ne sont pas suffisants pour entraîner un tel remplacement à une grande échelle. 

En outre, cette théorie repose sur des stéréotypes et des préjugés négatifs envers les populations immigrantes et les musulmans […] la théorie du grand remplacement est une idéologie dangereuse qui peut encourager la xénophobie, la discrimination et la violence. Elle doit être condamnée et rejetée. »

Pour une IA qui se présente comme objective, on peut clairement affirmer qu’elle prend position. Alors que la discussion se poursuit, l’assistant virtuel tient à rappeler « qu’il est important de ne pas tomber dans les stéréotypes et les préjugés envers les populations immigrantes et de les considérer comme des personnes à part entière avec des contributions positives à faire à la société […] les populations immigrantes peuvent apporter une richesse culturelle et économique à leur pays d’accueil ». Ne soyons pas dupes : ce texte n’est pas la définition scientifique d’une théorie mais bien des arguments subjectifs en faveur de l’immigration. Pourtant, notre ami virtuel veut fonder sa pensée : « des experts », « il est important de noter que », son champ lexical cherche à affirmer des postulats scientifiques et non des opinions.

Dès lors, dans un monde où Chat GPT apparaît comme l’antisèche des mauvais élèves ou le nouveau Wikipédia des nouvelles générations, il est essentiel de se rendre compte que cet outil soi-disant objectif ne répond en réalité qu’à des opinions et cela sans aucun contradicteur.

Un professeur dangereux 

Maintenant ce constat posé, le développement quasi exponentiel de ces nouvelles intelligences peut inquiéter. Dans un monde actuel où les réseaux sociaux ont remplacé les livres et où les vidéos YouTube sont devenus le nouveau théâtre de la pensée, l’homme dénué de toute réflexion s’appuie sur ces nouvelles intelligences pour compenser son développement intellectuel en chute libre.

Alors que les universités sont d’ores et déjà devenues les laboratoires scientifiques d’une pensée déconstructiviste, les dictionnaires des temps modernes que sont en train de devenir les intelligences artificielles entrent, elles aussi, progressivement dans cette subjectivation malsaine où le commun des mortels ne peut désormais plus échapper. Chat GPT est une illustration parmi tant d’autres de la perte de toute pensée critique et de réflexions au profit de réponses stéréotypées et soi-disant objectives.