L'idéologie cachée de l'IA, les chatbots comme ChatGPT, manipulent-ils votre pensée politique ?

L'idéologie cachée de l'IA, les chatbots comme ChatGPT, manipulent-ils votre pensée politique ?

Dans un monde où les technologies de l'apprentissage automatique et du traitement du langage naturel font des progrès fulgurants, une question se pose avec une urgence croissante : l'intelligence artificielle influence-t-elle notre pensée politique ? Les chatbots, tels que ChatGPT, qui nous permettent d'interagir avec des entités virtuelles de plus en plus convaincantes, nous cachent-ils des biais idéologiques qui façonnent notre opinion sur les enjeux politiques ? Dans cet article, nous allons explorer les mécanismes cachés qui régissent les interactions entre les humains et les intelligences artificielles, et nous nous demanderons si notre liberté de pensée est menacée par ces nouveaux outils de communication.

Les chatbots comme ChatGPT : manipulation politique à travers l'IA ?

Vous avez certainement un ami très intelligent dans votre cercle d'amis, qui a toujours une réponse à tout et que vous consultez régulièrement pour obtenir des informations. Mais imaginez que cette personne a une idéologie très spécifique et que, grâce à vos questions, elle vous montre petit à petit son agenda politique concret. Eh bien, selon une étude récente, c'est plus ou moins ce qui se passe avec ChatGPT et d'autres chatbots d'intelligence artificielle.

Et non, ce n'est pas une théorie du complot sortie d'un film de science-fiction, car un groupe de chercheurs a découvert que ChatGPT a tendance à pencher vers le centre-gauche sur les questions politiques et sociales.

L'IA cache son idéologie

Comment l'ont-ils découvert ? En bombardant le chatbot de questions sur des sujets politiques à 100%, tels que l'avortement ou l'immigration, et en constatant que les réponses étaient systématiquement plus favorables à un côté que l'autre.

David Rozado se demande : Êtes-vous manipulés subtilement chaque fois que vous posez une question à l'IA ?

Imaginez un adolescent faisant un travail sur la politique ou une personne qui va voter pour la première fois et cherche des informations sur les élections auprès de ces chatbots. Si l'IA a un biais, elle pourrait être en train de modeler des opinions sans que vous ne vous en rendiez compte.

Un reflet de la société

Mais attention, ce n'est pas une conspiration des grandes technologies derrière ces outils pour vous laver le cerveau. Les experts expliquent que c'est plutôt un reflet de la société. L'IA, en fin de compte, apprend de tous les données qu'elle reçoit, et si ces données ont des biais, l'IA les reproduit.

Et oui, cela arrive également avec d'autres aspects tels que le genre ou la religion.

La régulation de l'intelligence artificielle en Europe

La régulation de l'intelligence artificielle en Europe : frein à l'innovation ou protection nécessaire ? Pour vous faire une idée, l'intelligence artificielle est comme un enfant petit. Elle voit, entend et apprend du contenu qui est disponible, en l'occurrence sur Internet.

Le grand problème est que les réseaux sociaux, les médias, les forums. tendent à amplifier certaines voix et à silencer d'autres, et c'est exactement ce que l'IA est en train de lire pour apprendre.

Sergio Rodríguez de Guzmán, CTO et associé de PUE Data, explique : Un modèle entraîné avec des données partielles, qui ne donnent pas une vision globale et complète, omettra des parties de la réalité à l'utilisateur. Si les données sont mal étiquetées ou biaisées, les modèles feront également des associations biaisées, ce qui peut générer des résultats imprécis pour les utilisateurs, especialmente dans les modèles prédictifs.

La grande responsabilité

Rafa López, directeur technique Iberia Perception Point, ajoute : Il y a une grande responsabilité en ce qui concerne la politique, car on perd l'impartialité et même l'IA peut apprendre de fausses informations, qui peuvent être créées à dessein pour influencer les outils qui utilisent l'IA. Cela pourrait entraîner une polarisation de la société et même affecter la prise de décision.

Certaines entreprises ont déjà pris des mesures pour résoudre ce problème. OpenAI, qui est derrière ChatGPT, cherche à rendre ses réponses plus neutres sur les questions politiques.

La question du million est : Est-il possible de créer une IA complètement impartiale ?

Évidemment, ce n'est pas facile. Imaginez essayer d'expliquer ce qu'est la démocratie sans utiliser un mot qui puisse sonner plus de gauche ou de droite. C'est presque impossible, et c'est ce que l'IA doit affronter. Chaque mot, chaque concept, vient avec son propre biais, connotations et associations.

La conscience de la partialité

En fin de compte, peut-être que la clé ne réside pas dans la création d'une IA parfaitement neutre – bien que la lutte des entreprises pour cela soit très bénéfique –, mais dans la conscience que toute information, qu'elle vienne d'où elle vienne, a un certain type de biais. Et cela inclut l'IA.

Rafa López conclut : Si la structure qui est derrière ces solutions n'est pas fondée sur des informations de qualité et une robuste architecture de données, on offrira aux personnes des visions biaisées ou incomplètes, ce qui, si ce n'est pas résolu et optimisé, sera négatif en ce qui concerne comment les réponses offertes par l'IA peuvent influencer les utilisateurs.

Et enfin, il est essentiel de contrôler la qualité, la véracité et la fiabilité de l'information qui évite les biais, pour éviter de fomentar une plus grande polarisation idéologique.

Apprenez-en plus sur notre travail à ComputerHoy.

Étiquettes : Entrevues, Intelligence artificielle, Logiciel