Système de notation et éthique globalisée

Métiers InteractivitéVeille
Programmes Interactivité

Analyse psychanalyste de l’évaluation et notation : quel en est le but ?

 

Depuis le début de notre scolarité, nous sommes notés afin de voir ou évaluer nos compétences pour déterminer si nous pouvons continuer notre scolarité. Ce système est toujours présent, et nous sommes généralement conditionnés à les suivre.

Est-il nécessaire de noter, ou est-ce un système qu’on utilise trop ?

 

Avant de commencer l’analyse, il faut d’abord connaître les définitions des deux termes, soit “evaluation” et “notation”.

D’après le dictionnaire CNRTL, la notation est une “action de traduire l’appréciation d’un travail par une note en chiffres ou en lettres assorties généralement d’un commentaire.”

Pour la définition de “évaluation”, “évaluer consiste à établir une comparaison entre un produit donné et une norme de référence” d’après Brigitte Petitjean dans Formes et fonctions des différents types d’évaluation. Avec des deux définitions, on peut dire que l’évaluation et la notation se complète. L’évaluation utilise la notation pour noter.

 

D’après Bénédicte Vidaillet, une psychanalyste, elle réclame que l’évaluation soit une obsession dans notre société.

Elle dit : “L’évaluation n’est pas qu’une méthode de management, c’est devenu un mode d’organisation qui s’est propagé dans tous les secteurs d’activité, du jeu télévisé à l’action politique. […] Globalement, tout le monde se plaint de la méthode qui engendre pression, stress et compétition voire triche et contre-performances. Nous sommes conscients des effets pervers mais paradoxalement, nous en redemandons. En fait, nous voulons être évalués et nous souhaitons également évaluer.”

Elle explique ensuite pourquoi l’évaluation est souvent utilisée.

Une première raison est qu’elle semble donner des repères, un cadre temporel : elle fixe des objectifs à atteindre. Cela renvoie à la notion d’épreuve de la réalité de Freud : qui découpe le travail en une succession d’épreuves avec objectifs et échéances. Cette division peut rassurer l’individu. Deuxièmement, l’évaluation renferme une promesse narcissique dans un monde individualisé, qui est celle d’être le meilleur, de dépasser la norme sociale. L’individu peut se démarquer, ce qui peut ouvrir des portes dans le milieu professionnel.

 

Néanmoins, l’évaluation peut avoir des côtés néfastes sur l’individu. D’après Bénédicte Vidaillet, l’évaluation remplace le “désir inconstant par un dispositif normé et continu”. L’évaluation met en place un système de récompense qui enlève le désir de réussite. La motivation devient donc artificielle. “Plus vous vous intéressez à ce que vous pouvez tirer comme récompense, moins vous vous intéressez à l’activité elle-même.  L’apprentissage de l’action n’est donc pas optimal.”

Il y a bien sûr plusieurs points positifs et de points négatifs, mais ces derniers sont retenus le plus souvent. Les conséquences de l’évaluation sont connues et bien réelles : triche, démotivation, problèmes de santé, délitement du collectif, et même le burnout.

 

Ainsi, l’Éducation Nationale essaye de trouver des solutions pour éviter les impacts néfastes.

Ils ont enlevé les notations chiffrées à une évaluation de “compétences”. Les notes pour les compétences sont entre rouge et vert. Plutôt d’insister les faiblesses sur un sujet X, ils diront d’un élève qu’il est bon ou mauvais via la note qu’il a reçue.

 

Fiction et dystopie 

 

Nous nous sommes souvent dit que les livres et les films racontaient des fictions et des dystopies. Mais en réalité, cela semble plus proche qu’on ne le croit.

 

Le film The Circle réalisé par James Ponsoldt, sorti en 2017 [bande annonce : https://www.youtube.com/watch?v=QCOXARv6J9k], nous montre un groupe d’individus qui évoluent sur un campus où le digital est partout. Au départ tout commence par la quête du meilleur score : Mae est notée sur la qualité de son travail, les activités qu’elle fait sur son temps libre, etc. Mais pour aller de plus en plus loin on lui offre une opportunité unique, pouvoir tester en avant première la prochaine innovation digitale. Elle se retrouve donc à se filmer toute la journée grâce à une toute petite caméra hyper puissante. Vivre en toute transparence. Mais en échange de quoi ? Plus aucune vie privée, plus aucune liberté, vivre dans un monde où nous sommes continuellement surveillés. L’entreprise The Circle prend de plus en plus part à une politique intrusive. La société a beau être surveillée de près, elle gagne un tel pouvoir sur la toile que cela devient même un problème démocratique.

Le film nous dépeint tous les bénéfices des nouvelles technologies pour le bien de l’humanité. Côté santé, le bracelet connecté relié à une puce dans notre corps permet d’éviter le développement de maladie. Mettre des caméras partout permet de vivre en sécurité, en toute transparence afin d’éviter toute censure et cela nous permet de retrouver en 20 min les plus grands criminels.

Bien que ces idées sont altruistes et soi-disant désintéressées elles cachent toutes une face cachée : fichage médical, fichage politique, abolition totale de la vie privée… Tout le monde surveille, traque, juge tout le monde. Seuls certains privilégiés ont la main mise sur toute ces données. Cela ne reflète-t-il pas déjà le portrait de certaines grosses entreprises dépendantes de nos informations personnelles sur la toile ?

Ce film cherche à nous faire prendre conscience des dangers inhérents aux réseaux sociaux et d’un monde trop connecté.

 

Un autre exemple très intéressant : le premier épisode de la saison 3 de la série Black Mirror, intitulé Nosedive (Chute libre) [bande annonce : https://youtu.be/7s48IP6d37k]. Bien qu’on nous plonge dans un univers intemporel où tout n’est que couleur pastel, ce décors nous rappelle énormément notre monde actuel. Un monde de faux bonheur rempli de faux semblants. Cet épisode met en avant une société hiérarchisée dans laquelle des groupes d’individus cumulent des avantages en fonction d’un score attribué par autrui par rapport à la qualité de l’échange social qu’ils ont eu. Certains groupes cherchent à imiter le groupe supérieur dans l’optique de gagner plus de points et donc plus d’avantages, d’autres se contentent de se conformer aux normes et certains en dévient. L’économie qui dirige cette société, et notre société finalement, cherche à marchandiser et exploiter les données personnelles. Cet épisode dépeint fortement notre usage des réseaux sociaux auxquels nous sommes temps attachés et dépendants de nos jours.

Nous sommes conscients de ce vers quoi nous allons et pourtant nous y allons tête baissée. Nous évoluons dans un monde qui devient de plus en plus tourné vers les apparences et surtout de fausses apparences, où la gentillesse est narcissique et l’individu seulement ouvert vers lui-même.

[Source : “Black Mirror : Nosedive, la déshumanisation du futur”, https://nospensees.fr/black-mirror-nosedive-la-deshumanisation-du-futur/ ]

 

Caméra de surveillance, profils sur les réseaux sociaux, historique de recherche, etc. Où est la limite à la collecte de nos données personnelles ? Si aujourd’hui nous faisons un état des lieux de toutes nos informations sur internet, quel portrait de nous ressortirait ?

 

Cela semble proche de la réalité mais finalement tout ça est bien réel.

 

Système de notation des citoyens en Chine 

https://www.franceinter.fr/monde/la-chine-distribue-des-bons-et-des-mauvais-points-a-ses-citoyens

 

La Chine est premier pays avec le plus gros réseau de vidéosurveillance au monde et détenant une intelligence artificielle de reconnaissance faciale à la pointe de la technique. En 2016 la Chine compte une caméra de surveillance pour 8 personnes et d’ici 2020, le pays compte aller plus loin avec 1 caméra pouvant surveiller 2 habitants à la fois.

 

Ce système de surveillance de masse, positionne la Chine sur le podium des pays les plus voyeuristes du monde, malgré ça, la Chine ne s’arrête pas là dans sa frénésie. En 2020 le gouvernement Chinois souhaite instaurer un système national basé sur la surveillance des habitants pour leur attribuer une notation de réputation celle-ci étant actuellement testée dans certaines contrées du pays. Le fonctionnement est simple, chaque citoyen possède une note qui va de 350 jusqu’à 950 points de crédit social se basant sur les données que détient le gouvernement sur chaque citoyen, à savoir : son statut social, son activité au sein du pays, sa moralité sur les réseaux sociaux, jusqu’à sa manière de conduite et de se comporter en public. Si le seuil des points est inférieur à 350, les fautifs s’en voient encourir les sentences suivantes : délation en public, interdiction de prendre les transports en commun, trains et avions, interdiction d’inscrire ses enfants dans certains établissements scolaires et accès limité à certain service public. Ce système de contrôle est né tout d’abord dans les banques du Pays pour attribuer une notation aux clients jugés les plus sérieux, et consciencieux, ce qui entraîne des avantages pour ces derniers. Cette pratique n’est pas nouvelle et existe dans un autre degré dans d’autres pays. En France et aux États-Unis, les citoyens qui souscrivent à un contrat dans une banque ou assurance reçoivent des bonus et des malus en fonction de leurs actions et de leurs profils. Aussi un Américain obèse se verra attribuer moins d’avantage qu’une personne plus mince qui est en meilleure santé sous prétexte qu’il est potentiellement plus “néfaste” pour un État d’accepter des personnes en surpoids. Ainsi, attribuer un coût à des pratiques permet d’inciter toute une population à changer de meurs, ce qu’on appelle autrement “le signal prix”.

En Chine, ce système d’évaluation poussé à son extrême entraîne une uniformisation dans les comportements de ses citoyens. Ces derniers craignant la représaille de la part de l’État ne souhaitent pas s’exprimer à l’encontre du système, ce qui fonde alors, une société conformiste, sans esprit critique, ni rébellion envisageable. Séverine Arsène – Chercheuse au média Lab des Sciences Po explique dans le journal Le Monde que “le gouvernement chinois exploite habilement ce que nous ont appris les réseaux sociaux sur la tendance naturelle des gens à livrer volontairement leurs données personnelles et à se soumettre à des normes qu’ils n’ont pas choisies, en échange de services qui leur facilitent la vie et leur apportent diverses formes de reconnaissance sociale”. De plus en plus on peut voir émerger des versions occidentales de ce système basé sur la notation d’individus comme Credo 360 ou Peeple qui permet d’évaluer le profil des n’importe qui était sur l’application de sorte à effectuer en toute sérénité, des transactions sur internet entre personnes de “confiance”.

 

Or, que ce soit par le système de notation Chinois ou ceux mis en place par des sociétés du digital, le verdict est le même : l’humain est considéré comme une marchandise que l’on peut manipuler comme on le souhaite pour servir à la société. Par le biais de ses systèmes, l’homme n’est plus considéré pour ses vraies qualités, sa personnalité mais pour ce qu’il est en mesure d’apporter et de rapporter à un État. Elle enrichit une société basée sur le mensonge, l’apparence, la superficialité et le paraître.

 

Le système de notation implicite, une question d’éthique et d’équité. 

 

Dans de nombreux logiciels en ligne, notamment les jeux, il est accepté qu’un classement implicite des joueurs soit réalisé afin d’organiser des rencontres d’un niveau équilibré. Ce système de notation et de classement, bien qu’il soit implicite est admis par les joueurs car il permet d’améliorer l’expérience de jeu de chacun.

Ce système, inspiré du modèle ELO utilisé initialement pour classer les joueurs d’échecs est devenu une norme dans ce secteur et notamment dans l’E-sport.

Cependant, ce procédé peut déranger lorsqu’il n’est pas appliqué au cadre du jeu en tant que tel.

Une récente polémique a éclaté en Mars 2019, suite à la publication du livre L’Amour sous Algorithme de Judith Duportail dénonçant l’utilisation d’un classement implicite au sein de l’application de rencontre Tinder. Cette algorithme à l’image d’un ELO attribue une note de “désirabilité” aux utilisateurs afin de favoriser les rencontre d’un même “niveau”. Dans le domaine de la rencontre l’utilisation de telles méthodes dérange car supprime le facteur aléatoire cher aux utilisateurs les plus “romantiques”. Il semble donc que certains enjeux, certains thèmes, certains domaines ne soient pas propices à l’utilisation de systèmes de classement, même si ceux-ci ont pour but premier d’améliorer l’expérience utilisateur.

 

L’utilisation d’algorithmes de notation et de classements explicites pose également des questions au niveau de l’équité et de l’égalité. En effet, comment être sûr que ces systèmes opaques, voire dissimulés (à l’image de Tinder) ne favorisent pas certains utilisateurs ou ne créent pas une fracture sociale entre ces derniers ?

C’est ce que dénonçait également la polémique ayant éclaté autours de l’opacité du système de classement de la plateforme de choix post-bac Parcours Sup. Ici, l’opacité de l’algorithme est utilisé par l’état comme argument validant une forme d’objectivité, en effet, si l’algorithme n’est ni accessible, ni compréhensible par ses utilisateurs il est impossible pour ces derniers de le “cracker” et d’utiliser une stratégie les mettant en valeur.

De l’autre côté de la polémique, cette opacité est critiquée car opposée à l’ancien système basé sur le tirage au sort. Elle pourrait favoriser certains profils. À l’image des “grades” dans les jeux vidéos ce classement pourrait créer un frein à l’ascenseur social en créant des “castes” de niveaux.

 

Si les utilisateurs semblent prêts à laisser des algorithmes guider leur parcours dans les  domaines ludiques, cette idée est sujet à débat lorsque l’on s’approche de thèmes moins légers. En effet, dans ces cas, la déshumanisation et la rigueur sont dérangeantes, les utilisateurs préfèreront des systèmes plus “naturels”, peu à l’aise à l’idée de laisser leur destin entre les mains d’un ordinateur même si celui-ci leur garantit les meilleurs résultats.

 

Usager ou rouage principal du système de notation  

 

Noteurs et notés

Il y a un peu moins d’un an, Uber mettait sur pied l’évaluation des clients par leurs chauffeurs. Basé sur le système classique de notation par étoiles, il permettait aux conducteurs de la plateforme américaine de VTC de choisir les passagers qu’ils prennent en charge et donc ceux qu’ils refusent en fonction des avis déposés par leurs confrères. Déployé dans quelques régions, ce système a fait ses preuves et permet à Uber de filtrer sa masse d’utilisateurs tant côté prestataires de services que consommateurs. Il s’agit d’une manière de se prémunir de tout incident relevant de comportements “déviants”. On peut aussi conclure que certains utilisateurs peuvent être, à terme, exclus des services appliquant ces méthodes.

 

A la rencontre des “raters”

De l’autre côté de la “matrice”, les grands groupes du web engagent des petites mains destinées à filtrer du contenu, encore et toujours. Leur mission est de faire office de gardes fou et prévenir la parution ou la diffusion de tout contenu ne respectant pas les conditions d’utilisations des grandes plateformes qu’ils scrutent pendant des heures. Étudiants, homeworkers, femmes au foyer, ils travaillent indirectement pour Google, Amazon ou Microsoft. Ils s’appellent eux-mêmes human raters quand le langage plus officiel des intitulés les baptise Internet evaluators ou Internet assessors.

Certains raters passent leurs journées à effectuer des missions de 3 à 15 minutes pour lesquelles ils reçoivent des sommes d’argents minimes. Sur des dashboards, ils peuvent suivre leurs activités de travail pour lesquels ils perçoivent un salaire de 12€ par heure en moyenne. Cette situation précaire nécessitant des amplitudes de travail très importante reste le quotidien de nombreux utilisateurs, à la fois évalués et évaluateurs.

 

Search Quality

Afin d’ordonner le web et d’affirmer des grandes lignes directrices de conditions d’utilisations, certains géants du web n’hésitent pas à publier en interne des guidelines, destinées aux modérateurs et responsables des plateformes. Google par exemple affine depuis de nombreuses années son moteur de recherche et vise à être toujours plus rapide et efficace. Pour cela, les résultats des recherches se doivent d’être les plus pertinents possibles et ne pas déroger aux standards de qualité de la firme. Google a donc créé un guide. Le guide des quality raters (ou « search quality evaluator guidelines ») est un document qui est fourni aux intérimaires embauchés par Google pour évaluer la qualité des résultats à partir d’une interface logiciel spéciale qui leur est fourni pour faire remonter les « notes » qu’ils attribuent. Derrière des monstres technologiques, comme l’est Google par exemple, il existe toujours de petites mains, nécessaire pour faire le tri, conserver les bonnes informations, du moins aux yeux des grands groupes qui les embauchent.

 

Nous nous interrogeons alors sur la pertinence du web que nous créons et de la typologie d’utilisateurs à laquelle il se destine. Sommes nous les artisans d’un web inéquitable ?

 

Nous pouvons affirmer avec certitude que l’évaluation et la notation seront toujours des piliers incontestés dans notre société, dont les formes et les buts varient. Certaines institutions comme l’Éducation National recherchent et expérimentent différents types d’évaluation pour réduire les conséquences néfastes qu’elles peuvent impliquer chez certains élèves. Il sera pertinent d’observer la direction qu’empruntera les systèmes de notation à travers les choix politiques et économiques des prochaines années.

 

Camille Campo – Guillaume Le Mené – Aurélie Care – Raphaëlle Gorenbouh – Paul Poirier

I3A – 2019

 

Partager cet article

Articles liés

22 vues
Art numérique: comment en est-on arrivé là ?octobre 19, 2019 par Guillaume CHUQUET
203 vues
une
L’avenir de l’Homme réside-t-il dans la techn...juin 24, 2019 par Meriem GHARBI
201 vues
l-ere-de-la-connexion-permanente-a-vos-ordres-j-ecoute-okm373142
L’intimité et la connexion permanentejuin 12, 2019 par Paul POIRIER

Articles Populaires

Laisser un commentaire