Annonce : le tome 6 de Grise Bouille est en fin disponible ! Pensez à vous abonner pour ne pas rater les prochains articles !

Panique algorithmique

Publié le 5 octobre 2016 par Gee dans Tu sais quoi ?
Inclus dans le livre Grise Bouille, Tome II

Eh voilà, ça devait bien arriver, j’ai encore pondu une BD à rallonge.

Bon, le sujet est hyper-vaste et pas vraiment simple, mais j’ai essayé de faire au mieux. C’est pas parfait, mais à un moment il a fallu que je bloque le texte, sinon ça serait vraiment parti trop loin (de digression en digression). J’ai essayé de synthétiser à la fois le côté technique et le côté politique sans raconter trop de conneries. Je m’excuse d’avance si je suis passé un peu vite sur certaines notions. Mais si ça peut permettre à certains d’y voir un peu plus clair, c’est toujours ça de gagné.

Plongeons donc dans le monde merveilleux des algorithmes…

Panique algorithmique

💡 « Algorithme ». C'est le nouveau mot à la mode, celui qu'on nous ressort à toutes les sauces même si on ne sait pas du tout de quoi on parle. Il a même eu l'honneur d'une couverture du Point récemment :

La couverture du Point : « Ces algorithmes qui nous gouvernent (Quels sont leurs réseaux ?) » Un type paniqué à côté : « Mon Dieu ! Salopards d'algorithmes ! Ils sont aux commandes de nos vies ! Marine, sauve-nous ! »

Notez que le mot « algorithme » vient de « Al-Khuwarizmi », nom d'un mathématicien perse du IXe siècle.

De là à dire qu'il faudrait que Le Point arrête de taper systématiquement sur les musulmans, il n'y a qu'un pas.

Le type en panique s'enfuit en hurlant : « Maaaariiiiiiiiiiiiiiiiiiiiiiiiiiiiiiinne !!! » Al-Khuwarizmi essayant vainement d'expliquer les maths à une victime de la culture médiatique de la peur : « Non mais c'est pas bientôt fini, ce bordel ? »

⚠️ En tout cas, puisque la presse a décidé de faire de ces « algorithmes » un énième épouvantail à cons (après les roms, le burkini, les casseurs en manif et les chômeurs), je pense qu'il est nécessaire de dédramatiser un peu le sujet.

Un mec commente : « Vous voulez dire qu'on ne va pas céder à l'hystérie collective en pointant du doigt un nouveau bouc émissaire pour nos problèmes ? Je suis super-déçu. C'est bien, le drame, non ? »

Un algorithme, c'est juste une suite d'instructions appliquées méthodiquement pour obtenir un résultat.

Le smiley remarque : « Hé, mais attends, t'avais pas déjà dit ça pour définir un “programme”, la dernière fois ? C'est qu'il nous prendrait pour des lapins de 6 semaines, le mec. »

Précisément.

Un programme et un algorithme, ce sont deux notions proches.

Le smiley, ne se laissant pas avoir : « Ouais ouais. T'as cru que t'allais me feinter, là. Namého. »

▶️ On confond d'ailleurs parfois les deux mots. Pour faire simple, on pourrait dire qu'un algorithme est une notion abstraite et qu'un programme est sa représentation concrète.

Un mec joue du saxophone en lisant une partition. La mélodie est une notion abstraite*, la partition en est une représentation concrète.

Je ne parle bien sûr pas du son émis (qui est une vibration sonore bien concrète) mais du concept même de « mélodie ».

Un programme est donc un algorithme qu'on représente dans un langage informatique.

Et le joueur de saxo, dans tout ça, c'est l'ordinateur.

Mais un algorithme, en tant que suite d'instructions suivies méthodiquement, ça se passe d'ordinateur.

Vous en utilisez vous-même tous les jours.

La Geekette est au bord d'un passage piéton et pense : « s'arrêter au passage piéton BOUCLE regarder à droite SI pas de véhicule regarder à gauche SI pas de véhicule sortir de la boucle FIN-SI FIN-SI FIN-BOUCLE traverser » Ça, c'est un algorithme qu'on apprend assez jeune et qu'on applique mécaniquement ensuite.

Bien sûr, nous ne pouvons pas définir chacune de nos actions sous forme d'algorithmes bien définis et inaltérables.

Déjà, parce que ce serait assez triste…

Une femme et un homme se promène, l'homme a une petite fille à la main. La femme demande : « Mais pourquoi tu persistes à habiller ta gamine en rose ? Elle a horreur de ça… » L'homme s'énerve : « PARCE QU'ON A TOUJOURS FAIT COMME ÇA ! » Dans sa tête, un algorithme : « SI fille couleur = rose SINON couleur = bleu FIN-SI » Il précise : « Casse pas l'algorithme, tu vas détruire la civilisation ! » La petite est blasée.

(Oui bon, okay, y'a des gens qui le font.)

… mais aussi parce que la vie est complexe, changeante et qu'une suite d'instructions définies à un instant ne va pas forcément convenir à toute situation.

Le Geek est bloqué à un passage piéton, il pense : « Il y a un véhicule à gauche, je ne passe pas. Il y a un véhicule à gauche, je ne passe pas. Il y a un… » Dans la voiture arrêtée au passage, le conducteur s'énerve : « BON, TU TRAVERSES, CONNARD ?! » C'est une boucle infinie.

💡 Néanmoins, pour tous les domaines bien balisés, comme l'administration, des algorithmes aussi rigides que des programmes informatiques sont déjà utilisés depuis belle lurette.

Une secrétaire regarde son ordinateur et dit : « Alors, pour votre passeport, il faut que je scanne vos documents, que je prenne vos empreintes, que vous me donniez la référence de votre timbre fiscal… » Là, elle est en train de décrire un algorithme. Si une seule des conditions n'est pas remplie, on ne passe pas à l'étape suivante.

▶️ Dans ce genre de cas, remplacer l'humain par un programme ne comporte que des avantages : le programme va immensément plus vite, ne se fatigue pas, ne se trompe pas (s'il est codé correctement) et fera toujours exactement ce qu'on lui demande.

Un type s'énerve et demande d'un ton accusateur : « Ah bah bravo. Vous trouvez ça bien, vous, de détruire des emplois pour les remplacer par des machines ?! » Gee : « Bien sûr. Ça n'est une catastrophe que s'il n'y a que les propriétaires des machines qui en profitent. Mais chut, on risquerait de parler de redistribution des richesses, de salaire à vie voire de remise en cause du droit de propriété des grands moyens de production… c'est mal vu. »

⚠️ Oui, mais alors, vous allez me dire : avec une administration humaine, on peut discuter, négocier. Les fonctionnaires ont une latitude que n'aura jamais une machine et peuvent s'écarter des instructions (c'est-à-dire de l'algorithme) si besoin.

Le Geek explose de rire : « HAHAHAHAHAHA ! Une latitude ? Dans l'administration ? HAHAHA !  La meilleure vanne de la BD ! HAHAHAHA ! » La secrétaire, bras croisés : « Vous pouvez rire, mais j'attends toujours votre formulaire B65. Le smiley, rigolard aussi : « Quel déconneur, ce Gee ! »

Blague à part, si pas mal de choses dans nos vies sont déjà gérées par des algorithmes bien rigides et définis, qu'est-ce qui fait peur lorsque l'on parle d'algorithme ?

Tout d'abord, l'opacité.

Le robot des algorithmes est représenté dans l'ombre : « Vous ne m'avez pas vu. Vous ne savez pas ce que je fais ni comment. Et vous flippez. Comme je vous comprends. Mouahaha ! » C'est une boîte noire (qu'on pourrait aussi appeler « algo ninja »).

L'opacité est source de craintes et elles sont justifiées.

Si on peut facilement vérifier selon quelles règles fonctionne une administration (même si c'est parfois la Maison des Fous d'Astérix), c'est impossible avec un programme opaque.

⚠️ Pour cela, il y a une condition qui devrait être non-négociable : tout programme utilisé pour les besoins des services publics devrait être à source ouverte. De la même manière que les textes de lois sont en accès libre.

Le robot n'est plus dans l'ombre et dit, gêné : « Je me sens tout nu, d'un coup. » Deux personnages le regardent d'un air suspicieux en disant : « Ouais. Eh bah nous on se sent rassurés de savoir ce que t'as dans le ventre… » L'algo est public, les citoyens avertis.

Une autre crainte ?

L'arbitraire.


▶️ De deux choses l'une. Soit l'algorithme est déterministe :

Une dame s'énerve sur le robot : « Dis donc, ça fait dix fois que je te demande de répartir les élèves dans les collèges de la région et tu me renvoies toujours le même résultat. » Le robot répond : « Bien sûr, je suis déterministe ! J'vois pas pourquoi je ferais quelque chose de différent si tu me donnes toujours les mêmes données ! »

Et dans ce cas, il n'y a pas de différence fondamentale entre un programme et une armée de fonctionnaires qui classent des formulaires selon des règles précises.

▶️ Soit l'algorithme est non-déterministe, ce qui veut dire qu'il comporte une part d'aléatoire :

Le robot lance des dés. La dame, stupéfaite, demande : « Tu fais quoi, là ?! » Le robot : « Bah je répartis les élèves dans les collèges, pourquoi ? »

Notez que les algorithmes non-déterministes ont tout autant d'intérêt que les autres, même si les usages diffèrent.

Typiquement, si un croupier utilise un algo déterministe pour mélanger ses cartes, ça va moyennement bien se passer.

Un vieux Geek joue aux cartes avec le robot et s'exclame : « Rah mais j'ai encore le même jeu ! Tu distribues toujours de la même manière ou quoi ?! » Le robot : « Bah ouais. J'suis pas un sagouin. »

💡 Mais que penser alors de l'aléatoire dans des algorithmes ayant une influence certaine sur nos vies ?

Une représentation des embranchements que la vie de Gee aurait pu prendre pour des raisons futiles, avec une ligne noire au milieu correspond à sa vie. Gee commente : « Moi j'aurais tendance à penser que ma vie n'est qu'une succession absolument chaotique de hasards… alors un de plus ou un de moins… »

Mais ça, ça n'est que mon opinion.

Bah oui, c'est une question d'opinion !

⚠️ Et c'est là toute l'arnaque : si un algorithme n'est qu'un outil sans volonté propre, choisir d'utiliser un algorithme pour gérer tel ou tel aspect de la vie publique, par contre, c'est un choix politique !

Un politicien déclare dans un micro : « Pour ce problème, on a pensé à utiliser un algorim' qui solutionnera tout. » La journaliste remarque : « Mais monsieur le député, la question n'est pas “comment” (via un algorithme), mais “pourquoi” ! »

Et c'est bien le cœur du problème !

Quand le gouvernement a mis en place le flicage généralisé de la population française avec la Loi Renseignement, on a utilisé le mot « algorithme » comme un mot magique :

Le politicien explique, rassurant : « Il ne s'agit pas d'un flicage généralisé puisqu'un algorim' permettra de détecter les comportements suspects. Donc l'anonymat des interceptions ne sera levé que si un comportement suspect est détecté. La vie privée n'est pas violée pour les innocents. » La journaliste, faussement rassurée : « Chic alors. »

BULLSHIT.

La journaliste s'énerve : « Que les comportements suspects soient repérés par un fonctionnaire, un algorithme ou le chien de ma belle-sœur, fondamentalement, on s'en tamponne le processeur ! Si l'anonymat est levé par le programme, c'est qu'il n'a jamais existé ! L'algorithme ne dispose de ni plus ni moins d'informations que celles qu'on lui donne ! Donc la population est bien fliquée intégralement, quoi qu'il arrive ! » Le politicien, transpire en souriant d'un air paniqué : « Ah oui mais si vous maîtrisez le sujet, c'est pas du jeu ! »

Bref, retenez 3 choses sur les algorithmes :

▶️ 1. Il n'y a pas à en avoir « peur ». Un algorithme, ce n'est jamais qu'un processus défini qui pourrait tout aussi bien être effectué par un être humain (il le ferait moins vite, c'est tout).

Exemple : si la machine à composter de la SNCF était un être humain.

Le Geek demande : « Bon alors, vous me le compostez, mon billet ? » Le composteur humain dit : « Attendez, je vais lancer un dé pour savoir si je vous demande de le retourner alors que ça n'a aucune influence sur le compostage*. »

Si si, je vous assure, ne vous embêtez pas à le retourner, réessayez juste dans le même sens.

▶️ 2. Par contre, faites gaffe à ce qu'on vous vend avec ce mot. L'algorithme n'est jamais qu'un moyen. Cherchez toujours la fin derrière ce moyen. Parce que c'est sur ce point que devraient se jouer les débats politiques qu'on essaie de détourner en nous enfumant avec un mot à la mode.

Le politicien continue : « Moui alors pour la gestion des aides au logement, nous allons étudier l'utilisation d'un algorim'… » La journaliste ne se laisse pas avoir : « Non mais on s'en fout. Dites-nous quelles sont les règles. » Le politicien : « Vous voulez pas arrêter de me péter mes effets ? » La journaliste : « Que ce soit un algo ou un gugusse derrière, on s'en bat les gonades. »

▶️ 3. Et enfin, vous allez dire que c'est une idée fixe, mais…

Gee s'exclame : « Hit it, guys! » Le gnou de GNU et le Tux récitent très fort : « PAS D'ALGORITHME ACCEPTABLE SANS ACCÈS AU CODE SOURCE ! » Note : BD sous licence CC BY SA (grisebouille.net), dessinée le 4 octobre 2016 par Gee.

Publié le 5 octobre 2016 par Gee dans Tu sais quoi ?

🛈 Si vous avez aimé cet article, vous pouvez le retrouver dans le livre Grise Bouille, Tome II.

Soutenir

Ce blog est publié sous licence libre, il est librement copiable, partageable, modifiable et réutilisable. Il est gratuit car financé principalement par vos dons. Sans inscription, vous pouvez très simplement me soutenir :

Pour l'année 2023-2024, 10 153 € ont pour l'instant été collectés sur un objectif annuel de 21 000 € (SMIC brut), soit 48 % de l'objectif :

Sources de revenu

L'année étant entamée à 67 %, il y a actuellement un retard de 3 917 € sur l'objectif.

Avancement de l'année

Vous pouvez également, si vous le souhaitez, passer par une plateforme de financement participatif :