François Lesueur
Mastodon
Blog (new) Blog (old)Je ne vais pas refaire ici un grand débat sur l’IA générative pour produire du code (de ChatGPT à Claude en passant par Copilot), mais juste un constat : dans le monde de l’informatique, il y a des proportions représentatives de défenseurs de l’IAgen comme outil merveilleux, de personnes assez neutres l’acceptant comme un outil parmi d’autres, et d’opposants clairs à ce sujet (on parle même de plus en plus d’objection de conscience sur le sujet).
À titre personnel, pour être transparent dès le début de cet article, je suis radicalement du côté des opposants, et j’ai de plus en plus de mal à imaginer que je fais le même métier que ceux qui embrassent ce monde de l’IAgen. J’ai déjà connu ça dans le monde de la sécurité numérique, quand mon monde qui était porté par des hackers rebelles s’est retrouvé phagocyté par le monde militaire et bancaire : était-ce encore le même métier, les mêmes valeurs ? C’est le genre de moments où, je pense, la confusion des termes fait du mal. Si ce n’est plus le même métier, il faut savoir le nommer, pour savoir ce que l’on fait, avec qui, savoir s’orienter. Ainsi ont (plus ou moins) été utilisés des termes comme privacy ou sécurité émancipatrice (sans grand succès pour celui-là ;-) ) pour tenter de comprendre le monde qui nous entoure. Nommer et classer, c’est un travail pour comprendre le monde et s’orienter.
J’ai l’impression d’arriver avec l’IAgen à un moment similaire à celui que j’ai connu côté sécurité : un concept qui croît, qui prend une importance majeure (encore plus pour l’IAgen), et qui redéfinit les contours d’un métier qui me concerne, ses compétences, ses pratiques, ses valeurs. Et je chemine pour essayer de comprendre.
Dans ce post, je fais un parallèle avec l’agriculture, le bio/paysan contre le conventionnel/industriel, voir si on y trouve un lien et un positionnement.
Alors là, prenez bien ce billet de blog pour ce qu’il est : quelques réflexions d’un informaticien, pas d’un historien ni d’un agriculteur… Et plus que l’histoire de l’agriculture, c’est mon impression de ce qu’elle a été. Donc inexact, mais le but ici n’étant pas de parler agriculture, on va dire que ça passe.
Au commencement de l’agriculture elle était, évidemment, une agriculture assez naturelle. L’idée était déjà d’aménager de contrôler des éco-systèmes, mais cela se faisait par le travail humain, progressivement aidé par des outils (de la faux au tracteur). Les outils décuplaient les forces des agriculteurs, créaient déjà probablement une dépendance aux constructeurs de tracteurs (c’est difficile de construire un tracteur dans son jardin à partir d’éléments récoltés dans la forêt).
Bien que cette dépendance aux constructeurs ait commencé à exister, l’arrivée du monde de la biochimie dans l’agriculture me semble avoir eu un impact bien plus fort sur l’équilibre du monde. Dans la biochimie, j’entends autant les produits phytosanitaires que les semences transgéniques. On arrive à un système extrêmement dépendant de produits (engrais, herbicides) difficiles à assembler, aux conséquences incertaines (sur la santé des agriculteurices, sur l’impact des aliments, sur les sols) et dont la diffusion est contrôlée par un petit nombre d’acteurs. Côté semences, on retrouve la même concentration d’acteurs avec des semences qui, au lieu de permettre leur réutilisation d’année en année, sont stériles et doivent être rachetées chaque année aux mêmes acteurs. C’est résumé, mais cela dresse un portrait.
Pour autant, en marge de cela, d’autres modèles ont continué à exister et, surtout, se sont renforcés ces dernières années. Je pense à l’agriculture biologique, qui est en fait l’agriculture historique, qui avait (presque) disparu (?) et s’est finalement renforcée depuis une dizaine d’années avec aujourd’hui, comme exemple visible, une présence assez forte dans tous les supermarchés. Je pense aussi à l’agriculture paysanne en modèle opposé à l’agriculture industrielle. Je pense enfin à l’atelier paysan (même si les nouvelles ne sont pas bonnes), qui milite pour l’autonomie technique avec par exemple de l’outillage low-tech. On assiste ainsi à la réémergence des pratiques historiques, de manière certes pas majoritaire mais largement représentative. Des personnes s’installent, se regroupent.
J’y vois plusieurs choses, un besoin qui est resté, des personnes qui s’y reconnaissent (autant du côté de la production que de la consommation) et qui ont réussi à se retrouver. Ces personnes ont probablement toujours existé et leur regroupement doit aussi à la création de réseaux, à la place pour comprendre ce qu’ils veulent, la différenciation au mouvement majoritaire de l’agriculture industrielle. Et au cœur de tout ça, il y a donc eu la mise en place d’un vocabulaire qui permet de comprendre qu’un paysan bio exerce une pratique, des compétences, des connaissances, un métier différent d’un agriculteur industriel.
Alors certes, ma présentation de l’histoire de l’agriculture n’a pas été écrite au hasard et le parallèle avec l’informatique et l’IAgen va être du coup facile à établir. Mais le temps passe et je commence à croire que l’on pourrait vivre des histoires similaires.
L’informatique a été une pratique d’abord marginale à sa conception, puis majeure depuis plusieurs dizaines d’années avec la numérisation du monde. Elle est loin d’être aussi nécessaire physiologiquement que l’alimentation, mais son arrêt serait tout de même assez compliqué à gérer… Bref, ça a une sacrée place aussi.
Je retrouve chez les informaticien·nes d’hier des pratiques paysannes (i.e., de l’agriculture pré-biochimie). On utilisait déjà de nombreux outils qu’on ne sait pas construire dans son jardin (des CPU aux compilateurs) et la dépendance aux fabricants de CPU étant donc bien existante, concrète. On l’acceptait, un peu comme les tracteurs. On rêvait de s’en passer un jour, aussi, on y travaillait et sur les autres aspects de l’informatique j’ai plutôt assisté à une ouverture progressive (avec le mouvement du logiciel libre par exemple).
Puis arrive l’IAgen, la biochimie de l’informatique. La productivité augmente (en tous cas on le croit, les études existantes ne semblent pas si probantes sur le sujet), quelques géants émergent (OpenAI, Anthropic, …) et, on s’en doute, vont gagner en contrôle sur la chaîne globale. En même temps, les métiers de l’informatique (mais pas que) évoluent largement autour de cette nouveauté. Plus les mêmes compétences, plus les mêmes connaissances, plus les mêmes pratiques : plus le même métier ?
Et cette vague d’IAgen, qui peut tout autant être une bulle qu’un mouvement qui restera (je n’ai pas de boule de cristal, on peut hypothéser les deux), comme je le disais au début, attire à la fois des adhésions et des rejets. Je ne sais honnêtement pas comparer les volumes, l’usage commence à être gigantesque mais il est parfois aussi contraint, et ce n’est pas le sujet ici : il y a des personnes qui adorent, en nombre non anecdotique, et des personnes qui rejettent, en nombre non anecdotique également. Ces personnes qui adorent et rejettent sont tout autant présentes chez les producteurs (informaticiens développeurs) que chez les consommateurs (utilisateurs). Je constate aussi que, tout comme le mot “agriculture” est devenu implicitement biochimique-compatible, le mot “informatique” devient implicitement IAgen-compatible.
Est-ce que, progressivement, on ne va pas aller vers une différenciation des métiers, des usagers, des “chaînes de valeur” ? On voit apparaître des logos “No IAgen”, peut-être verra-t-on aussi apparaître des termes “positifs” (i.e., pas en refus d’une technologie, mais en affirmation de valeurs et pratiques différentes, ce qu’est “le bio”).
Dans ce monde de brutes, l’écriture de ce billet me ramène un peu d’optimisme. Tout comme l’IAgen prétend avoir le potentiel pour résoudre de nombreux problèmes, l’agriculture industrielle prétend être la meilleurs solution pour nourrir une large population. On peut (on doit) remettre en cause ces revendications, mais ce parallèle me convainc que face à cela, l’alternative agricole bio/paysanne s’est maintenue et revient.
J’aimerais idéalement que l’informatique IAgen/industrielle se calme un peu à l’échelle globale, mais à mon échelle locale personnelle j’aimerais déjà avoir des mots à mettre sur “mon” informatique, “mon” métier, savoir où je vais et avec qui je me regroupe.
Je suis un informaticien bio ! :-)
Pour en discuter sur le fediverse, c’est ici.
Et voilà, je suis encore énervé… Il y a quelques jours, je suis tombé sur une discussion sur la mise en place d’EDR dans les labos de recherche. Ça avait failli me tomber dessus à une époque…
D’après Wikipedia, un Endpoint detection and response (EDR) désigne une technologie logicielle émergente de détection des menaces de sécurité informatique sur les équipements numériques (ordinateurs, serveurs, tablettes, objets connectés, etc.). Les EDR sont une évolution de l’antivirus, de l’IDS et du pare-feu. Le terme « endpoint » désigne communément les serveurs, ordinateurs personnels et telephones mobiles d’entreprise. Ce sont donc des logiciels de sécurité, assez intrusifs (au sens où ils analysent beaucoup d’éléments), et qui s’exécutent côté poste utilisateur.
Et là, sans crier gare, par une incroyable coïncidence totalement imprévisible, on en arriverait à ça (extrait de cette présentation mentionnée dans le fil) :
Les “comportements malveillants” détectés par l’EDR sont donc :
On en est au point où, déjà, une telle liste peut paraître positive (youhou on a détecté des trucs, sans intérêt certes, mais on a vu des trucs donc ça marche [sic]). Mais, surtout :
Et voilà, sous couvert d’annoncer protéger des secrets stratégiques des cyber-villains du pays de votre choix, on se satisfait en fait d’espionner (et restreindre) l’intimité et les usages des utilisateurices (employés qui, ici, ne sont pas des attaquants internes).
Évidemment, rien de réellement surprenant. C’est un mouvement de fond, et je râlais même déjà en 2017. La sécurité était un mouvement alter, elle est devenue un outil au service de la surveillance. La sécurité dans le monde physique est depuis longtemps (toujours ?) associée à un certain niveau de surveillance, bien avant déjà que l’on parle de vidéo-surveillance par exemple. Une dose de surveillance semble inévitable (?) pour cette sécurité du monde physique, sans (du tout) défendre la surenchère actuelle de caméras et de traitements automatisés ensuite.
Cependant, le monde numérique a pris une telle place dans nos échanges qu’il est indispensable de s’émouvoir de cette surveillance encore accrue (les EDR ici, mais aussi Chatcontrol ou le futur Recall de Microsoft). L’espionnage de notre intimité numérique, vue la place du numérique dans nos vies, a un impact majeur sur nos activités, nos décisions, ce que nous nous autorisons à faire ou investiguer. Il y a toujours eu des comportements hors des clous, sciemment ou pas, et leur détection était soit coûteuse soit irréaliste. Là, on réduit le coût de quelques ordres de grandeur.
Sur un terrain plus personnel, c’est le genre “d’avancées en matière de sécurité” qui m’ont fait comprendre que mes valeurs étaient du côté du libre/des communs et non de la sécurité numérique en général, qui en grande partie n’a de cesse de pousser des mécanismes de surveillance sous couvert d’ajouter de l’observabilité (motivation légitime, mais impactante). Leurs valeurs convergeaient relativement à une époque, ce n’est plus le cas aujourd’hui. Le libre a également des problématiques et des propositions en matière de sécurité, mais qui sont intrinsèquement assez incompatibles avec l’augmentation du niveau de surveillance : c’est un bien meilleur terrain ;).
Pour en discuter sur le fediverse, c’est ici.