SENEGAL-MONDE-SCIENCES-ENJEUX
Dakar, 27 oct (APS) – L’universitaire sénégalais et spécialiste des transformations numériques des sociétés africaines contemporaines Abdoul Malick Ba invite à dépasser “le déterminisme technologique des technophiles et la passivité des technophobes”, pour s’inscrire dans une dynamique d’appréhender “les enjeux politiques, économiques et sociaux de l’intelligence artificielle (IA)”.
Dans un entretien avec l’APS portant sur les bouleversements sociopolitiques avec les IA, le chercheur affilié au Centre européen de sociologie et de science politique (CESSP) de l’université Paris 1 (France) met en garde contre une lecture des technologies qui occulterait “les intérêts économiques et politiques à l’origine de leur développement”.
Il propose notamment d’interroger l’industrie de l’IA sous l’angle de son “caractère extractif, de l’idéologie néolibérale qui la sous-tend, du capitalisme de surveillance, de la prolétarisation cognitive et de l’aliénation du travail humain”.
Le chercheur estime que l’intelligence artificielle ne saurait être considérée “indépendamment des acteurs qui la conçoivent, la déploient et l’organisent en fonction de leurs objectifs”.
Il a mis en relation “le développement de l’IA avec le capitalisme de surveillance”, en citant les travaux de la sociologue américaine Shoshana Zuboff, qui évoque les logiques commerciales à partir de l’exploitation des données personnelles.
Il précise toutefois que “la technologie ne se confond pas avec le capitalisme de surveillance”, elle constitue plutôt “un instrument investi par une logique économique qui l’oriente et la met en œuvre, dans le cadre du paradigme néolibéral actuel”.
La privation des libertés, la prédation, l’aliénation et la prolétarisation cognitive figurent parmi d’autres conséquences associées à cette dynamique.
“Aujourd’hui, les technologies, grâce aux logiques économiques et politiques qui les imprègnent, savent de nous plus que nous en savons sur nous-mêmes. Ainsi, le fossé entre ce que je peux savoir et ce qui peut être su à mon sujet, par exemple, ne cesse de s’élargir, créant un abîme encore plus profond entre ce que je peux faire et ce qu’on peut me faire. Et consécutivement, à chaque fois qu’on se retrouve dépouillé du savoir et du pouvoir, l’ordre social change forcément”, a fait valoir le politiste.
“L’IA en elle-même ne signifie pas grand-chose. Tout est dans les logiques politiques et économiques imposées par l’agent humain”, ajoute-t-il, notant que cette approche devrait aider à éviter deux écueils dans l’analyse des transformations numériques.
Le chercheur faisait notamment allusion à ce qu’il appelle le “déterminisme technologique des technophiles, qui surestiment le pouvoir des technologies, et la passivité déconcertante des technophobes qui ont tendance à sous-estimer leur propre capacité à orienter les usages numériques”.
Aux fins de son analyse, “ces deux tendances ne favorisent pas la délibération qui, comme on le sait, est nécessaire dans ce cas de figure”, allant dans le sens de réfléchir collectivement aux orientations et aux conséquences des transformations technologiques.
Des alertes anciennes sur la “dissimulation de la présence de décideurs derrière l’anonymat des machines”
“La liberté repose sur deux éléments fondamentaux, qui sont devenus aujourd’hui des domaines par excellence des technologies : le savoir et le pouvoir”, avance-t-il.
Le chercheur rappelle toutefois que les inquiétudes liées à l’intelligence artificielle et aux transformations numériques s’inscrivent dans une histoire intellectuelle plus ancienne que l’essor récent des outils génératifs.
Il rappelle qu’en 1939, à la veille de la Seconde Guerre mondiale, l’écrivain et philosophe français Paul Valéry alertait déjà sur les conséquences de l’exagération des moyens de communication, qu’il associait à “une agitation et à une nervosité généralisées”, appelant à “intéresser les esprits au sort de l’esprit”.
Des décennies plus tard, Georges Canguilhem s’est intéressé, dès 1980, aux expressions telles que “intelligence artificielle”, “réseaux de neurones” et “apprentissage automatique”, qu’il considérait comme “des expressions idéologiques tendant à dissimuler la présence de décideurs derrière l’anonymat des machines”.
Abdoul Malick Ba mobilise également les réflexions du philosophe français des mutations sociales et des technologies numériques, Bernard Stiegler, sur la prétendue intelligence des machines et les risques de “prolétarisation cognitive”.
Il en fait autant avec les travaux du philosophe français des sciences Daniel Andler, et d’Anne Alombert, évoquant ce que cette dernière appelle “la bêtise artificielle”.
Au-delà des effets sociaux et politiques des technologies actuelles, le spécialiste des transformations numériques des sociétés africaines contemporaines a aussi insisté sur les interrogations relatives à l’éventuelle autonomie de l’intelligence artificielle.
Il considère qu’une “IA autonome, si l’on se réfère à l’autonomie véritable, n’aurait pas accepté qu’on lui impose absolument des catégories éthiques”, ajoutant : “Elle devrait, par elle-même, agir selon ces acceptions de l’éthique, sans quoi, elle ne resterait qu’un outil docile que l’humain façonne avec un certain degré de conditionnement”.
Poursuivant, le docteur en sciences politiques souligne que “la question de l’éthique risquerait d’échapper aux humains si les IA arrivaient à être autonomes”.
“C’est là, d’ailleurs, toute l’inquiétude des futuristes en matière d’éthique de l’IA. En effet, tout système ou organisme autonome qui veut faire et peut faire le mal, pourrait alors le faire. Compte tenu de sa puissance et de son auto-déterminisme, même s’il n’est pas supérieurement intelligent, il constituerait une menace terrible”, fait-il observer.
Une autre possibilité consisterait à confier à l’IA la définition d’une doctrine éthique destinée aux humains, notant toutefois que cette hypothèse soulèverait “un problème de circularité et de conflit d’intérêts”, en ce sens que l’intelligence artificielle serait amenée à “raisonner sur les valeurs, sur le bien et le mal, ainsi que sur les décisions éthiques qui encadreraient son propre fonctionnement”.
Sur une touche d’optimisme, l’universitaire sénégalais établi en France indique que l’on pourrait se rassurer, cependant, “en considérant que malgré le fait que l’humanité a, de tout temps, eu affaire à des agents autonomes animés par des pulsions thanatocratiques, à savoir certains humains à l’image d’Hitler, elle a toujours réussi à limiter leur pouvoir de nuisance, tant bien que mal, en déployant son intelligence collective”.
SMD/HK/HB/BK