Depuis le jour où D2L a ouvert ses portes, je nous ai vus comme une entreprise apprenante d’abord, puis une entreprise technologique. Au cours des vingt dernières années, alors que les outils technologiques que nous utilisons ont constamment évolué, les valeurs qui guident la façon dont nous les appliquons à l’apprentissage n’ont pas changé d’un iota. Mais rester fidèle à ces valeurs est un défi permanent, en particulier au vu des progrès presque quotidiens que nous constatons dans des domaines tels que l’analyse des données et l’intelligence artificielle.
Ce qui me rappelle cela à l’esprit est une conversation récente que j’ai eue avec John O’Brien. Je connais John depuis 2002, et il a construit sa carrière autour de la recherche de moyens pour que la technologie fasse une différence positive dans la vie des étudiants universitaires et collégiaux. Depuis 2015, John est le président-directeur général d’EDUCAUSE, une association à but non lucratif composée de plus de 2 000 collèges, universités et organisations basés dans 45 pays, tous unis par la cause de l’avancement de l’enseignement supérieur grâce à l’innovation technologique.
John et moi avons commencé par parler de l’éthique dans l’innovation numérique, et en quoi elle ressemble au mouvement « l’écriture dans le programme d’études », qui cherche à incorporer une écriture efficace dans tous les cours du programme, car elle est essentielle pour tout le monde. Comme le voit John, il en va de même pour l’éthique : nous avons besoin d’un mouvement « éthique dans le programme d’études ».
John m’a parlé d’un récent sondage montrant que sur 13 établissements de premier plan menant des projets numériques utilisant les données des étudiants, trois seulement avaient utilisé un cadre éthique formel. « Y a-t-il quelqu’un dans votre université ou votre collège dont le travail à temps plein est de se soucier de ces choses ? » est une question que John aime poser aux gens. Il croit que la réponse doit être un « oui » ferme, idéalement sous la forme d’un responsable de la protection de la vie privée. Il estime également que les universités et les collèges devraient avoir un inventaire des questions qu’ils posent aux fournisseurs avant de travailler avec eux.
En tant que l’un de ces fournisseurs, je suis d’accord.
Ce que John nous dit, c’est que les considérations éthiques doivent être présentes à l’esprit en tout temps. Il aime citer une citation de la scientifique des données Cathy O’Neil : « Les algorithmes sont des opinions intégrées au code. » Par exemple, si le logiciel d’assurance automobile est conçu pour utiliser à la fois votre dossier de conduite et votre pointage de crédit comme critères pour décider si vous pouvez ou non obtenir une assurance, est-ce une forme de préjugé intégré ?
Ou qu’en est-il des problèmes soulevés par l’utilisation de l’IA pour mener des entretiens d’emploi? « Si nous utilisons une technologie qui donne aux gens des rangs plus élevés s’ils sourient beaucoup ou font des gestes plus que les autres, cela me préoccupe », déclare John. Cela nous a rappelé les tests d’aptitudes qui étaient à la pointe à l’époque que nous avons passés en tant qu’étudiants du secondaire. Celui de John recommandait une carrière dans l’exploitation minière du charbon. Le mien disait que j’étais destiné à être mécanicien.
Ces problèmes ne sont donc pas nouveaux. Comme le souligne John, dans notre passé analogique, « la façon dont nous évaluions les étudiants, la façon dont nous déterminions ce qui constitue un cours ou un diplôme, c’étaient également des algorithmes, n’est-ce pas ? » Les préjugés ont toujours été un problème ; ils sont tout simplement plus urgents que jamais.
Malgré ses notes de prudence, John dit qu’il y a beaucoup de raisons d’être optimiste. Par exemple, le MIT lève 1 milliard de dollars pour créer un nouveau collège qui financera 50 postes de professeurs autour de l’intelligence artificielle, y compris la prise en compte interdisciplinaire des implications éthiques. Son rêve est qu’au fil du temps, le programme d’études se soit élargi au point où « tout le monde est exposé à la pensée éthique ».
Grâce à son travail continu en tant que penseur, conférencier et leader chez EDUCAUSE, John aide à faire de cet avenir une réalité. Et il le fait avec le même enthousiasme pour le rôle de la technologie dans l’apprentissage qu’il avait avec son premier ordinateur en 1984. « Je suis tellement enthousiasmé par ces nouvelles technologies émergentes », déclare-t-il.
L’astuce, je pense, est d’être aussi éthique dans votre approche aujourd’hui que demain, afin que vous puissiez également garder toute la technologie éthique.
Written by:
