{"id":354279,"date":"2023-09-08T13:00:00","date_gmt":"2023-09-08T17:00:00","guid":{"rendered":"https:\/\/www.cia-ica.ca\/news\/risques-principes-et-reglementation-de-lintelligence-artificielle\/"},"modified":"2024-11-04T11:07:31","modified_gmt":"2024-11-04T16:07:31","slug":"risques-principes-et-reglementation-de-lintelligence-artificielle","status":"publish","type":"news","link":"https:\/\/www.cia-ica.ca\/fr\/news\/risques-principes-et-reglementation-de-lintelligence-artificielle\/","title":{"rendered":"Risques, principes et r\u00e9glementation de l\u2019intelligence artificielle"},"content":{"rendered":"\n

Introduction<\/h2>\n\n\n\n

Depuis peu, l\u2019intelligence artificielle (IA) pique la curiosit\u00e9 de tout le monde. Bien que l\u2019\u00e9l\u00e9ment \u00e0 l\u2019origine de toute cette attention ait \u00e9t\u00e9 les capacit\u00e9s de l\u2019IA g\u00e9n\u00e9rative et des grands mod\u00e8les de langage ainsi que des assistants virtuels comme ChatGPT, il ne fait aucun doute que l\u2019IA est prometteuse.<\/p>\n\n\n\n

Qu\u2019il s\u2019agisse de sa capacit\u00e9 \u00e0 fournir de l\u2019information pour offrir de meilleurs soins de sant\u00e9 et orienter les d\u00e9cisions m\u00e9dicales, d\u2019am\u00e9liorer l\u2019exp\u00e9rience client ou de mettre au point les m\u00e9thodes de tarification et de s\u00e9lection des risques, l\u2019IA pr\u00e9sente des avantages qui semblent infinis. En outre, elle facilite la compr\u00e9hension de l\u2019impact des changements climatiques, aide les conseillers financiers \u00e0 tailler des solutions et des services sur mesure, am\u00e9liore les activit\u00e9s de recherche et de d\u00e9veloppement conduisant aux d\u00e9couvertes scientifiques, g\u00e9n\u00e8re des codes de programmation en plus de faire la synth\u00e8se de rapports. Certains estiment que l\u2019IA pourrait transformer radicalement notre \u00e9conomie, notre soci\u00e9t\u00e9 et l\u2019humanit\u00e9.<\/p>\n\n\n\n

Ces avantages sont rendus possibles gr\u00e2ce \u00e0 la masse de donn\u00e9es \u00e0 la disposition des algorithmes d\u2019IA, qui continue de cro\u00eetre de fa\u00e7on exponentielle en raison de la num\u00e9risation. De plus, les co\u00fbts du stockage de donn\u00e9es et de l\u2019informatique ne cessent de baisser, tandis que l\u2019on continue de cr\u00e9er des algorithmes toujours plus pouss\u00e9s.<\/p>\n\n\n\n

Toutefois, malgr\u00e9 ses avantages et selon la situation, l\u2019IA est une arme \u00e0 double tranchant. Des doutes ont \u00e9t\u00e9 soulev\u00e9s quant \u00e0 la fiabilit\u00e9 de l\u2019IA. On s\u2019interroge notamment sur la possibilit\u00e9 que les algorithmes d\u2019IA d\u00e9tectent des biais subtils dans les donn\u00e9es sur lesquelles ils s\u2019entra\u00eenent, puis les amplifient consid\u00e9rablement. Les algorithmes d\u2019IA peuvent d\u00e9tecter dans une masse de donn\u00e9es des tendances incroyablement complexes. Les algorithmes peuvent \u00eatre eux-m\u00eames assez complexes et cette opacit\u00e9 fait en sorte qu\u2019il est parfois difficile d\u2019appr\u00e9cier et d\u2019expliquer leur robustesse. La protection de la vie priv\u00e9e, la propri\u00e9t\u00e9 intellectuelle et les questions juridiques sont autant de questions que soul\u00e8ve l\u2019IA g\u00e9n\u00e9rative.<\/p>\n\n\n\n

Les risques de l\u2019IA<\/h2>\n\n\n\n

Non seulement l\u2019IA pr\u00e9sente les m\u00eames risques que ceux des mod\u00e8les traditionnels, mais il se pourrait aussi qu\u2019elle les exacerbe. La figure 1 qui suit illustre d\u2019autres risques pouvant d\u00e9couler de l\u2019adoption et de l\u2019utilisation de l\u2019IA.<\/p>\n\n\n

\n
\"\"
Figure 1 : Risques li\u00e9s \u00e0 l\u2019IA<\/strong><\/figcaption><\/figure>\n<\/div>\n\n\n

L\u2019aspect positif de l\u2019IA r\u00e9side dans sa capacit\u00e9 \u00e0 apprendre des tendances, m\u00eame \u00e9tonnantes, \u00e0 partir d\u2019une masse importante de donn\u00e9es. Des probl\u00e8mes surviennent si le mod\u00e8le d\u2019IA est surentra\u00een\u00e9, si les donn\u00e9es du monde r\u00e9el ou de production ne correspondent pas aux donn\u00e9es d\u2019entra\u00eenement et aux tendances apprises ou que l\u2019algorithme apprend quelque chose des donn\u00e9es \u00e0 l\u2019insu des d\u00e9veloppeurs. Par cons\u00e9quent, si l\u2019un ou certains de ces probl\u00e8mes surviennent, le risque d\u2019obtenir des r\u00e9sultats erron\u00e9s s\u2019en trouve accru, surtout si le mod\u00e8le est utilis\u00e9 \u00e0 des fins pour lesquelles il n\u2019a pas \u00e9t\u00e9 entra\u00een\u00e9.<\/p>\n\n\n\n

La complexit\u00e9 de certains algorithmes d\u2019IA fait en sorte qu\u2019il est difficile de comprendre comment les r\u00e9sultats sont produits, voire de les expliquer. L\u2019autoapprentissage ou les mod\u00e8les dynamiques qui apprennent en cours d\u2019ex\u00e9cution posent encore de plus grandes difficult\u00e9s.<\/p>\n\n\n\n

Le volume m\u00eame de donn\u00e9es qu\u2019utilise l\u2019IA, qui ne cesse d\u2019augmenter, de m\u00eame que la vari\u00e9t\u00e9 et la v\u00e9locit\u00e9 des donn\u00e9es, rend difficiles leur gouvernance et la pr\u00e9servation de leur int\u00e9grit\u00e9 et de leur qualit\u00e9. Vu que les syst\u00e8mes d\u2019IA sont guid\u00e9s par les donn\u00e9es et sont davantage interconnect\u00e9s, ils peuvent devenir plus vuln\u00e9rables au piratage et aux cyberattaques. Des attaques par empoisonnement de donn\u00e9es ou de mod\u00e8les, qui s\u2019effectuent par l\u2019ajout d\u2019\u00e9chantillons sp\u00e9ciaux aux ensembles de donn\u00e9es d\u2019entra\u00eenement ou par l\u2019int\u00e9gration de logiciels malveillants \u00e0 du code source libre, peuvent se produire afin d\u2019induire en erreur les syst\u00e8mes d\u2019IA pendant leur fonctionnement ou cr\u00e9er des vuln\u00e9rabilit\u00e9s.<\/p>\n\n\n\n

Outre le piratage, qui met \u00e0 risque les donn\u00e9es priv\u00e9es, le d\u00e9sir m\u00eame d\u2019exploiter de plus en plus de donn\u00e9es pour en tirer de l\u2019information et des avantages pourrait mener \u00e0 la collecte et \u00e0 l\u2019utilisation de donn\u00e9es sans consentement, qu\u2019elles soient priv\u00e9es ou non. L\u2019IA a la capacit\u00e9 de d\u00e9masquer des donn\u00e9es anonymis\u00e9es. En outre, les r\u00e9sultats des mod\u00e8les d\u2019IA peuvent divulguer des donn\u00e9es sensibles de mani\u00e8re directe ou par inf\u00e9rence. Le pouvoir de l\u2019IA de d\u00e9tecter des tendances \u00e9tonnantes lui permet d\u2019apprendre des biais subtils et de les magnifier, ce qui entra\u00eene des cons\u00e9quences impr\u00e9vues. On avance l\u2019argument d\u2019exclure les variables prot\u00e9g\u00e9es comme la race et le sexe, mais celles-ci peuvent \u00eatre d\u00e9duites par les algorithmes. Les all\u00e9gations de discrimination d\u00e9coulant de r\u00e9sultats injustes et d\u2019atteintes \u00e0 la vie priv\u00e9e pourraient entacher la r\u00e9putation d\u2019une institution ou lui causer des probl\u00e8mes judiciaires.<\/p>\n\n\n\n

En l\u2019absence de grandes \u00e9quipes pour construire et valider des mod\u00e8les d\u2019IA, il est probable qu\u2019on ait recours \u00e0 des tiers. Cela vaut plus particuli\u00e8rement pour les institutions de petite taille. Outre les mod\u00e8les m\u00eames, les donn\u00e9es de tiers pourraient susciter un int\u00e9r\u00eat accru chez les institutions cherchant \u00e0 tirer parti des avantages de l\u2019IA. L\u2019utilisation de biblioth\u00e8ques libres et de code source libre est in\u00e9vitable. Tous ces facteurs augmentent le risque tiers et le risque de concentration. Une autre des choses in\u00e9vitables est l\u2019utilisation accrue de l\u2019automatisation et d\u2019une IA possiblement autonome ainsi que la d\u00e9pendance \u00e0 celles-ci. L\u2019\u00e9chec de processus automatis\u00e9s ou de l\u2019IA autonome peut avoir des cons\u00e9quences importantes sur un processus en aval ou connexe; il faut donc prendre en compte les implications du risque op\u00e9rationnel.<\/p>\n\n\n\n

R\u00e9glementation de l\u2019IA<\/h2>\n\n\n\n

Bien qu\u2019il y ait eu une augmentation r\u00e9cente des appels \u00e0 la r\u00e9glementation de l\u2019IA, n\u00e9e de la popularit\u00e9 des grands mod\u00e8les de langage et de l\u2019inqui\u00e9tude qu\u2019ils suscitent, les d\u00e9cideurs et les autorit\u00e9s de r\u00e9glementation de par le monde ont men\u00e9 plusieurs activit\u00e9s au cours des derni\u00e8res ann\u00e9es.<\/p>\n\n\n\n

R\u00e9glementation \u00e0 l\u2019\u00e9chelle mondiale<\/h3>\n\n\n\n

Les d\u00e9cideurs et les autorit\u00e9s de r\u00e9glementation se sont pench\u00e9s sur la fa\u00e7on de promouvoir les avantages \u00e9conomiques et sociaux de l\u2019IA, tout en g\u00e9rant ses risques et ses inconv\u00e9nients et les difficult\u00e9s qu\u2019elle suscite, telles que les inqui\u00e9tudes concernant les probl\u00e8mes syst\u00e9miques et les pr\u00e9judices pour la population. Pour concilier ces objectifs, bon nombre d\u2019entre eux ont commenc\u00e9 par publier des documents de travail, des documents de consultation, des principes et des rapports.<\/p>\n\n\n\n

\n

\u00ab M\u00eame si les quelques politiques et r\u00e8glements qui portent sp\u00e9cifiquement sur l\u2019IA sont \u00e0 l\u2019\u00e9tat pr\u00e9liminaire, il convient de faire remarquer qu\u2019ils sont pr\u00e9c\u00e9d\u00e9s d\u2019une liste de principes. \u00bb <\/p>\n– Obim Okongwu<\/cite><\/blockquote>\n\n\n\n

Ces politiques et r\u00e8glements reposent habituellement sur les principes de la juridiction concern\u00e9e et sur la participation de diverses parties int\u00e9ress\u00e9es. Bien que les approches qu\u2019adoptent les juridictions puissent diff\u00e9rer, certaines \u00e9tant plus rigoureuses que d\u2019autres ou fond\u00e9es sur des principes plut\u00f4t que normatives, il semble qu\u2019elles seront toutes fond\u00e9es sur le risque.<\/p>\n\n\n\n

L\u2019Union europ\u00e9enne devrait finaliser cette ann\u00e9e le tout premier cadre juridique complet sur l\u2019IA. Sa loi sur l\u2019IA est consid\u00e9r\u00e9e comme \u00e9tant la plus stricte et aura des retomb\u00e9es mondiales en raison du fait que les grandes entreprises sont multinationales. Les d\u00e9veloppeurs de syst\u00e8mes d\u2019IA dans d\u2019autres pays voudront naturellement commercialiser leurs produits dans l\u2019UE en raison de l\u2019importance de son march\u00e9, qui compte pr\u00e8s de 450 millions d\u2019habitants et habitantes.<\/p>\n\n\n\n

La loi de l\u2019UE r\u00e9glemente l\u2019IA en fonction des cat\u00e9gories de risque suivantes : risque inacceptable, risque \u00e9lev\u00e9, risque limit\u00e9 et risque minimal ou nul. Plus pr\u00e9cis\u00e9ment, les algorithmes utilis\u00e9s pour l\u2019\u00e9valuation des risques et la tarification en assurance maladie et en assurance vie sont consid\u00e9r\u00e9s comme pr\u00e9sentant un risque \u00e9lev\u00e9 et doivent satisfaire \u00e0 des exigences r\u00e9glementaires plus strictes.<\/p>\n\n\n\n

La r\u00e9glementation au Canada<\/h3>\n\n\n\n

Au Canada, les politiques et la r\u00e9glementation \u00e0 venir qui auront une incidence sur le secteur financier sont la ligne directrice E-23 du Bureau du surintendant des institutions financi\u00e8res (BSIF) intitul\u00e9e \u00ab Gestion du risque de mod\u00e9lisation \u00e0 l\u2019\u00e9chelle de l\u2019entreprise dans les institutions de d\u00e9p\u00f4ts \u00bb et la Loi sur l\u2019intelligence artificielle et les donn\u00e9es<\/em> (LIAD) du projet de loi C-27.<\/p>\n\n\n\n

Ligne directrice E-23 du BSIF<\/h3>\n\n\n\n

Bien que la ligne directrice E-23 n\u2019ait pas encore \u00e9t\u00e9 publi\u00e9e, le BSIF a publi\u00e9 une lettre<\/a> en mai 2022 sur les aspects \u00e0 l\u2019\u00e9tude pour tous les mod\u00e8les, y compris les mod\u00e8les d\u2019IA. Certains mod\u00e8les sont \u00e9labor\u00e9s par des algorithmes d\u2019IA.<\/p>\n\n\n\n

Vu que les donn\u00e9es deviennent de plus en plus accessibles, que leur volume augmente et qu\u2019elles servent \u00e0 la mod\u00e9lisation, il s\u2019agissait d\u2019un point cl\u00e9 \u00e0 prendre en consid\u00e9ration, de la tra\u00e7abilit\u00e9 \u00e0 la gouvernance, en passant par la provenance et la qualit\u00e9. On allait \u00e9galement tenir compte de la rigueur des d\u00e9veloppeurs, des valideurs et des approbateurs de mod\u00e8les afin que le mod\u00e8le mis en production soit robuste. On reconna\u00eet \u00e9galement que les mod\u00e8les d\u2019IA peuvent amplifier les biais injustes dans les donn\u00e9es, ce qui pourrait avoir des cons\u00e9quences sur la r\u00e9putation de l\u2019institution.<\/p>\n\n\n\n

Bien que la documentation soit importante pour la continuit\u00e9 des activit\u00e9s, le niveau de documentation proportionnel au risque de mod\u00e9lisation allait \u00e9galement \u00eatre pris en compte. Compte tenu du fait que les institutions peuvent d\u00e9j\u00e0 avoir en place des structures de gouvernance, il fallait donc tenir compte de la mesure dans laquelle ces structures pourraient \u00eatre am\u00e9lior\u00e9es. L\u2019existence de diff\u00e9rentes dimensions et de diff\u00e9rents niveaux d\u2019explicabilit\u00e9 a \u00e9t\u00e9 prise en compte.<\/p>\n\n\n\n

Dans tous ces cas, les conseils \u00e0 publier seraient proportionnels au risque. De plus, il fallait prendre en consid\u00e9ration la question de la proportionnalit\u00e9.<\/p>\n\n\n\n

La LIAD du projet de loi C-27<\/h3>\n\n\n\n

La Loi sur l\u2019intelligence artificielle et les donn\u00e9es<\/em> (LIAD) a \u00e9t\u00e9 d\u00e9pos\u00e9e en juin 2022 dans le cadre du projet de loi C\u201127, la Loi de 2022 sur la mise en \u0153uvre de la Charte du num\u00e9rique<\/em>. Un document compl\u00e9mentaire<\/a> a \u00e9t\u00e9 publi\u00e9 en mars 2023.<\/p>\n\n\n\n

\n

\u00ab La LIAD reconna\u00eet que, pour prosp\u00e9rer, l\u2019\u00e9conomie du Canada doit \u00eatre bas\u00e9e sur des donn\u00e9es avanc\u00e9es et qu\u2019elle a donc besoin d\u2019un cadre dans qui inspire la confiance de la population, encourage l\u2019innovation responsable et demeure interop\u00e9rable avec les march\u00e9s internationaux. \u00bb <\/p>\n– Obim Okongwu<\/cite><\/blockquote>\n\n\n\n

La LIAD reconna\u00eet que, pour prosp\u00e9rer, l\u2019\u00e9conomie du Canada doit \u00eatre bas\u00e9e sur des donn\u00e9es avanc\u00e9es et qu\u2019elle a donc besoin d\u2019un cadre dans qui inspire la confiance de la population, encourage l\u2019innovation responsable et demeure interop\u00e9rable avec les march\u00e9s internationaux. <\/p>\n\n\n\n

Elle traite de deux types d\u2019impacts n\u00e9gatifs : 1) les pr\u00e9judices caus\u00e9s aux personnes (pr\u00e9judices physiques ou psychologiques, dommages mat\u00e9riels ou pertes \u00e9conomiques); 2) les biais syst\u00e9miques dans les syst\u00e8mes d\u2019IA dans un contexte commercial lorsqu\u2019il y a une diff\u00e9renciation d\u00e9favorable injustifi\u00e9e fond\u00e9e sur l\u2019un des motifs de distinction interdits dans le cadre de la Loi canadienne sur les droits de la personne<\/em>.<\/p>\n\n\n\n

\u00c0 l\u2019instar de la loi de l\u2019UE sur l\u2019IA, elle sera fond\u00e9e sur les risques, mais ax\u00e9e sur les syst\u00e8mes dont l\u2019impact est \u00e9lev\u00e9. Parmi les \u00e9l\u00e9ments \u00e0 prendre en consid\u00e9ration pour d\u00e9terminer si un syst\u00e8me a un impact \u00e9lev\u00e9, mentionnons l\u2019existence d\u2019un risque de pr\u00e9judice, la gravit\u00e9 du pr\u00e9judice potentiel, l\u2019ampleur de l\u2019utilisation et la mesure dans laquelle il n\u2019est pas possible de se retirer de ce syst\u00e8me.<\/p>\n\n\n\n

Il y aura des attentes envers les entreprises qui con\u00e7oivent ou \u00e9laborent un syst\u00e8me d\u2019IA \u00e0 impact \u00e9lev\u00e9, envers les entreprises qui le commercialisent et envers celles qui g\u00e8rent son fonctionnement. Ces attentes porteront sur l\u2019identification, l\u2019att\u00e9nuation, la documentation, la surveillance et la communication des risques et elles reposeront sur un ensemble de principes de la LIAD. En cas de non-conformit\u00e9, il pourrait y avoir des sanctions p\u00e9cuniaires ou des infractions r\u00e9glementaires pouvant faire l\u2019objet de poursuites.<\/p>\n\n\n\n

Principes pour une utilisation responsable de l\u2019IA<\/h2>\n\n\n\n

Des d\u00e9cideurs, des autorit\u00e9s de r\u00e9glementation et des organismes de divers pays ont mis en \u00e9vidence les principes visant \u00e0 att\u00e9nuer ces risques et \u00e0 favoriser l\u2019adoption et l\u2019utilisation responsables de l\u2019IA. Les principes mis en \u00e9vidence par les d\u00e9cideurs et les autorit\u00e9s de r\u00e9glementation canadiennes sont en phase avec ceux des autres juridictions. La figure 2 qui suit pr\u00e9sente divers principes, \u00e0 l\u2019\u00e9chelle mondiale ou canadienne.<\/p>\n\n\n

\n
\"\"
Figure 2 : Principes pour une utilisation responsable de l\u2019IA, \u00e0 l\u2019\u00e9chelle mondiale et au Canada. Cette figure est disponible en anglais seulement.<\/strong><\/figcaption><\/figure>\n<\/div>\n\n\n

Au Canada, le BSIF a cit\u00e9 trois principes (solidit\u00e9, responsabilit\u00e9, explicabilit\u00e9<\/strong>) dans son document de travail sur le risque technologique<\/a> de 2020. Ils ont \u00e9t\u00e9 suivis de quatre principes (explicabilit\u00e9, donn\u00e9es, gouvernance, \u00e9thique<\/strong>) \u00e9nonc\u00e9s \u00e0 l\u2019occasion du Forum sur l\u2019intelligence artificielle dans le secteur des services financiers (FIASSF) organis\u00e9 par le BSIF et le Global Risk Institute. Publi\u00e9 en avril 2023, le rapport du FIASSF s\u2019intitule \u00ab\u00a0Une perspective canadienne sur l\u2019intelligence artificielle responsable<\/a>\u00a0\u00bb. Le document compl\u00e9mentaire de la LIAD \u00e9nonce six principes d\u2019IA\u00a0: supervision humaine et surveillance, transparence, justice et \u00e9quit\u00e9, s\u00e9curit\u00e9, responsabilit\u00e9, validit\u00e9 et robustesse<\/strong>.<\/p>\n\n\n\n

Les principes qui sous-tendent l\u2019utilisation de l\u2019IA tendent \u00e0 orienter les politiques et la r\u00e9glementation, et le document compl\u00e9mentaire de la LIAD indique que les attentes seront guid\u00e9es par l\u2019ensemble de principes \u00e9nonc\u00e9s. Les institutions pourraient s\u2019inspirer de ces principes pour concevoir ou am\u00e9liorer leur cadre de gestion du risque de mod\u00e9lisation. Voici quelques observations concernant certains de ces principes.<\/p>\n\n\n\n