Une course rapide<\/strong><\/p>\nDans la course aux technologies, les institutions financi\u00e8res se h\u00e2tent d\u2019int\u00e9grer les syst\u00e8mes d\u2019IA alors m\u00eame que leur transformation num\u00e9rique n\u2019est pas encore termin\u00e9e, ce qui engendre un certain niveau de risque. \u00ab\u2009On n\u2019a pas le choix de prendre le virage et de le contr\u00f4ler dans la mesure du possible\u2009\u00bb, indique Marie Andr\u00e9e Alain, vice-pr\u00e9sidente et chef de la conformit\u00e9 et de la protection des renseignements personnels au Mouvement Desjardins.<\/p>\n
Dans ce contexte, le passage \u00e0 l\u2019IA n\u00e9cessite une adaptation progressive des institutions financi\u00e8res. Elles avancent avec prudence, de fa\u00e7on \u00e9quilibr\u00e9e et r\u00e9fl\u00e9chie. Desjardins, par exemple, a adopt\u00e9 une approche pas \u00e0 pas, en exp\u00e9rimentant et en tirant des le\u00e7ons de chaque \u00e9tape.<\/p>\n
\u00ab\u2009On doit \u00eatre dans la transparence, c\u2019est in\u00e9vitable, estime la gestionnaire. On doit \u00eatre capables d\u2019expliquer le fonctionnement du mod\u00e8le d\u2019IA qu\u2019on utilise. \u00c7a passe par une compr\u00e9hension assez fine de nos propres ressources pour qu\u2019on puisse fournir des explications \u00e0 nos membres\u2009\u00bb, dit-elle. Pour ce faire, la coop\u00e9rative financi\u00e8re a mis sur pied un comit\u00e9 multidisciplinaire qui englobe les secteurs des TI, de la conformit\u00e9, de la s\u00e9curit\u00e9 de l\u2019information, de la gouvernance de donn\u00e9es ainsi que les secteurs d\u2019affaires.<\/p>\n
Garder le cap n\u2019est pas \u00e9vident. Les consid\u00e9rations \u00e9thiques donnent parfois lieu \u00e0 des \u00ab\u2009discussions difficiles\u2009\u00bb avec certains fournisseurs de solutions en IA, qui ne comprennent pas toujours la n\u00e9cessit\u00e9 d\u2019une approche transparente envers les clients. Desjardins doit \u00e9galement former ses propres experts en conformit\u00e9 aux enjeux \u00e9thiques de l\u2019IA et s\u2019assurer de bien comprendre les solutions de ses partenaires.<\/p>\n
M\u00e9canismes de contr\u00f4le<\/strong><\/p>\nLes institutions financi\u00e8res qui veulent int\u00e9grer l\u2019IA dans leurs processus sans mettre l\u2019\u00e9thique en p\u00e9ril doivent implanter de solides m\u00e9canismes de contr\u00f4le \u00e0 l\u2019interne, signale Nada Kharrague, sp\u00e9cialiste en donn\u00e9es et intelligence artificielle \u00e0 IBM.<\/p>\n
Un des risques de l\u2019IA r\u00e9side dans l\u2019opacit\u00e9 des mod\u00e8les, qui fonctionnent souvent comme des bo\u00eetes noires, rendant difficile la v\u00e9rification de l\u2019origine et de l\u2019actualisation des donn\u00e9es. Or, les institutions financi\u00e8res ne peuvent se permettre de fournir des informations exactes \u00e0 80 % du temps seulement, explique la sp\u00e9cialiste. La technologie doit \u00eatre transparente, entre autres pour \u00eatre en mesure de savoir qui est responsable si une mauvaise recommandation financi\u00e8re est communiqu\u00e9e \u00e0 un client.<\/p>\n
On doit pouvoir ajuster les mod\u00e8les, am\u00e9liorer la coh\u00e9rence de leurs r\u00e9sultats et d\u00e9tecter tout biais introduit par une s\u00e9lection inad\u00e9quate des donn\u00e9es. \u00ab\u2009Lorsqu\u2019on a une r\u00e9flexion sur le choix technologique, il faut savoir si c\u2019est une technologie qui est pr\u00eate \u00e0 \u00eatre utilis\u00e9e par une entreprise financi\u00e8re\u2009\u00bb, dit Nada Kharrague.<\/p>\n
Strat\u00e9gie \u00e9thique<\/strong><\/p>\nL\u2019entreprise qui utilise l\u2019IA devrait se doter d\u2019une strat\u00e9gie \u00e9thique pour pr\u00e9venir les probl\u00e8mes futurs, estime Anne Boily, consultante en IA responsable et strat\u00e9gie. Pour r\u00e9ussir, il faut rendre la notion d\u2019\u00e9thique concr\u00e8te pour les d\u00e9cideurs et les sensibiliser aux effets potentiels.<\/p>\n
\u00ab\u2009L\u2019erreur serait de penser qu\u2019on va arriver avec un cadre qui va tout couvrir, dit la sp\u00e9cialiste. Il faut naviguer entre deux extr\u00eames : d\u00e9velopper sans consid\u00e9rations \u00e9thiques ou souffrir d\u2019une paralysie qui emp\u00eache d\u2019avancer.\u2009\u00bb En cas de dilemme, l\u2019organisation doit alors aligner ses objectifs d\u2019entreprise sur des objectifs \u00e9thiques, les ordonner et les prioriser.<\/p>\n
Elle pr\u00e9cise que l\u2019encadrement r\u00e9glementaire des syst\u00e8mes d\u2019IA doit \u00eatre clair et assez large pour englober des objectifs plus vastes. \u00ab\u2009Il faut accepter de prendre des risques calcul\u00e9s et qu\u2019il faudra casser des \u0153ufs pour faire l\u2019omelette\u2009\u00bb, dit-elle.<\/p>\n","protected":false},"excerpt":{"rendered":"
Pour d\u00e9tecter la source d\u2019\u00e9ventuelles erreurs.<\/p>\n","protected":false},"author":73595,"featured_media":56043,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[520,523],"tags":[12713,16569,82032,64962],"yst_prominent_words":[64188,21359,17616,8635,8344,6851,6693,5795,4126,2472,2257,1912,808,646,111],"acf":[],"_links":{"self":[{"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/posts\/99767"}],"collection":[{"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/users\/73595"}],"replies":[{"embeddable":true,"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/comments?post=99767"}],"version-history":[{"count":4,"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/posts\/99767\/revisions"}],"predecessor-version":[{"id":100214,"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/posts\/99767\/revisions\/100214"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/media\/56043"}],"wp:attachment":[{"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/media?parent=99767"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/categories?post=99767"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/tags?post=99767"},{"taxonomy":"yst_prominent_words","embeddable":true,"href":"https:\/\/www.finance-investissement.com\/wp-json\/wp\/v2\/yst_prominent_words?post=99767"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}