{"id":20275,"date":"2023-03-09T12:46:08","date_gmt":"2023-03-09T10:46:08","guid":{"rendered":"https:\/\/www.kaspersky.fr\/blog\/?p=20275"},"modified":"2023-03-09T16:00:25","modified_gmt":"2023-03-09T14:00:25","slug":"chat-gpt-changes-all","status":"publish","type":"post","link":"https:\/\/www.kaspersky.fr\/blog\/chat-gpt-changes-all\/20275\/","title":{"rendered":"Saluons nos nouveaux ma\u00eetres, les IA"},"content":{"rendered":"

Avertissement : il s\u2019agit de l\u2019opinion personnelle de l\u2019auteur et elle ne refl\u00e8te pas la position officielle de Kaspersky (l\u2019entreprise). <\/em><\/p><\/blockquote>\n

Au-del\u00e0 des divers \u00e9v\u00e9nements g\u00e9opolitiques qui ont marqu\u00e9 2022, au niveau technologique, ce fut l\u2019ann\u00e9e de l\u2019IA. Je devrai peut-\u00eatre commencer par \u00eatre honn\u00eate\u00a0: jusqu\u2019\u00e0 r\u00e9cemment, quand on me posait des questions sur l\u2019IA en cybers\u00e9curit\u00e9, je la qualifiais de produit fant\u00f4me<\/a> (ou vaporware<\/em> en anglais). J\u2019ai toujours su que l\u2019apprentissage automatique pouvait \u00eatre utilis\u00e9 de diverses fa\u00e7ons dans le monde r\u00e9el ; mais pour nous, dans l\u2019univers de la s\u00e9curit\u00e9 de l\u2019information, l\u2019IA n\u2019avait \u00e9t\u00e9 utilis\u00e9e que pour les argumentaires de vente des produits les plus ringards. Pour moi, les expressions comme \u00ab\u00a0bas\u00e9 sur l\u2019IA\u00a0\u00bb n\u2019\u00e9taient qu\u2019une fa\u00e7on \u00e9l\u00e9gante qu\u2019avaient trouv\u00e9 les fabricants pour dire : \u00ab\u00a0nous n\u2019avons aucune base de connaissances ou donn\u00e9e de t\u00e9l\u00e9mesure, et c\u2019est pourquoi nous avons invent\u00e9 quelques heuristiques\u00a0\u00bb. Je reste convaincu que dans plus de 95 % des cas les produits obtenus poss\u00e8dent tr\u00e8s peu de l\u2019IA r\u00e9elle. Le fait est que, pendant que les \u00e9quipes de marketing \u00e9taient occup\u00e9es \u00e0 apposer l\u2019\u00e9tiquette \u00a0\u00bb IA \u00a0\u00bb sur n\u2019importe quel produit qui utilisait le partitionnement en k-moyennes<\/em><\/a> pour ses op\u00e9rations, l\u2019authentique domaine de l\u2019IA faisait vraiment des progr\u00e8s.<\/p>\n

Pour moi, l\u2019heure de v\u00e9rit\u00e9 a \u00e9t\u00e9 quand j\u2019ai essay\u00e9 DALL-E 2<\/a> pour la premi\u00e8re fois, et Midjourney<\/a> peu de temps apr\u00e8s. Ces deux projets vous permettent de g\u00e9n\u00e9rer des images \u00e0 partir d\u2019une description textuelle, et ont d\u00e9j\u00e0 provoqu\u00e9 quelques turbulences dans le monde de l\u2019art.<\/p>\n

<\/a>

Cette \u0153uvre d\u2019art a \u00e9t\u00e9 faite par Midjourney avec le prompt \u00ab\u00a0All hail our new AI overlords\u00a0\u00bb (Saluons nos nouveaux ma\u00eetres de l\u2019IA)<\/p><\/div>\n

\u00a0<\/p>\n

Ensuite, en d\u00e9cembre 2022, ChatGPT<\/a> a fait fureur partout dans le monde. En quelques mots, ChatGPT est un agent conversationnel. J\u2019imagine que la plupart des gens l\u2019ont d\u00e9j\u00e0 essay\u00e9 mais, si ce n\u2019est pas le cas, je vous conseille vivement de le faire. Il est impossible d\u2019expliquer avec des mots \u00e0 quel point ce syst\u00e8me est sup\u00e9rieur aux projets pr\u00e9c\u00e9dents, et en entendre parler n\u2019est pas suffisant. Vous devez le tester pour vraiment ressentir et comprendre tout ce qui en d\u00e9coule\u2026<\/p>\n

\"Comment<\/a>

Comment ChatGPT se d\u00e9crit.<\/p><\/div>\n

\u00a0<\/p>\n

Les mod\u00e8les de langage<\/h2>\n

Comme Arthur C. Clarke l\u2019a dit, \u00ab\u00a0toute technologie suffisamment avanc\u00e9e est indiscernable de la magie\u00a0\u00bb. J\u2019adore voir comment la technologie peut parfois apporter cette sensation d\u2019\u00e9merveillement dans nos vies mais, malheureusement, ce sentiment se trouble lorsque nous essayons d\u2019envisager les cons\u00e9quences ou les limites d\u2019une nouvelle avanc\u00e9e. C\u2019est pourquoi je pense que nous devons d\u2019abord prendre le temps de comprendre comment ces technologies fonctionnent.<\/p>\n

Commen\u00e7ons par ChatGPT. C\u2019est un mod\u00e8le de langage. En d\u2019autres termes, c\u2019est une repr\u00e9sentation de notre langage. Comme c\u2019est le cas avec de nombreux projets d\u2019apprentissage automatique importants, personne ne sait vraiment comment ce mod\u00e8le fonctionne (pas m\u00eame OpenAI, ses cr\u00e9ateurs). Nous savons comment le mod\u00e8le a \u00e9t\u00e9 cr\u00e9\u00e9 mais c\u2019est beaucoup trop complexe pour \u00eatre officiellement compr\u00e9hensible. ChatGPT, qui est actuellement le mod\u00e8le de langage (public\u00a0?) le plus grand, poss\u00e8de plus de 175 milliards de param\u00e8tres. Pour que vous puissiez comprendre ce que \u00e7a signifie, imaginez une machine g\u00e9ante avec 175 milliards de boutons que vous pouvez r\u00e9gler. Chaque fois que vous envoyez un texte sur ChatGPT, il est converti en un param\u00e8tre pour chacun de ces boutons. Enfin, la machine propose un r\u00e9sultat (plus de texte) \u00e0 partir de cette position. Il y a aussi un caract\u00e8re al\u00e9atoire afin de garantir que la m\u00eame question n\u2019obtienne pas toujours la m\u00eame r\u00e9ponse (m\u00eame si cet aspect peut aussi \u00eatre ajust\u00e9).<\/p>\n

C\u2019est pourquoi nous voyons ces mod\u00e8les comme des bo\u00eetes noires : m\u00eame si vous consacriez toute votre vie \u00e0 l\u2019\u00e9tude de cette machine, rien ne garantit que vous puissiez comprendre l\u2019objectif d\u2019un seul bouton (et encore moins de tous). Pourtant, nous savons ce que la machine fait puisque nous connaissons le processus utilis\u00e9 pour sa g\u00e9n\u00e9ration. Le mod\u00e8le de langage est un algorithme qui peut traiter du texte et qui a longtemps \u00e9t\u00e9 nourri lors de la phase d\u2019apprentissage : tout le contenu de Wikip\u00e9dia, les sites Web plagi\u00e9s, les livres, etc. Cela a permis la cr\u00e9ation d\u2019un mod\u00e8le statistique qui sait quelle est la probabilit\u00e9 d\u2019avoir un mot apr\u00e8s un autre. Si j\u2019\u00e9cris \u00ab\u00a0les roses sont rouges, les bleuets sont\u00a0\u00bb vous pouvez deviner avec un fort degr\u00e9 de certitude que le prochain mot sera \u00ab\u00a0bleus\u00a0\u00bb. En quelques mots, c\u2019est comme \u00e7a qu\u2019un mod\u00e8le de langage fonctionne. Pour un mod\u00e8le de ce genre, c\u2019est la m\u00eame chose de finir votre phrase et de deviner quelle s\u00e9quence de mots est susceptible de r\u00e9pondre \u00e0 votre question \u00e0 partir de tout ce qui a \u00e9t\u00e9 lu auparavant. Dans le cas de ChatGPT, il y a en r\u00e9alit\u00e9 une \u00e9tape suppl\u00e9mentaire : le supervised fine-tuning<\/em>. Les \u00ab\u00a0entra\u00eeneurs\u00a0\u00bb humains de l\u2019IA ont eu plusieurs conversations avec le bot et ont signal\u00e9 toutes les r\u00e9ponses qui pouvaient \u00eatre probl\u00e9matiques (inexactes, biais\u00e9es, racistes, etc.) pour que le programme apprenne \u00e0 ne pas r\u00e9p\u00e9ter les m\u00eames erreurs.<\/p>\n

\"Les<\/a><\/p>\n

Si vous n\u2019arrivez pas \u00e0 comprendre l\u2019IA, classez-la comme \u00ab\u00a0math\u00e9matiques\u00a0\u00bb ou \u00ab\u00a0statistiques\u00a0\u00bb : la pr\u00e9diction est l\u2019objectif de ces mod\u00e8les. Lorsque vous utilisez ChatGPT, vous avez vite le sentiment que l\u2019IA \u00ab\u00a0sait\u00a0\u00bb des choses puisqu\u2019elle est capable de r\u00e9cup\u00e9rer des informations adapt\u00e9es au contexte et sp\u00e9cifiques au domaine pour des demandes que le programme voit pour la premi\u00e8re fois. Pourtant, le programme ne comprend pas un seul mot : il est seulement capable de g\u00e9n\u00e9rer un texte qui \u00ab\u00a0semble\u00a0\u00bb \u00eatre la suite naturelle de ce que vous lui avez donn\u00e9. Cela explique pourquoi ChatGPT peut exposer un argument philosophique complexe mais tr\u00e9buche souvent lorsqu\u2019il s\u2019agit d\u2019op\u00e9rations arithm\u00e9tiques \u00e9l\u00e9mentaires : il est plus difficile de pr\u00e9dire le r\u00e9sultat d\u2019un calcul que le prochain mot d\u2019une phrase.<\/p>\n

En outre, le programme n\u2019a pas de m\u00e9moire\u00a0: son entra\u00eenement s\u2019est termin\u00e9 en 2021 et le mod\u00e8le est fig\u00e9. Les mises \u00e0 jour se pr\u00e9sentent sous la forme de nouveaux mod\u00e8les (par exemple GPT-4 en 2024) entra\u00een\u00e9s avec de nouvelles donn\u00e9es. En r\u00e9alit\u00e9, ChatGPT ne se souvient m\u00eame pas des conversations que vous avec d\u00e9j\u00e0 eues avec lui\u00a0: l\u2019historique de conversations r\u00e9centes est envoy\u00e9 lorsque vous \u00e9crivez un nouveau texte pour que la conversation paraisse plus naturelle.<\/p>\n

Quant \u00e0 savoir si ce syst\u00e8me peut \u00eatre qualifi\u00e9 d'\u00a0\u00bbintelligence\u00a0\u00bb (et s\u2019il est tr\u00e8s diff\u00e9rent de l\u2019intelligence humaine), ce sera l\u2019objet de nombreux d\u00e9bats philosophiques houleux dans les prochaines ann\u00e9es.<\/p>\n

Les mod\u00e8les de diffusion<\/h2>\n

Les outils de g\u00e9n\u00e9ration d\u2019images, comme Midjourney et DALL-E, reposent sur une autre cat\u00e9gorie de mod\u00e8les. Leur proc\u00e9dure de formation se concentre \u00e9videmment sur la g\u00e9n\u00e9ration d\u2019images (ou les collections de pixels) au lieu du texte. En r\u00e9alit\u00e9, deux composants sont n\u00e9cessaires pour g\u00e9n\u00e9rer une image \u00e0 partir d\u2019une description textuelle, et le premier est tr\u00e8s intuitif. Le mod\u00e8le a besoin d\u2019associer les mots avec des informations visuelles, et c\u2019est pourquoi il est aliment\u00e9 par des collections d\u2019images qui ont une l\u00e9gende. Tout comme ChatGPT, nous avons une machine colossale et imp\u00e9n\u00e9trable qui est tr\u00e8s efficace lorsqu\u2019il s\u2019agit d\u2019associer des images avec des donn\u00e9es textuelles. La machine ne sait pas comment est le visage de Brad Pitt mais si elle a vu assez de photos de lui, elle sait que toutes les images ont quelques caract\u00e9ristiques communes. Si quelqu\u2019un envoie une nouvelle photo de Brad Pitt, le mod\u00e8le peut le reconna\u00eetre et d\u00e9terminer que \u00ab\u00a0oui, c\u2019est encore lui\u00a0\u00bb.<\/p>\n

La deuxi\u00e8me partie, que je trouve plus \u00e9tonnante, est capable d\u2019am\u00e9liorer les images. Pour ce faire, le syst\u00e8me utilise un \u00ab\u00a0mod\u00e8le de diffusion\u00a0\u00bb, entra\u00een\u00e9 avec des images propres auxquelles on ajoute progressivement du bruit (visuel) jusqu\u2019\u00e0 ce qu\u2019elles soient m\u00e9connaissables. Cela permet au mod\u00e8le de trouver les ressemblances entre une image floue et de mauvaise qualit\u00e9 et une autre d\u2019une meilleure r\u00e9solution, l\u00e0 encore \u00e0 un niveau statistique, et de recr\u00e9er une bonne image \u00e0 partir de celle qui a du bruit. En r\u00e9alit\u00e9, il y a des produits<\/a> \u00e9quip\u00e9s de l\u2019IA qui s\u2019occupent de d\u00e9bruiter les vieilles photos ou d\u2019am\u00e9liorer la r\u00e9solution.<\/p>\n

\"Exemples<\/a>

Exemples d\u2019images dont la qualit\u00e9 est de moins en moins bonnes afin d\u2019entra\u00eener les mod\u00e8les de diffusion avec mon fid\u00e8le avatar.<\/p><\/div>\n

\u00a0<\/p>\n

Si nous regroupons toutes les images, nous pouvons les synth\u00e9tiser : on commence avec un bruit al\u00e9atoire qu\u2019on \u00ab\u00a0intensifie\u00a0\u00bb progressivement tout en v\u00e9rifiant que l\u2019image contient toutes les caract\u00e9ristiques indiqu\u00e9es par l\u2019utilisateur dans son invite. Cliquez ici<\/a> pour obtenir une description plus d\u00e9taill\u00e9e du syst\u00e8me interne de DALL-E.<\/p>\n

Les mauvaises questions<\/h2>\n

L\u2019\u00e9mergence de tous les outils mentionn\u00e9s dans cet article a provoqu\u00e9 de vives r\u00e9actions de la part de l\u2019opinion publique, et certaines \u00e9taient tr\u00e8s n\u00e9gatives. Certaines inqui\u00e9tudes sont l\u00e9gitimes \u00e0 propos de l\u2019apparition soudaine de l\u2019IA dans nos vies, mais je pense que les d\u00e9bats actuels se concentrent essentiellement sur les mauvaises questions. Voyons de quoi il s\u2019agit avant de passer \u00e0 ce qui je pense devrait \u00eatre le c\u0153ur des d\u00e9bats \u00e0 propos de l\u2019IA.<\/p>\n

DALL-E et Midjourney volent le travail d\u2019artistes r\u00e9els<\/h3>\n

J\u2019ai parfois lu que ces outils \u00e9taient d\u00e9crits comme des programmes qui font un patchwork d\u2019images vues auparavant et auxquelles ils appliquent des filtres qui leur permettent d\u2019imiter le style de l\u2019artiste demand\u00e9. Toute personne tenant ces propos ignore les r\u00e9alit\u00e9s techniques des mod\u00e8les sous-jacents ou fait preuve de mauvaise foi.<\/p>\n

Comme je l\u2019ai expliqu\u00e9 auparavant, le mod\u00e8le est tout simplement incapable d\u2019extraire les images ou tout simplement les formes des images utilis\u00e9es pour l\u2019entra\u00eener. L\u2019extraction de caract\u00e9ristiques math\u00e9matiques est la seule chose qu\u2019il pourrait faire au mieux.<\/p>\n

\"Ce<\/a>

Ce que les gens pensent que DALL-E utilise comme point de d\u00e9part (\u00e0 gauche) versus ce qu\u2019il utilise vraiment (\u00e0 droite).<\/p><\/div>\n

\u00a0<\/p>\n

Nul ne peut nier que de nombreuses \u0153uvres prot\u00e9g\u00e9es par les droits d\u2019auteurs ont \u00e9t\u00e9 utilis\u00e9es dans la phase d\u2019entra\u00eenement sans que les auteurs originaux n\u2019aient explicitement donn\u00e9 leur accord, et ce point pourrait \u00e9ventuellement \u00eatre discut\u00e9. Il convient tout de m\u00eame de souligner que les artistes humains suivent exactement le m\u00eame processus pendant leurs \u00e9tudes\u00a0: ils copient les peintures d\u2019experts et trouvent leur inspiration dans les \u0153uvres qu\u2019ils voient. Qu\u2019est-ce que l\u2019inspiration si ce n\u2019est la capacit\u00e9 \u00e0 capturer l\u2019essence d\u2019une \u0153uvre d\u2019art tout en \u00e9tant capable de la revisiter\u00a0?<\/p>\n

DALL-E et Midjourney marquent une rupture dans le sens o\u00f9 ils sont th\u00e9oriquement capables de trouver l\u2019inspiration dans chaque image produite dans toute l\u2019histoire de l\u2019humanit\u00e9 (et, certainement, dans toutes celles qui voient le jour actuellement). Il s\u2019agit seulement d\u2019un changement d\u2019\u00e9chelle, la nature reste la m\u00eame.<\/p>\n

\u00a0<\/p>\n

\"Preuve<\/a>

Preuve irr\u00e9futable de Wolfgang Amadeuz Mozart qui volent \u00e0 des artistes lors de sa phase d\u2019apprentissage<\/p><\/div>\n

L\u2019IA simplifie trop les choses<\/h3>\n

Ces critiques laissent g\u00e9n\u00e9ralement entendre que l\u2019art devrait \u00eatre difficile. Cette id\u00e9e m\u2019a toujours surpris puisque la personne qui regarde l\u2019\u0153uvre d\u2019art ne sait pas si l\u2019artiste a d\u00fb faire beaucoup ou peu d\u2019efforts. Ce d\u00e9bat n\u2019a rien de nouveau\u00a0: des ann\u00e9es apr\u00e8s la sortie de Photoshop, certaines personnes disent encore que l\u2019art num\u00e9rique n\u2019est pas vraiment de l\u2019art<\/a>. D\u2019autres sugg\u00e8rent que certaines comp\u00e9tences sont n\u00e9cessaires pour utiliser Photoshop, mais je pense qu\u2019ils passent \u00e0 c\u00f4t\u00e9 de l\u2019essentiel. De quel talent Robert Rauschenberg a-t-il eu besoin pour peindre en blanc une toile vierge\u00a0<\/a>? De combien d\u2019ann\u00e9es de pratique avez-vous besoin avant de pouvoir jouer le c\u00e9l\u00e8bre morceau 4\u201933\u00a0\u00bb<\/a> de John Cage\u00a0?<\/p>\n

M\u00eame si nous consid\u00e9rions les comp\u00e9tences comme un crit\u00e8re d\u2019art, o\u00f9 fixerions-nous les limites\u00a0? Quel effort est consid\u00e9r\u00e9 comme suffisant\u00a0? Quand la photographie a \u00e9t\u00e9 invent\u00e9e, Charles Baudelaire l\u2019a d\u00e9crite comme \u00a0\u00bb\u00a0le refuge de tous les peintres manqu\u00e9s, trop mal dou\u00e9s ou trop paresseux pour achever leurs \u00e9tudes\u00a0\u00a0\u00bb (et il n\u2019\u00e9tait pas le seul \u00e0 le croire). Il s\u2019av\u00e8re qu\u2019il avait tort.<\/p>\n

ChatGPT aide les cybercriminels<\/h3>\n

Avec l\u2019\u00e9mergence de l\u2019IA, nous allons constater une am\u00e9lioration de la productivit\u00e9 \u00e0 tous les niveaux. Pour le moment, quelques organes de presse et fabricants font tout leur possible pour surfer sur la vague de ChatGPT, ce qui a donn\u00e9 lieu aux pi\u00e8ges \u00e0 clics les plus honteux de l\u2019histoire. Comme nous l\u2019avons d\u00e9j\u00e0 mentionn\u00e9 dans un autre article, ChatGPT pourrait aider les escrocs \u00e0 r\u00e9diger des messages d\u2019hame\u00e7onnage ou \u00e0 \u00e9crire un code malveillant<\/a>, deux \u00e9l\u00e9ments qui n\u2019ont jamais \u00e9t\u00e9 un facteur limitant. Les personnes qui connaissent l\u2019existence de GitHub savent que la disponibilit\u00e9 d\u2019un programme malveillant n\u2019est pas un probl\u00e8me pour les cybercriminels, et toute personne qui s\u2019inqui\u00e8te de l\u2019acc\u00e9l\u00e9ration de ce d\u00e9veloppement devrait aussi avoir eu ces craintes lors de la sortie de Copilot<\/a>.<\/p>\n

Je viens de me rendre compte que c\u2019est assez ridicule de discr\u00e9diter une fr\u00e9n\u00e9sie m\u00e9diatique qui est n\u00e9e suite \u00e0 d\u2019insignifiantes consid\u00e9rations \u00e9conomiques au lieu d\u2019aborder de r\u00e9elles inqui\u00e9tudes, mais le fait est que l\u2019IA aura un \u00e9norme impact sur nos vies et de v\u00e9ritables probl\u00e8mes doivent \u00eatre r\u00e9solus. Tout ce bruit se met dans le passage.<\/p>\n

Impossible de faire machine arri\u00e8re<\/h2>\n

Peu importe ce que vous pensez des outils sortis en 2022 \u00e9quip\u00e9s de l\u2019IA\u00a0; sachez qu\u2019il y en aura d\u2019autres. Si vous pensez que ce domaine sera r\u00e8glement\u00e9 avant que la situation ne devienne incontr\u00f4lable, revoyez votre position\u00a0: la r\u00e9ponse politique que j\u2019ai constat\u00e9e jusqu\u2019\u00e0 maintenant a \u00e9t\u00e9 que la plupart des gouvernements ont d\u00e9cid\u00e9 d\u2019allouer plus de fonds \u00e0 la recherche en IA tant qu\u2019ils peuvent encore rattraper leur retard. Aucun pouvoir n\u2019a int\u00e9r\u00eat \u00e0 ralentir les choses.<\/p>\n

La quatri\u00e8me r\u00e9volution industrielle<\/h3>\n

L\u2019IA va certainement donner lieu \u00e0, ou a probablement d\u00e9j\u00e0 provoqu\u00e9, une am\u00e9lioration de la productivit\u00e9. Il est encore difficile de savoir dans quelle mesure elle l\u2019est ou le sera. Si votre travail consiste \u00e0 r\u00e9diger des textes avec une certaine inspiration, vous devriez vous inqui\u00e9ter. Cela vous concerne aussi si vous travaillez \u00e0 la commission comme cr\u00e9ateur visuel\u00a0: il y aura toujours des clients qui rechercheront une touche humaine, mais la plupart d\u2019entre eux choisiront l\u2019option la plus \u00e9conomique. Ce n\u2019est pas tout\u00a0: les experts en ing\u00e9nierie invers\u00e9e<\/a>, les avocats<\/a>, les professeurs<\/a>, les physiciens<\/a> et bien d\u2019autres professions devraient conna\u00eetre de profonds changements.<\/p>\n

Il convient de ne pas oublier que ChatGPT est un agent conversationnel d\u2019usage g\u00e9n\u00e9ral. Au cours des prochaines ann\u00e9es, les mod\u00e8les sp\u00e9cialis\u00e9s vont appara\u00eetre et surpasser ChatGPT pour certaines utilisations sp\u00e9cifiques. En d\u2019autres termes, si ChatGPT ne peut faire votre travail pour le moment, il est fort probable qu\u2019un nouveau produit \u00e9quip\u00e9 de l\u2019IA sorte dans les cinq prochaines ann\u00e9es et le fasse. Notre travail, tout notre travail, consistera \u00e0 surveiller l\u2019IA et \u00e0 nous assurer que le r\u00e9sultat propos\u00e9 est correct, au lieu de le faire nous-m\u00eame.<\/p>\n

Il se pourrait que l\u2019IA soit dans l\u2019impasse \u00e0 cause de sa complexit\u00e9 et ne puisse plus progresser, mais apr\u00e8s m\u2019\u00eatre tromp\u00e9 plusieurs fois, j\u2019ai appris \u00e0 ne pas parier dans ce domaine. Est-ce que l\u2019IA va autant changer le monde que la machine \u00e0 vapeur\u00a0? Nous devrions esp\u00e9rer que ce ne soit pas le cas parce que les changements brutaux des moyens de production modifient la structure de la soci\u00e9t\u00e9 humaine, et ce n\u2019est jamais pacifique.<\/p>\n

Les pr\u00e9jug\u00e9s et la possession de l\u2019IA<\/h3>\n

Beaucoup de choses ont d\u00e9j\u00e0 \u00e9t\u00e9 dites sur les partis pris des outils d\u2019IA<\/a> et je ne souhaite pas y revenir dessus. Il est plus int\u00e9ressant de voir comment OpenAI se bat contre ces pr\u00e9jug\u00e9s. Comme mentionn\u00e9 ci-dessus, ChatGPT a connu une phase d\u2019apprentissage supervis\u00e9e au cours de laquelle le mod\u00e8le de langage a appris \u00e0 ne pas \u00eatre intol\u00e9rant. Alors qu\u2019il s\u2019agit d\u2019un futur d\u00e9sirable, on ne peut que constater que ce processus a affectivement enseign\u00e9 un nouveau parti pris \u00e0 l\u2019agent conversationnel. Les conditions de cette phase d\u2019ajustement sont obscures : qui sont ces h\u00e9ros de l\u2019ombre qui ont d\u00fb d\u00e9terminer quelles sont les \u00ab\u00a0mauvaises\u00a0\u00bb r\u00e9ponses ? Des travailleurs non r\u00e9mun\u00e9r\u00e9s dans des pays du tiers monde ou des ing\u00e9nieurs de Silicon Valley ? Spoiler : il s\u2019agit du premier<\/a> cas.<\/p>\n

Il convient \u00e9galement de rappeler que les produits d\u2019IA ne travaillent pas pour le bien commun. Les divers produits con\u00e7us pour le moment appartiennent \u00e0 des entreprises qui seront toujours et avant tout motiv\u00e9es par les b\u00e9n\u00e9fices, qu\u2019ils entravent ou non les int\u00e9r\u00eats de l\u2019humanit\u00e9. Tout comme un changement dans les r\u00e9sultats de recherche de Google a un effet quantifiable<\/a> sur les gens, les compagnons ou les conseillers de l\u2019IA auront la capacit\u00e9 d\u2019influencer subtilement les utilisateurs.<\/p>\n

Et maintenant ?<\/h3>\n

\u00c9tant donn\u00e9 qu\u2019il ne s\u2019agit plus de savoir si l\u2019IA va faire interruption dans nos vies mais de d\u00e9terminer quand, nous devrions au moins voir comment nous pr\u00e9parer.<\/p>\n

Nous devrions \u00eatre extr\u00eamement prudents pour que ChatGPT (ou tout autre de ses descendants) ne se retrouvent pas dans une position o\u00f9 il pourrait prendre des d\u00e9cisions sans surveillance\u00a0: ChatGPT est extr\u00eamement fort pour d\u00e9gager une certaine confiance, mais il y a encore beaucoup d\u2019erreurs. Il y aura aussi de grandes motivations pour r\u00e9duire les co\u00fbts et pour retirer l\u2019\u00eatre humain de l\u2019\u00e9quation.<\/p>\n

Je pr\u00e9dis \u00e9galement qu\u2019au cours des dix prochaines ann\u00e9es la majorit\u00e9 des contenus disponibles en ligne (d\u2019abord les textes et les images, puis les vid\u00e9os et les jeux vid\u00e9o) seront g\u00e9n\u00e9r\u00e9s par une IA. Je ne pense pas que nous devrions compter beaucoup sur un signalement automatique efficace de ces contenus ; nous devrons simplement nous m\u00e9fier de ce que nous voyons sur Internet et lire dix fois plus de bruit. Nous devrons surtout nous m\u00e9fier des mod\u00e8les sp\u00e9cialis\u00e9s qui sont en cours. Que se passera-t-il lorsqu\u2019un des Big Four aura form\u00e9 un mod\u00e8le sur le code fiscal et commencera \u00e0 poser des questions sur les niches fiscales ? Que se passera-t-il lorsqu\u2019un militaire jouera avec ChatGPT et lui dira : \u00ab\u00a0Oui, je veux \u00e7a pour mes drones\u00a0\u00bb ?<\/p>\n

L\u2019IA sera incroyable\u00a0: elle va s\u2019occuper de nombreuses t\u00e2ches ennuyeuses, va apporter de nouvelles possibilit\u00e9s \u00e0 tout le monde et va relancer de nouvelles formes d\u2019art (oui). Mais l\u2019IA sera aussi terrible. Si l\u2019histoire nous a appris quelque chose, c\u2019est qu\u2019elle va donner lieu \u00e0 une concentration du pouvoir encore plus importante et va nous entra\u00eener encore plus sur la pente du techno-f\u00e9odalisme<\/a>. Elle va changer la fa\u00e7on dont le travail est organis\u00e9, voire nos relations avec le vivier de connaissances de l\u2019humanit\u00e9. Je ne vais pas entrer dans ce sujet.<\/p>\n

La bo\u00eete de Pandore est ouverte.<\/p>\n\n","protected":false},"excerpt":{"rendered":"

L\u2019IA va avoir un impact consid\u00e9rable sur nos vies. Comment nous y pr\u00e9parer ?<\/p>\n","protected":false},"author":2658,"featured_media":20283,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[1869],"tags":[4355,4350,4366,3383,4365,527],"class_list":{"0":"post-20275","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-technology","8":"tag-ai","9":"tag-chatgpt","10":"tag-dall-e-2","11":"tag-ia","12":"tag-midjourney","13":"tag-technologie"},"hreflang":[{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/chat-gpt-changes-all\/20275\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/chat-gpt-changes-all\/25330\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/chat-gpt-changes-all\/20777\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/chat-gpt-changes-all\/27948\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/chat-gpt-changes-all\/25629\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/chat-gpt-changes-all\/26061\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/chat-gpt-changes-all\/28504\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/chat-gpt-changes-all\/34787\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/chat-gpt-changes-all\/47405\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/chat-gpt-changes-all\/20906\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/chat-gpt-changes-all\/29877\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/chat-gpt-changes-all\/33489\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/chat-gpt-changes-all\/25943\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/chat-gpt-changes-all\/31651\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/chat-gpt-changes-all\/31358\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.fr\/blog\/tag\/ai\/","name":"AI"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/20275","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/users\/2658"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/comments?post=20275"}],"version-history":[{"count":3,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/20275\/revisions"}],"predecessor-version":[{"id":20290,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/20275\/revisions\/20290"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/media\/20283"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/media?parent=20275"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/categories?post=20275"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/tags?post=20275"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}