{"id":17008,"date":"2021-06-01T16:06:35","date_gmt":"2021-06-01T14:06:35","guid":{"rendered":"https:\/\/www.kaspersky.fr\/blog\/?p=17008"},"modified":"2021-06-01T16:06:35","modified_gmt":"2021-06-01T14:06:35","slug":"rsa2021-tesla-mobileye-perception-gap","status":"publish","type":"post","link":"https:\/\/www.kaspersky.fr\/blog\/rsa2021-tesla-mobileye-perception-gap\/17008\/","title":{"rendered":"Tesla et Mobileye : pilote automatique dup\u00e9 par des images &laquo;&nbsp;fant\u00f4mes&nbsp;&raquo;"},"content":{"rendered":"<p>Prenez une sc\u00e8ne typique d\u2019un film\u00a0: le personnage principal pense avoir vu quelqu\u2019un sur la route, alors il essaie de l\u2019\u00e9viter et se retrouve dans un foss\u00e9. Maintenant, imaginez que c\u2019est r\u00e9el \u2013 en quelque sorte \u2013 et qu\u2019au lieu d\u2019une illusion d\u2019optique ou d\u2019un tour jou\u00e9 par notre esprit, il s\u2019agit d\u2019une image projet\u00e9e pendant une fraction de seconde par un cybercriminel \u00e0 laquelle le pilote automatique de la voiture doit r\u00e9agir. Des chercheurs de Georgia Tech et de l\u2019Universit\u00e9 Ben-Gurion du N\u00e9gev <a href=\"https:\/\/www.rsaconference.com\/usa\/agenda\/session\/securing-tesla-and-mobileye-from-splitsecond-phantom-attacks\" target=\"_blank\" rel=\"noopener nofollow\">ont d\u00e9montr\u00e9<\/a> que ce type d\u2019attaque \u00ab\u00a0visuelle\u00a0\u00bb \u00e9tait possible lors de la <a href=\"https:\/\/www.kaspersky.fr\/blog\/tag\/rsac\/\" target=\"_blank\" rel=\"noopener\">RSA Conference 2021<\/a>.<\/p>\n<p>Le fait de montrer des images dangereuses \u00e0 l\u2019intelligence artificielle ne date pas d\u2019hier. Ces techniques consistent en g\u00e9n\u00e9ral \u00e0 utiliser des <a href=\"https:\/\/www.kaspersky.com\/blog\/machine-learning-nine-challenges\/23553\/\" target=\"_blank\" rel=\"noopener nofollow\">images modifi\u00e9es<\/a> afin que l\u2019intelligence artificielle r\u00e9agisse de mani\u00e8re inhabituelle. Tous les algorithmes d\u2019apprentissage automatique ont le m\u00eame talon d\u2019Achille\u00a0: si on conna\u00eet les \u00e9l\u00e9ments essentiels qui permettent de reconna\u00eetre une image (c\u2019est-\u00e0-dire si on sait comment fonctionne l\u2019algorithme), il est possible de modifier les images afin de perturber le processus de prise de d\u00e9cisions de la machine ou bien pour l\u2019inciter \u00e0 faire une erreur.<\/p>\n<p>Mais la nouveaut\u00e9 de cette approche pr\u00e9sent\u00e9e lors de la RSA Conference 2021, c\u2019est que les images montr\u00e9es au pilote automatique n\u2019ont pas \u00e9t\u00e9 modifi\u00e9es. Le pirate informatique doit pour cela savoir comment fonctionne l\u2019algorithme ou conna\u00eetre les attributs qu\u2019il utilise. Les images ont \u00e9t\u00e9 bri\u00e8vement projet\u00e9es sur la route \u00e0 c\u00f4t\u00e9 d\u2019une s\u00e9rie d\u2019objets immobiles, et voici les cons\u00e9quences :<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/1cSw4fXYqWI?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>Cette fois-ci, les images sont apparues pendant une fraction de seconde sur un panneau publicitaire se trouvant sur le bord de la route. Les r\u00e9sultats sont similaires\u00a0:<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/-E0t_s6bT_4?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>Les auteurs de l\u2019\u00e9tude en ont conclu que les cybercriminels peuvent causer des ravages \u00e0 distance sans laisser aucune preuve sur la sc\u00e8ne du crime. Tout ce qu\u2019ils doivent savoir, c\u2019est combien de temps ils doivent projeter l\u2019image afin de duper l\u2019intelligence artificielle (les voitures autonomes poss\u00e8dent un seuil de d\u00e9clenchement afin d\u2019\u00e9viter les faux positifs qui pourraient, par exemple, \u00eatre caus\u00e9s par de la poussi\u00e8re ou de la terre sur la cam\u00e9ra ou le radar optique).<\/p>\n<p>D\u00e9sormais, la distance de freinage d\u2019une voiture est mesur\u00e9e en dizaine de m\u00e8tres, donc en rajouter quelques-uns pour mieux \u00e9valuer la situation n\u2019\u00e9tait pas un probl\u00e8me pour les d\u00e9veloppeurs en intelligence artificielle.<\/p>\n<div id=\"attachment_17009\" style=\"width: 1810px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" aria-describedby=\"caption-attachment-17009\" class=\"wp-image-17009 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/93\/2021\/05\/26182855\/rsa2021-tesla-mobileye-perception-gap-chart.png\" alt=\"Temps de r\u00e9action des syst\u00e8mes de reconnaissance de Tesla et de Mobileye face \u00e0 une image fant\u00f4me\" width=\"1800\" height=\"1400\"><p id=\"caption-attachment-17009\" class=\"wp-caption-text\">Temps n\u00e9cessaire pour montrer une image fant\u00f4me aux syst\u00e8mes de reconnaissance de Tesla et de Mobileye. <a href=\"https:\/\/www.rsaconference.com\/usa\/agenda\/session\/securing-tesla-and-mobileye-from-splitsecond-phantom-attacks\" target=\"_blank\" rel=\"noopener nofollow\">Source<\/a><\/p><\/div>\n<p>Cependant, les quelques m\u00e8tres parcourus concernent le syst\u00e8me de vision artificielle de Mobileye \u00e0 une vitesse de 60 km\/h. Ici, le temps de r\u00e9action est d\u2019environ 125 millisecondes. Comme l\u2019ont d\u00e9montr\u00e9 les chercheurs, le seuil de r\u00e9ponse du pilote automatique de Tesla est de 400 millisecondes, ce qui est presque trois fois plus long.<\/p>\n<p>\u00c0 la m\u00eame vitesse, il s\u2019agirait de 7 m\u00e8tres suppl\u00e9mentaires. Dans tous les cas, il s\u2019agit toujours d\u2019une fraction de seconde. Par cons\u00e9quent, pour les chercheurs, une attaque peut venir de nulle part\u00a0: en un rien de temps, vous pouvez vous retrouver dans un foss\u00e9 et le drone projetant l\u2019image n\u2019est plus l\u00e0.<\/p>\n<p>Cette aberration dans le syst\u00e8me nous donne de l\u2019espoir, et peut-\u00eatre qu\u2019un jour les pilotes automatiques seront capables de repousser ce genre d\u2019attaque\u00a0: les images projet\u00e9es sur des surfaces qui ne sont pas faites cela sont tr\u00e8s diff\u00e9rentes de la r\u00e9alit\u00e9. Les distorsions de perspectives, les bords irr\u00e9guliers, les couleurs artificielles, le fort contraste et d\u2019autres types d\u2019anomalies permettent \u00e0 l\u2019\u0153il humain de faire la diff\u00e9rence avec de vrais objets.<\/p>\n<p>Par cons\u00e9quent, la vuln\u00e9rabilit\u00e9 du pilote automatique aux attaques d\u2019images fant\u00f4mes vient de la diff\u00e9rence de perception entre le cerveau humain et l\u2019intelligence artificielle. Afin de r\u00e9duire cet \u00e9cart, les auteurs de l\u2019\u00e9tude proposent d\u2019ajouter d\u2019autres v\u00e9rifications aux syst\u00e8mes de pilotage automatique pour que les fonctionnalit\u00e9s soient coh\u00e9rentes\u00a0(la perspective, le lissage des bords, les couleurs, le contraste ainsi que la luminosit\u00e9) et pour s\u2019assurer que les r\u00e9sultats soient logiques avant de prendre une d\u00e9cision. Tout comme un humain, les r\u00e9seaux neuronaux artificiels d\u00e9lib\u00e9reront selon les crit\u00e8res qui leur permettent de faire la diff\u00e9rence entre une vraie cam\u00e9ra, un radar optique ou un fant\u00f4me \u00e9ph\u00e9m\u00e8re.<\/p>\n<p>\u00c9videmment, ceci ajouterait une charge de calcul aux syst\u00e8mes et entra\u00eenerait un fonctionnement parall\u00e8le de plusieurs r\u00e9seaux neuronaux en m\u00eame temps, tous pr\u00e9alablement pr\u00e9par\u00e9s (un processus qui requiert beaucoup de temps et d\u2019\u00e9nergie). Quant aux voitures, qui sont d\u00e9j\u00e0 des ordinateur sur roues, devront passer au niveau sup\u00e9rieur pour devenir des superordinateurs.<\/p>\n<p>Comme les <a href=\"https:\/\/fr.wikipedia.org\/wiki\/Puce_d%27acc%C3%A9l%C3%A9ration_de_r%C3%A9seaux_de_neurones\" target=\"_blank\" rel=\"noopener nofollow\">Acc\u00e9l\u00e9rateurs d\u2019IA<\/a> sont de plus en plus r\u00e9pandus, les voitures pourraient poss\u00e9der plusieurs r\u00e9seaux neuronaux artificiels qui fonctionneraient en parall\u00e8le sans consommer beaucoup d\u2019\u00e9nergie. Mais c\u2019est une autre histoire.<\/p>\n<input type=\"hidden\" class=\"category_for_banner\" value=\"kesb-top3\">\n","protected":false},"excerpt":{"rendered":"<p> Lors de la RSA Conference 2021, des chercheurs ont d\u00e9montr\u00e9 que le pilote automatique de Tesla et de Mobileye peut \u00eatre dup\u00e9 par des images \u00ab fant\u00f4mes \u00bb.<\/p>\n","protected":false},"author":2454,"featured_media":17010,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2112,3150,1869],"tags":[3383,2951,4143,2078,1100,527,1192,4144],"class_list":{"0":"post-17008","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-business","8":"category-enterprise","9":"category-technology","10":"tag-ia","11":"tag-intelligence-artificielle","12":"tag-rsa-2021","13":"tag-rsa-conference","14":"tag-rsac","15":"tag-technologie","16":"tag-tesla","17":"tag-voitures-autonomes"},"hreflang":[{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/rsa2021-tesla-mobileye-perception-gap\/17008\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/rsa2021-tesla-mobileye-perception-gap\/22909\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/18394\/"},{"hreflang":"ar","url":"https:\/\/me.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/9143\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/24828\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/rsa2021-tesla-mobileye-perception-gap\/22821\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/22002\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/rsa2021-tesla-mobileye-perception-gap\/25378\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/rsa2021-tesla-mobileye-perception-gap\/24764\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/rsa2021-tesla-mobileye-perception-gap\/30814\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/rsa2021-tesla-mobileye-perception-gap\/9684\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/40064\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/rsa2021-tesla-mobileye-perception-gap\/17546\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/rsa2021-tesla-mobileye-perception-gap\/14879\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/rsa2021-tesla-mobileye-perception-gap\/26837\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/rsa2021-tesla-mobileye-perception-gap\/30846\/"},{"hreflang":"nl","url":"https:\/\/www.kaspersky.nl\/blog\/rsa2021-tesla-mobileye-perception-gap\/27100\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/rsa2021-tesla-mobileye-perception-gap\/23966\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/rsa2021-tesla-mobileye-perception-gap\/29286\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/rsa2021-tesla-mobileye-perception-gap\/29083\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.fr\/blog\/tag\/rsac\/","name":"RSAC"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/17008","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/users\/2454"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/comments?post=17008"}],"version-history":[{"count":3,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/17008\/revisions"}],"predecessor-version":[{"id":17013,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/17008\/revisions\/17013"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/media\/17010"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/media?parent=17008"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/categories?post=17008"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/tags?post=17008"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}