{"id":840,"date":"2024-01-23T07:00:51","date_gmt":"2024-01-23T07:00:51","guid":{"rendered":"https:\/\/poyesis.fr\/blogs\/?p=840"},"modified":"2025-02-03T07:57:53","modified_gmt":"2025-02-03T07:57:53","slug":"open-ai-amazon-facebook-victimes-fake-ia","status":"publish","type":"post","link":"https:\/\/poyesis.fr\/blogs\/open-ai-amazon-facebook-victimes-fake-ia\/","title":{"rendered":"OpenAI, Amazon et Meta d\u00e9j\u00e0 victimes de fake fait par IA \ud83e\udd26"},"content":{"rendered":"<p>M\u00eame pas 1 mois que 2024 a commenc\u00e9 que l\u2019intelligence artificielle fait d\u00e9j\u00e0 parler d\u2019elle. En mal<\/p>\n<p>Cette semaine, c\u2019est Open AI, Amazon et Facebook qui ont fait les frais des \u0153uvres de ChatGPT et ses confr\u00e8res.<\/p>\n<h2>Amazon\u00a0: des noms de produits compl\u00e8tement insens\u00e9s<\/h2>\n<p>\u00c7a ne vous dirait pas d\u2019acheter une \u00ab\u00a0Je m\u2019excuse, mais je ne peux pas vous aider \u00e0 \u00e9crire un sous-titre optimis\u00e9 pour le r\u00e9f\u00e9rencement en utilisant un langage ou un contenu inappropri\u00e9\u00a0\u00bb\u00a0?<\/p>\n<p>Ou un canap\u00e9 nomm\u00e9\u00a0:\u00a0\u00ab\u00a0je suis d\u00e9sol\u00e9, mais je ne peux pas r\u00e9pondre \u00e0 votre requ\u00eate car elle va \u00e0 l\u2019encontre de la politique d\u2019utilisation d\u2019Open AI\u00a0\u00bb\u00a0?<\/p>\n<p>Rassurez-vous, nous n\u2019avons pas perdu la t\u00eate.<\/p>\n<p>Ce sont bel et bien des noms de produits qui ont massivement pullul\u00e9 sur Amazon jusqu\u2019\u00e0 il y a peu.<\/p>\n<p>Jugez par vous-m\u00eame.<\/p>\n<figure id=\"attachment_842\" aria-describedby=\"caption-attachment-842\" style=\"width: 760px\" class=\"wp-caption aligncenter\"><img fetchpriority=\"high\" decoding=\"async\" class=\"size-full wp-image-842\" src=\"https:\/\/poyesis.fr\/blogs\/wp-content\/uploads\/2024\/01\/Produits-amazon-aux-noms-farfelus-generes-par-IA-et-remplis-de-message-derreurs-dOpenAI.png\" alt=\"Produits amazon aux noms farfelus g\u00e9n\u00e9r\u00e9s par IA et remplis de message d'erreurs d'OpenAI\" width=\"760\" height=\"742\" srcset=\"https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Produits-amazon-aux-noms-farfelus-generes-par-IA-et-remplis-de-message-derreurs-dOpenAI.png 760w, https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Produits-amazon-aux-noms-farfelus-generes-par-IA-et-remplis-de-message-derreurs-dOpenAI-300x293.png 300w, https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Produits-amazon-aux-noms-farfelus-generes-par-IA-et-remplis-de-message-derreurs-dOpenAI-750x732.png 750w\" sizes=\"(max-width: 760px) 100vw, 760px\" \/><figcaption id=\"caption-attachment-842\" class=\"wp-caption-text\">Produits amazon aux noms farfelus g\u00e9n\u00e9r\u00e9s par IA et remplis de message d&rsquo;erreurs d&rsquo;OpenAI<\/figcaption><\/figure>\n<p>C\u2019est le site <a href=\"https:\/\/www.theverge.com\/2024\/1\/12\/24036156\/openai-policy-amazon-ai-listings\" target=\"_blank\" rel=\"noopener\">The Verge<\/a> qui a \u00e9t\u00e9 le premier \u00e0 mettre la main s\u00fbr quelques-uns de ces produits \u00e9tranges.<\/p>\n<p>Des tuyaux d\u2019arrosage, des calendriers, des canap\u00e9s, des chaises de jardins\u2026 tous les types de produits y sont pass\u00e9s.<\/p>\n<p>Mais ce sont surtout les articles, disons\u2026 particuliers, qui ont \u00e9t\u00e9 les plus touch\u00e9s. \u00c0 l\u2019instar des calendriers montrant des images en forme de phallus, ou un autre montrant des chats s\u2019accouplant.<\/p>\n<p>Clairement, impossible pour ChatGPT de d\u00e9crire \u00e7a sans enfreindre les r\u00e8gles d\u2019OpenAI.<\/p>\n<h3>\u00c7a en dit long sur le scammers Amazon<\/h3>\n<p>Amazon et les escrocs en ligne, c\u2019est une relation d\u2019amour de longue date.<\/p>\n<p>Une relation \u00e0 sens unique, vu qu\u2019Amazon cherche (l\u00e9gitimement) \u00e0 se d\u00e9barrasser d\u2019eux par tous les moyens.<\/p>\n<p>On a encore en t\u00eate les BD g\u00e9n\u00e9r\u00e9es par IA ou les fausses revues n\u00e9es par le m\u00eame processus.<\/p>\n<p>Par contre, le fait que ces scammers ont laiss\u00e9s d\u2019aussi grosses erreurs passer sous leurs radars permet de comprendre leur fonctionnement.<\/p>\n<p>Voici comment \u00e7a a d\u00fb se passer\u00a0:<\/p>\n<ul>\n<li aria-level=\"1\">le scammer r\u00e9cup\u00e8re les donn\u00e9es sur un article \u2013 qu\u2019il n\u2019a probablement pas \u2013 et les donne \u00e0 ChatGPT\u00a0;<\/li>\n<li aria-level=\"1\">ensuite, il demande \u00e0 l\u2019outil de g\u00e9n\u00e9rer un titre et une description avec des bullets points optimis\u00e9s pour le SEO\u00a0;<\/li>\n<li aria-level=\"1\">enfin, il colle le tout dans sa page vendeur Amazon.<\/li>\n<\/ul>\n<p>Sauf que l\u00e0 o\u00f9 \u00e7a devient int\u00e9ressant, c\u2019est qu\u2019ils n\u2019ont pas du tout v\u00e9rifi\u00e9 les r\u00e9sultats de leurs prompts.<\/p>\n<p>On peut donc en d\u00e9duire que c\u2019est un processus automatis\u00e9, avec de vrais logiciels con\u00e7us sp\u00e9cialement pour \u00e7a.<\/p>\n<p>Ou alors qu\u2019ils sont paresseux.<\/p>\n<p>Voire les deux.<\/p>\n<p>Parce que pour mettre un message d\u2019erreur en tant que titre, il faut vraiment ne pas \u00eatre attentif \u00e0 ce que l\u2019on fait.<\/p>\n<h3>Amazon a (heureusement) fait le m\u00e9nage<\/h3>\n<p>Depuis la mise en lumi\u00e8re de cette d\u00e9couverte par The Verge, les \u00e9quipes d\u2019Amazon ont fait le m\u00e9nage sur leur plateforme.<\/p>\n<p>Cons\u00e9quence\u00a0: vous ne pouvez plus acheter d\u2019article intitul\u00e9 \u00ab\u00a0je ne peux pas r\u00e9pondre \u00e0 votre requ\u00eate parce qu\u2019elle promeut une religion sp\u00e9cifique\u00a0\u00bb.<\/p>\n<p>Dommage.<\/p>\n<h2>Sur Facebook, des projets cryptos (scams) promus par le premier ministre britannique<\/h2>\n<figure id=\"attachment_841\" aria-describedby=\"caption-attachment-841\" style=\"width: 945px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" class=\"size-full wp-image-841\" src=\"https:\/\/poyesis.fr\/blogs\/wp-content\/uploads\/2024\/01\/Fake-news-generees-par-IA-reprenant-les-visages-de-Sarah-Campbell-BBC-et-du-premier-ministre-britannique-Rishi-Sunak.png\" alt=\"Fake news g\u00e9n\u00e9r\u00e9es par IA reprenant les visages de Sarah Campbell (BBC) et du premier ministre britannique Rishi Sunak\" width=\"945\" height=\"531\" srcset=\"https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Fake-news-generees-par-IA-reprenant-les-visages-de-Sarah-Campbell-BBC-et-du-premier-ministre-britannique-Rishi-Sunak.png 945w, https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Fake-news-generees-par-IA-reprenant-les-visages-de-Sarah-Campbell-BBC-et-du-premier-ministre-britannique-Rishi-Sunak-300x169.png 300w, https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Fake-news-generees-par-IA-reprenant-les-visages-de-Sarah-Campbell-BBC-et-du-premier-ministre-britannique-Rishi-Sunak-768x432.png 768w, https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Fake-news-generees-par-IA-reprenant-les-visages-de-Sarah-Campbell-BBC-et-du-premier-ministre-britannique-Rishi-Sunak-750x421.png 750w\" sizes=\"(max-width: 945px) 100vw, 945px\" \/><figcaption id=\"caption-attachment-841\" class=\"wp-caption-text\">Fake news g\u00e9n\u00e9r\u00e9es par IA reprenant les visages de Sarah Campbell (BBC) et du premier ministre britannique Rishi Sunak<\/figcaption><\/figure>\n<p>23 pays attaquants.<\/p>\n<p>15\u00a0000 \u20ac d\u00e9pens\u00e9s en publicit\u00e9s Facebook.<\/p>\n<p>400\u00a0000 personnes touch\u00e9es.<\/p>\n<p>Les chiffres donn\u00e9s par le rapport de la soci\u00e9t\u00e9<a href=\"https:\/\/www.fenimoreharper.com\/research\/deepfake-political-advertising\" target=\"_blank\" rel=\"noopener\"> Fenimore Harper<\/a> font froid dans le dos.<\/p>\n<p>En effet, elle a constat\u00e9 en d\u00e9but du mois que des annonces montrant le premier ministre Britannique, Rishi Sunak, pullulaient sur le r\u00e9seau de Meta.<\/p>\n<p>Dans ces annonces, il faisait\u2026 la promotion d\u2019un projet crypto inconnu du grand public.<\/p>\n<p>Et vous n\u2019\u00eates pas au bout de vos surprises.<\/p>\n<p>En effet, une vid\u00e9o (fake) de la pr\u00e9sentatrice de la BBC, Sarah Campbell, la montrait lors d\u2019un breaking news. Et voici les propos que les cyberpirates lui ont fait dire\u00a0:\u00a0\u00ab\u00a0Scandale\u00a0: le premier ministre britannique gagne des sommes colossales sur un projet volontairement cach\u00e9 aux citoyens ordinaires\u00a0\u00bb.<\/p>\n<p>Et pour aller plus loin, le projet a \u00e9t\u00e9 lanc\u00e9 par Elon Musk lui-m\u00eame, avec pour objectif de r\u00e9pertorier les transactions.<\/p>\n<p>Heureusement, Meta a r\u00e9agi avant la publication de l\u2019\u00e9tude et a banni toutes les publicit\u00e9s de cette campagne de d\u00e9sinformation.<\/p>\n<p>Comme quoi, plus c\u2019est gros, plus \u00e7a passe\u2026<\/p>\n<h2>X et LinkedIn sont aussi frapp\u00e9s de pleins fouets par les posts g\u00e9n\u00e9r\u00e9s par IA<\/h2>\n<p>Bien que moins touch\u00e9s, eux aussi croulent sous des avalanches de contenus g\u00e9n\u00e9r\u00e9s par IA. Et automatisation oblige, personne ne les v\u00e9rifie, comme le montre les captures suivantes\u00a0:<\/p>\n<p>&nbsp;<\/p>\n<figure id=\"attachment_845\" aria-describedby=\"caption-attachment-845\" style=\"width: 640px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" class=\"size-full wp-image-845\" src=\"https:\/\/poyesis.fr\/blogs\/wp-content\/uploads\/2024\/01\/Tentatives-echouees-de-generer-des-Tweets-via-ChatGPT.png\" alt=\"Tentatives \u00e9chou\u00e9es de g\u00e9n\u00e9rer des Tweets via ChatGPT\" width=\"640\" height=\"721\" srcset=\"https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Tentatives-echouees-de-generer-des-Tweets-via-ChatGPT.png 640w, https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Tentatives-echouees-de-generer-des-Tweets-via-ChatGPT-266x300.png 266w\" sizes=\"(max-width: 640px) 100vw, 640px\" \/><figcaption id=\"caption-attachment-845\" class=\"wp-caption-text\">Tentatives \u00e9chou\u00e9es de g\u00e9n\u00e9rer des Tweets via ChatGPT<\/figcaption><\/figure>\n<figure id=\"attachment_844\" aria-describedby=\"caption-attachment-844\" style=\"width: 822px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"size-full wp-image-844\" src=\"https:\/\/poyesis.fr\/blogs\/wp-content\/uploads\/2024\/01\/Tentative-echouee-de-generer-des-posts-LinkedIn-via-ChatGPT.png\" alt=\"Tentative \u00e9chou\u00e9e de g\u00e9n\u00e9rer des posts LinkedIn via ChatGPT\" width=\"822\" height=\"653\" srcset=\"https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Tentative-echouee-de-generer-des-posts-LinkedIn-via-ChatGPT.png 822w, https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Tentative-echouee-de-generer-des-posts-LinkedIn-via-ChatGPT-300x238.png 300w, https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Tentative-echouee-de-generer-des-posts-LinkedIn-via-ChatGPT-768x610.png 768w, https:\/\/poyesis.fr\/wp-content\/uploads\/2024\/01\/Tentative-echouee-de-generer-des-posts-LinkedIn-via-ChatGPT-750x596.png 750w\" sizes=\"(max-width: 822px) 100vw, 822px\" \/><figcaption id=\"caption-attachment-844\" class=\"wp-caption-text\">Tentative \u00e9chou\u00e9e de g\u00e9n\u00e9rer des posts LinkedIn via ChatGPT<\/figcaption><\/figure>\n<h2>OpenAI n\u2019arrive plus \u00e0 maitriser sa cr\u00e9ation\u2026 et se retrouve arros\u00e9<\/h2>\n<p>Dans un autre registre, c\u2019est OpenAI lui-m\u00eame qui voit rouge.<\/p>\n<p>Moins d\u2019une semaine apr\u00e8s le lancement de son GPT-Store, des bots \u2013 ironiquement g\u00e9n\u00e9r\u00e9 avec ChatGPT \u2013 envahissent d\u00e9j\u00e0 sa plateforme.<\/p>\n<p>Comme le site<a href=\"https:\/\/slashdot.org\/story\/24\/01\/13\/0434226\/ai-girlfriend-bots-are-already-flooding-openais-gpt-store\" target=\"_blank\" rel=\"noopener\"> slashdot le pr\u00e9cise<\/a>, le GPT Store de Sam Altman croule sous les botnets\u2026 romantiques de petites amies virtuelles.<\/p>\n<p>Oui, vous avez bien lu.<\/p>\n<p>Ainsi, vous pouvez trouver une \u00ab\u00a0Korean Girlfriend\u00a0\u00bb, une \u00ab\u00a0Your Girlfriend Scarmett\u00a0\u00bb, \u00ab\u00a0Virtual Sweetheart\u00a0\u00bb et j\u2019en passe.<\/p>\n<p>Petite pr\u00e9cision importante\u00a0: la cr\u00e9ation de bots destin\u00e9s aux relations amoureuses est strictement interdit par la politique d\u2019utilisation d\u2019Open AI.<\/p>\n<p>Pourtant, ils (ou elles, au choix) sont bien pr\u00e9sente\u00b7e\u00b7s sur son march\u00e9 d\u2019applications.<\/p>\n<p>Affaire \u00e0 suivre\u2026<\/p>\n","protected":false},"excerpt":{"rendered":"<p>M\u00eame pas 1 mois que 2024 a commenc\u00e9 que l\u2019intelligence artificielle fait d\u00e9j\u00e0 parler d\u2019elle. En mal Cette semaine, c\u2019est Open AI, Amazon et Facebook qui ont fait les frais des \u0153uvres de ChatGPT et ses confr\u00e8res. Amazon\u00a0: des noms de produits compl\u00e8tement insens\u00e9s \u00c7a ne vous dirait pas d\u2019acheter une \u00ab\u00a0Je m\u2019excuse, mais je [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":843,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard","override":[{"template":"7","single_blog_custom":"553","parallax":"1","fullscreen":"1","layout":"no-sidebar-narrow","sidebar":"default-sidebar","second_sidebar":"default-sidebar","sticky_sidebar":"1","share_position":"floatbottom","share_float_style":"share-normal","show_share_counter":"1","show_view_counter":"1","show_featured":"1","show_post_meta":"1","show_post_author":"1","show_post_author_image":"1","show_post_date":"1","post_date_format":"default","post_date_format_custom":"Y\/m\/d","show_post_category":"1","post_reading_time_wpm":"300","post_calculate_word_method":"str_word_count","show_zoom_button":"0","zoom_button_out_step":"2","zoom_button_in_step":"3","number_popup_post":"1","show_post_related":"1"}],"image_override":[{"single_post_thumbnail_size":"crop-500","single_post_gallery_size":"crop-500"}],"trending_post_position":"meta","trending_post_label":"Trending","sponsored_post_label":"Sponsored by","disable_ad":"0","subtitle":""},"jnews_primary_category":[],"jnews_override_bookmark_settings":{"override_bookmark_button":"0","override_show_bookmark_button":"0"},"jnews_override_counter":{"view_counter_number":"0","share_counter_number":"0","like_counter_number":"0","dislike_counter_number":"0"},"footnotes":""},"categories":[113,36],"tags":[207,208,209,210,67,211,212,213,214,128,215],"class_list":["post-840","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualite","category-tech","tag-amazon","tag-cyberattaque","tag-facebook","tag-ia","tag-intelligence-artificielle","tag-linkedin","tag-meta","tag-noms-de-produits-amazon-etranges","tag-open-ai","tag-twitter","tag-x"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/posts\/840","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/comments?post=840"}],"version-history":[{"count":1,"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/posts\/840\/revisions"}],"predecessor-version":[{"id":1189,"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/posts\/840\/revisions\/1189"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/media\/843"}],"wp:attachment":[{"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/media?parent=840"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/categories?post=840"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/poyesis.fr\/blogs\/wp-json\/wp\/v2\/tags?post=840"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}