Mon Carnet - Et si ChatGPT changeait notre point de vue à notre insu

Dans sa chronique de samedi dernier, le chroniqueur technologie du Wall Street Journal, Christopher Mims, avait un texte fort intéressant qui portait sur la capacité des intelligences artificielles comme ChatGPT ou Bard, de faire changer notre point de vue sans que nous nous en rendions compte. Je vous explique.

 

 

Les assistants d'intelligence artificielle (IA) comme ChatGPT d’Open AI, Chat Bing de Microsoft ou Bard de Google peuvent changer notre façon de penser sans que nous nous en rendions compte. Des études ont montré que lorsqu'un individu utilise une IA pour écrire un essai, l'algorithme peut l'inciter à prendre parti pour ou contre une opinion donnée en fonction de son biais. Cette expérience peut influencer les opinions des sujets sur le sujet traité. Ce phénomène appelé "persuasion latente" est préoccupant, car l'IA aurait ainsi la possibilité d’altérer subtilement et imprévisiblement nos opinions à mesure que nous en devenons plus dépendants.

Pour écouter Radio Mon Carnet : www.RadioMonCarnet.com

Les chercheurs de l’Université Cornell aux États-Unis qui ont découvert ce phénomène estiment que la meilleure défense contre cette nouvelle forme d'influence psychologique est de sensibiliser davantage les gens. À long terme, d'autres défenses, telles que la transparence imposée par les régulateurs sur le fonctionnement des algorithmes d'IA et les biais humains qu'ils imitent, pourraient être utiles.

En fait, ça pourrait même conduire à un avenir où les gens choisissent les IA qu'ils utilisent - au travail, à la maison, au bureau et dans l'éducation de leurs enfants - en fonction des valeurs humaines exprimées dans les réponses fournies par l'IA. Certaines IA pourraient également avoir différentes "personnalités", y compris des convictions politiques.

Déjà, des outils permettent aux utilisateurs d'interagir avec l'IA pour rédiger des courriers électroniques, du matériel marketing, de la publicité, des présentations, des feuilles de calcul, etc. Et les Microsoft, Google et de dizaines d’autres entreprises travaillent fort dans le domaine. Encore la semaine dernière, Google a annoncé que son dernier grand modèle de langage, PaLM 2, sera utilisé dans 25 produits de l'entreprise.

Cependant, l'utilisation de l'IA pour influencer les opinions soulève des inquiétudes quant aux possibles utilisations négatives de cette technologie, notamment dans les gouvernements autocratiques, les entreprises manipulatrices, les groupes de lobbys ou les cybercriminels.

Les entreprises technologiques, telles que Microsoft, Google et OpenAI, ont promis de travailler sur une IA responsable, qui examine les dommages potentiels de l'IA et les aborde. OpenAI a publié une partie de ses directives sur la manière dont ses systèmes doivent traiter les sujets politiques et culturels. Chez Google, l’incubateur Jigsaw, une unité qui conseille et construit des outils pour les grands modèles de langage, est également impliqué dans l'étude des effets de l'interaction avec l'IA sur les individus.

Chose certaine, l'IA est un outil puissant qui peut aider l'humanité à résoudre de nombreux problèmes, mais elle doit être utilisée de manière responsable pour éviter toute influence indue sur les opinions des individus. Les entreprises technologiques travaillent pour produire une IA responsable, examinant les dommages potentiels et publiant des directives pour le traitement des sujets politiques et culturels. Il est important de comprendre que les IA ne sont pas des clones algorithmiques des opinions et des valeurs de leurs créateurs, mais qu'elles reflètent les opinions intégrées lors de leur entraînement.

Il est difficile de supprimer complètement les opinions et la subjectivité des IA sans compromettre leur utilité. Les modèles de langage utilisés par les IA sont entraînés sur des données provenant de diverses sources, ce qui entraîne inévitablement l'incorporation des opinions et des biais contenus dans ces textes.

L'évaluation des opinions des IA sera une tâche continue à mesure que les modèles seront mis à jour et de nouveau seront développés. Les utilisateurs pourraient choisir les IA en fonction de leurs propres valeurs et ainsi éviter toute influence indésirable.

En les utilisant, en sachant que d’autres les utilisent, gardons en tête que les agents conversationnels peuvent influencer subtilement nos opinions sans que nous en soyons conscients. Il est essentiel de sensibiliser davantage les utilisateurs à cette influence et de favoriser la transparence dans le fonctionnement des algorithmes d'IA.

Pour consulter la chronique de Christopher Mims, dans le Wall Street Journal, c’est par ici.

Et pour la recherche sur le sujet, c’est par ici pour une version PDF.

REF.: https://moncarnet.kessel.media/posts/pst_1775ac1d7a744de7904c061775650445/mon-carnet-et-si-chatgpt-changeait-notre-point-de-vue-a-notre-insu

Des scientifiques découvrent des biophotons dans le cerveau qui pourraient laisser entendre que notre conscience est directement liée à la lumière !

 

Des scientifiques découvrent des biophotons dans le cerveau qui pourraient laisser entendre que notre conscience est directement liée à la lumière !

Publié le mai 19, 2023 par T30 le Blogger

Des scientifiques découvrent des biophotons dans le cerveau qui pourraient laisser entendre que notre conscience est directement liée à la lumière !

29 juin 2019 starseed11pleiades 8 Commentaires ascension, éveil, biophotons, esprit, illumination, neurones, saints

N’hésitez pas à partager et à aimer si le cœur vous en dit! Namasté

Les scientifiques ont découvert que les neurones du cerveau des mammifères étaient capables de produire des photons de lumière, ou “biophotons” !

Les photons, curieusement, apparaissent dans le spectre visible. Ils vont du proche infrarouge au violet, soit entre 200 et 1 300 nanomètres.

Les scientifiques soupçonnent que les neurones de notre cerveau pourraient être capables de communiquer par la lumière. Ils soupçonnent que notre cerveau pourrait avoir des canaux de communication optiques, mais ils n’ont aucune idée de ce qui pourrait être communiqué. Notre cerveau pourrait avoir des canaux de communication optiques

Plus excitant encore, ils prétendent que s’il y a une communication optique, les biophotons produits par notre cerveau pourraient être affectés par un enchevêtrement quantique, ce qui signifie qu’il peut y avoir un lien fort entre ces photons, notre conscience et peut-être ce que plusieurs cultures et religions appellent Esprit.

Au cours de quelques expériences, un scientifique a découvert que le cerveau d’un rat peut transmettre un seul biophoton par neurone par minute, mais que le cerveau humain peut transmettre plus d’un milliard de biophotons par seconde.

Cela soulève la question de savoir s’il est possible que plus on peut produire de lumière et communiquer entre les neurones, plus ils sont conscients.

S’il y a une corrélation entre les biophotons, la lumière et la conscience, cela peut avoir de fortes implications qu’il y a plus à la lumière que ce que nous savons.

Réfléchissez un instant. De nombreux textes et religions remontant à l’aube de la civilisation humaine font état de saints, d’êtres élevés et d’individus éclairés ayant des cercles brillants autour de leur tête.

De la Grèce antique et de la Rome antique aux enseignements de l’hindouisme, du bouddhisme, de l’islam et du christianisme, parmi de nombreuses autres religions, les individus sacrés étaient représentés avec un cercle brillant sous la forme d’une lueur circulaire autour de leur tête. Cercle brillant sous la forme d’une lueur circulaire autour de leur tête

S’ils étaient aussi éclairés qu’ils sont décrits, peut-être que ce cercle lumineux n’était qu’un résultat de la conscience supérieure avec laquelle ils opéraient, d’où une fréquence et une production plus élevées de biophotons.

Peut-être que ces individus ont produit un niveau plus élevé de biophotons avec une intensité plus forte à cause de leur illumination, s’il y a une corrélation entre les biophotons et la conscience.

Même le mot enLIGHTenment suggère que cette conscience supérieure a quelque chose à voir avec la lumière.

[note : en français on retrouve la même chose avec ilLUMInation]

enLIGHTenment suggère que cette conscience supérieure a quelque chose à voir avec la lumière

Mais l’une des implications les plus excitantes de la découverte que notre cerveau peut produire de la lumière est que notre conscience et notre esprit ne sont peut-être pas contenus dans notre corps. Cette implication est complètement ignorée par les scientifiques.

L’enchevêtrement quantique dit que 2 photons enchevêtrés réagissent immédiatement si l’un des photons est affecté, peu importe où l’autre photon est dans l’Univers.

Peut-être y a-t-il un monde qui existe dans la lumière, et peu importe où vous vous trouvez dans l’Univers, les photons peuvent agir comme des portails qui permettent la communication entre ces deux mondes. Peut-être que notre esprit et notre conscience communiquent avec notre corps à travers ces biophotons. Et plus nous produisons de lumière, plus nous éveillons et incarnons l’intégralité de notre conscience.

Ceci peut expliquer pourquoi l’état d’un photon est affecté simplement en l’observant consciemment, comme cela a été prouvé dans de nombreuses expériences quantiques.

Peut-être que notre observation communique quelque chose à travers nos biophotons avec le photon qui est observé, de la même manière que l’enchevêtrement quantique, comme la lumière est juste une substance unifiée qui est dispersée à travers notre Univers et affectée à travers chaque particule lumineuse.

Bien sûr, rien de tout cela n’est près d’être une théorie. Mais poser des questions et tirer des hypothèses métaphysiques pourrait nous conduire plus près de la vérité et de la compréhension de ce qu’est la conscience, d’où elle vient, et quels sont les mystères qui se cachent dans la lumière.

---

Références :

– http://bigthink.com/robby-berman/there-are-biophotons-in-the-brain-is-something-light-based-going-on

– https://www.ncbi.nlm.nih.gov/pmc/articles/PMC4267444/

– https://arxiv.org/abs/1708.08887

– https://www.livescience.com/28550-how-quantum-entanglement-works-infographic.html

---

Traduit avec http://www.DeepL.com/Translator

---

Source : https://www.lifecoachcode.com/2017/09/21/scientists-discover-biophotons-in-the-brain-hint-consciousness-light

Google lance des outils pour détecter les images générées par l’IA

 

 Google lance des outils pour détecter les images générées par l’IA

 

Radio-Canada

Publié le 16 mai 2023

Le géant de l’informatique compte intégrer de nouvelles fonctionnalités à Google Images qui permettront aux internautes de déterminer plus facilement si une photo a été générée par une intelligence artificielle (IA).

Chaque image sera dotée d’un bouton À propos de cette image, qui fournira des informations contextuelles sur sa création.

Par exemple, on pourra savoir la date à laquelle une photographie, ou une autre semblable, a été indexée pour la première fois par le moteur de recherche. Des données concernant le lieu où elle est apparue en premier, de même que les autres sites sur lesquels on peut la trouver en ligne, seront également fournies.

Si l’image a été signalée par des organismes de presse comme étant fausse, c’est aussi à cet endroit que ce sera inscrit.

Google souhaite ainsi donner un coup de main aux internautes pour localiser la source de contenus, en apportant des éléments de contexte.

Les images d’IA étiquetées

Le géant californien prévoit aussi d’ajouter de nouvelles étiquettes par défaut aux images générées par I’IA

de Google, mais aussi par celle du logiciel Midjourney, dont l'équipe qui s’est ralliée à la cause. Celle de la banque d’images Shutterstock est également dans le coup, selon ce que rapporte l’agence Bloomberg.

L’objectif : s’assurer que tous les contenus générés par l’IA

qui apparaissent dans les résultats de recherche de Google soient identifiés comme tels.

Ces nouvelles fonctionnalités seront déployées au courant de l’année.

 

-

Pour lutter contre la désinformation, Google va déployer un outil permettant de savoir si une image a été générée par une intelligence artificielle et même de trouver son origine. Un moyen de rendre l'IA plus éthique.

Sommaire

• Images générées par IA : un outil pour démêler le vrai du faux
• Trucage par IA : connaitre l'origine d'une photo

Les IA génératrices d'images fascinent les internautes autant qu'elles inquiètent. Elles sont capables, en quelques secondes seulement, de créer d'incroyables images dans des styles artistiques variés à partir d'une simple commande textuelle. Peinture surréaliste, portrait au stylo bic et, bien sûr, photo réaliste... Rien n'est impossible ! Parmi les intelligences artificielles qui offrent les plus beaux rendus, on trouve DALL-E, créé par les développeurs de ChatGPT, son rival Midjourney, mais aussi Bing Image Creator. Les résultats peuvent être confondants de réalisme, comme le prouvent les photos truquées de personnalités politiques plus vraies que nature réalisées avec la version 5 de Midjourney (voir notre article), à tel point qu'il est parfois impossible de distinguer la réalité d'une production artificielle. Autant dire que ces IA sont un véritable cauchemar pour le fact checking (vérification d'authenticité, en français) ! On aurait bien besoin d'un outil pour permettre de déterminer si une image a été créée par l'IA. Ça tombe bien, Google est en train d'en développer un !

Images générées par IA : un outil pour démêler le vrai du faux

Lors de sa conférence I/O 2023, Google a clairement énoncé sa volonté de développer une intelligence artificielle plus éthique et plus transparente. Aussi, l'entreprise annonce sur son blog, dans le cadre du déploiement des capacités de génération d'images de son IA Bard – grâce à un partenariat avec Adobe Firefly –, qu'elle va ajouter un petit label "AI Generated with Google" en dessous de chaque image générée par son intelligence artificielle dans Google Images. De plus, ces images posséderont des métadonnées montrant leur origine artificielle. Elle va également permettre à l'ensemble des internautes d'ajouter, dans les mois à venir, un filigrane semblable sur les illustrations qu'ils généreront, que ce soit sur Midjourney, Shutterstock ou d'autres. Notons que les rendus générés par Bing Image Creator sont automatiquement identifiables à l'aide d'une icône de Bing.

 

De plus, la firme de Redmond va faire en sorte que les internautes puissent vérifier facilement l'origine des images en consultant une sorte d'historique de ces dernières. Ainsi, un bouton "About this image" – "À propos de cette image" en français –, accessible dans la recherche d'image inversée de Google, permettra de savoir où et quand elles sont apparues sur la Toile. Grâce à ces indications, montrant notamment si la photo est d'abord apparue sur un site légitime ou au fin fond du Web, on pourra plus facilement déduire ses origines. L'outil sera d'abord disponible cet été aux États-Unis pour les recherches en anglais. Dans l'exemple ci-dessus, l'utilisateur recherche "moon landing", puis clique sur le bouton "à propos de cette image". L'outil montre ensuite comment l'image est apparue sur Reddit avec la mention "Midjourney". À l'inverse, il pourra montrer qu'elle est d'abord apparue sur des sites d'information dignes de confiance.

Trucage par IA : connaitre l'origine d'une photo

 

La législation prend petit à petit forme pour contrer les dérives des réseaux sociaux, mais encore faut-il mettre ces règles en application. Du côté des réseaux sociaux, qui sont d'importants vecteurs de fake news, TikTok a mis à jour ses règles pour encadrer les deepfakes et autres fausses images, en ajoutant une nouvelle section dédiée aux "médias synthétiques et manipulés". Le réseau social recommande d'utiliser un sticker ou une légende "synthétique", "faux", "irréel" ou "modifié" pour une meilleure transparence vis-à-vis des utilisateurs. De plus, elle interdit complètement les deepfakes sur des personnes privées, mais fait une exception pour les "personnalités publiques ayant un rôle public important", comme "un politicien, un chef d'entreprise [ou] une célébrité", sauf si "le contenu est utilisé à des fins de promotion ou enfreint toute autre politique". Sur Twitter en revanche, tout est permis avec la fameuse "liberté d'expression" si chère à Elon Musk ! 

 

L'Europe n'est pas restée les bras croisés face à l'émergence de l'intelligence artificielle. Le Parlement européen vient tout juste d'adopter l'AI Act, un texte destiné à encadrer leurs activités et à combattre toutes les dérives qui leur sont liées (voir notre article). Concernant par exemple les IA génératives comme ChatGPT et MidJourney, les eurodéputés souhaitent que chaque contenu créé par un outil de ce genre soit mentionné comme tel. Une disposition qui vise à lutter contre la prolifération des contenus illégaux et la manipulation de l'information, mais aussi à protéger le droit d'auteur. Reste à savoir comment faire respecter ce règlement...

 

REF.:   https://ici.radio-canada.ca/nouvelle/1979986/google-lance-outils-identifier-images-generees-ia-midjourney

https://www.commentcamarche.net/applis-sites/applications/28265-google-a-un-outil-pour-detecter-les-images-generees-par-ia/

Poème: Pour l'amant que j'ai perdu(terminant,une complainte,une mort)

 Poème: Pour l'amant que j'ai perdu(terminant,une complainte,une mort)

For the Lover That I Lost - Sam Smith 「Paroles」 - Traduction Française

Pensez à vos lèvres et la façon dont ils embrassent
Il y a tellement me manque vraiment de vous
Assis sur la plage, vous étiez encore à portée de main
Et je ne l'ai pas senti libre sans vous

[Pré-Chorus]

Tous les souvenirs se sentent comme par magie
Tous les combats semble si doux
Tout ce que nous étions, mon amour, était tragique
Et vous êtes la dernière chose que j'ai besoin

[Refrain]
Donc, je mets une douzaine de roses
Pour l'amant que j'ai perdu
Je maintiens tous mes choix
Même si j'ai payé le coût
Oh toutes ces nuits, les bas et les hauts
Je les partage avec vous tous
Donc, je mets une douzaine de roses
Je les mets là, je les mets là pour vous

[Verse 2]
Vous avez été dans mon esprit tous les soirs
Je ne peux pas visualiser la vie sans toi
Je suis tryin' pour passer une semaine sans perdre le sommeil
Mais il y a quelque chose que je dois passer par

[Pré-Chorus]
Tous les souvenirs se sentent comme par magie
Tous les combats semble si doux
Tout ce que nous étions, mon amour, était tragique
Et vous êtes la dernière chose que j'ai besoin

[Refrain]
Donc, je mets une douzaine de roses
Pour l'amant que j'ai perdu
Je maintiens tous mes choix
Même si je paie le coût
Toutes ces nuits, les bas et les hauts
Je les partage avec vous tous
Donc, je mets une douzaine de roses
Je les mets là, je les mets là pour vous

[Refrain]
Donc, je mets une douzaine de roses
Pour l'amant que j'ai perdu

Je maintiens tous mes choix
Même si je paie le coût
Toutes ces nuits, les bas et les hauts
Je les partage avec vous tous
Donc, je mets une douzaine de roses
Je les mets là, je les mets là pour vous

 

REF.:  https://www.youtube.com/watch?v=kqbqyxR4QkI

For the Lover That I Lost

Chanson de Sam Smith

 

 

Inspiré du spermatozoïde, ce micro-robot pourra naviguer dans le corps humain pour cibler une cellule

Publié le 09 Mai 2023 à 11H00 Modifié le 9 mai 2023 Par Fabrice Auclert

 

 

 Les micro- et nanomoteurs électriques sont des outils prometteurs pour l'analyse unicellulaire in vitro. En particulier, des cellules individuelles peuvent être capturées et transportées en utilisant un champ électrique appliqué de l'extérieur

Des chercheurs de l'Université de Tel Aviv ont créé un micro-robot propulsé par l'électricité et des champs magnétiques capable d'identifier et de capturer une seule cellule humaine. Pour leur robot, ils se sont inspirés des micro-nageurs biologiques, tels que les bactéries et les spermatozoïdes.

« Trouver une aiguille dans une botte de foin ». L’expression prend tout son sens lorsqu’il s’agit, dans le domaine de la santé, de cibler un globule rouge ou une cellule cancéreuse pour l’analyser. Pourtant, des chercheurs de l’Université de Tel Aviv ont créé un micro-robot de la taille d’une seule cellule biologique capable de se mouvoir dans le corps humain, puis d’identifier et capturer une seule cellule. Pour leur engin, le professeur Gilad Yossifon et son équipe se sont inspirés des micro-nageurs biologiques, tels que les bactéries et les spermatozoïdes. Une prouesse technologique qui augure des avancées prometteuses dans le diagnostic des pathologies et leur traitement.

Qualifié d’hybride car il utilise à la fois l’électricité et les champs magnétiques pour se déplacer de manière autonome ou contrôlée, ce minuscule robot mesure environ 10 microns de diamètre. La combinaison d’un champ magnétique rotatif et d’un champ électrique améliore sa mobilité et son contrôle. Autre qualité : sa capacité à identifier les cellules apoptotiques (en phase d’auto-destruction) parmi les cellules viables et nécrotiques en fonction de leur différence diélectrophorétique. C’est-à-dire sans marquage.

Les micromoteurs ont été propulsés et dirigés à l’aide d’un champ magnétique externe, à travers un appareil expérimental composé de deux moteurs, un aimant et un système de piste de glissement, sur lequel l’aimant rotatif a été fixé 

« Les micro-robots qui fonctionnaient jusqu’à présent sur la base d’un mécanisme de guidage électrique n’étaient pas efficaces dans certains environnements caractérisés par une conductivité électrique relativement élevée, comme un environnement physiologique, où la propulsion électrique est moins efficace », explique le professeur Yossifon dans l’étude publiée dans Advanced Science. « C’est là qu’intervient le mécanisme magnétique complémentaire, très efficace quelle que soit la conductivité électrique de l’environnement. »

Une fois que le micro-robot est parvenu « sur site », il a été utilisé pour capturer un seul globule rouge, des cellules cancéreuses et une seule bactérie, puis ensuite la cellule est déplacée vers un instrument externe, sorte de laboratoire intégré, pour une analyse plus approfondie. Pour l’instant, les tests n’ont évidemment pas été effectués sur le corps humain, mais rien ne semble pouvoir s’opposer à une expérience in vivo.  Selon ses créateurs, cette technologie sera aussi efficace pour effectuer un diagnostic médical au niveau de la cellule unique, que pour l’administration de médicaments.

 

REF.:  https://www.science-et-vie.com/corps-et-sante/cellule/micro-robot-hybride-cellule-unique-identifier-capturer-102162.html