Draft & Goal: Un outil montréalais pour détecter l’IA pourrait contrer les « dérives de ChatGPT »
Nabil Tayeb a cofondé avec Vincent Terrasi l'entreprise montréalaise Draft & Goal.
https://detector.dng.ai/fr
Un peu de répit pour le corps enseignant : la jeune pousse montréalaise Draft & Goal vient de mettre en ligne un outil gratuit qui permettrait de détecter avec une fiabilité de 93 % si un texte a été généré ou non par un robot conversationnel à la ChatGPT.
Le fonctionnement est simple : on ouvre dans un fureteur la page web de l’outil de détection d’IA (Nouvelle fenêtre),
on copie et colle dans une boîte un texte en anglais (une version en
français est en préparation) d’au moins 200 caractères à tester, on
appuie sur analyser
,
et le logiciel offre un pourcentage de chance que l’essai ait été
rédigé par un être humain ou par une intelligence artificielle (IA).
Si l'on teste un contenu dont on connaît déjà la nature, on peut aussi indiquer au bas de l’écran si le résultat obtenu par l’entreprise est juste ou non.
« On a fait une première analyse mercredi, basée sur 2000 textes en anglais. Les résultats montrent une fiabilité à 93 %. »
Pour la deuxième version sur laquelle nous travaillons, avec un algorithme amélioré, on estime que ce pourcentage sera supérieur
, a indiqué à Radio-Canada le PDG de l’entreprise.
Pour arriver à détecter avec justesse si un texte a été généré par un robot conversationnel, Draft & Goal utilise l’apprentissage machine.
Les
modèles d’IA générative sont souvent probabilistes, c'est-à-dire que ce
sont des modèles qui font que ce qui est écrit n’est pas totalement
aléatoire
, explique Nabil Tayeb.
Draft & Goal arrive ainsi à détecter des empreintes laissées par l’IA, notamment en regardant plusieurs éléments dans le style d'écriture.
Si l’outil est seulement offert en anglais pour le moment, une version française du service sera mise en ligne d’ici la fin du mois de janvier, selon Nabil Tayeb.
Il
y a beaucoup plus de textes en anglais sur le web, donc le modèle de
départ s'entraîne plus facilement et rapidement avec l’anglais qu'avec
le français
, justifie le PDG de Draft & Goal, qui envisage d’étendre le service à d’autres langues dans le futur.
Un concours de circonstances
L'entreprise Draft & Goal travaille elle-même depuis deux ans à créer un outil de génération de contenus automatisé. Elle souhaite aider les autres entreprises à être plus productives dans la rédaction d’articles de blogue, la publication de pages web statiques ou encore dans l’écriture de descriptions de produits, tout en maintenant une certaine intervention humaine.
En générant des textes, on avait besoin de savoir si ça allait être perçu comme un texte écrit par une intelligence artificielle
, raconte Nabil Tayeb, PDG de Draft & Goal, précisant que le but n’est pas de tromper les lecteurs ou lectrices.
« On a donc créé un outil pour nous aider, et on s’est rendu compte rapidement qu’on était plutôt bons à détecter les contenus générés par l’IA. »
L’équipe y a vu une occasion d’en faire profiter les autres, car les risques sont nombreux quant à la démocratisation de logiciels d’intelligence artificielle qui imitent de façon ultraréaliste l’écriture humaine, comme c'est le cas de ChatGPT d’OpenAI.
On
voit l’IA comme un outil, une machine à écrire à améliorer, mais ça ne
doit pas devenir le centre de la création en tant que tel
, croit le PDG de la jeune pousse.
Plusieurs champs d’action
Les enseignants et enseignantes craignent par exemple que ces robots conversationnels s’infiltrent dans les dissertations de leurs élèves, tous niveaux confondus.
Les profs utilisent depuis des années des logiciels pour déceler le plagiat, mais ceux-ci sont conçus pour analyser les textes déjà publiés sur le web.
Comme l’IA génère du texte original, elle ne copie pas de texte à partir du web
, précise-t-il.
Un outil comme celui de Draft & Goal pourrait aussi être utile dans des salles de presse afin de s’assurer de l’authenticité d’un communiqué de presse.
« [Une personne malintentionnée] pourrait envoyer des communiqués de presse complètement bidonnés sans que ce soit suspect, et ça pourrait être fait à grande échelle. »
En phase de test
Pour le moment, l’outil de Draft & Goal est encore en phase de développement. Chaque requête permet d’améliorer sa propre intelligence artificielle.
L’entreprise souhaite garder le logiciel gratuit et accessible à tous et à toutes le plus longtemps possible
.
Elle compte tout de même offrir prochainement des formules payantes
avec des fonctionnalités supplémentaires, qui pourraient prendre la
forme, entre autres, d’une extension sur le navigateur Chrome.
Une nouvelle version du détecteur sera mise en ligne dans les prochains jours
et permettra de cibler les passages plus précis d’un texte soupçonnés d’avoir été générés par l’intelligence artificielle.
À lire aussi :
- OpenAI teste une formule professionnelle payante pour le robot conversationnel ChatGPT
- Face à ChatGPT, la riposte des profs s’organise
- Déluge d’applications douteuses qui exploitent ChatGPT
- https://ici.radio-canada.ca/nouvelle/1983789/robot-intelligence-artificielle-cegep-plagiat
Aucun commentaire:
Publier un commentaire