Apate IA : un chatbot pour arnaquer les arnaqueurs

 Par:   Maurine Briantais
27/06/23 17:22

Les arnaqueurs vont être pris à leur propre jeu ! Des chercheurs ont développé Apate, un chatbot dopé à l'iA capable de parler à haute voix en langage naturel. Son but : garder les escrocs en ligne le plus longtemps possible. Bien vu !

Les escroqueries sont une véritable plaie, en particulier lorsqu'elles sont téléphoniques, car il faut réussir à se dépêtrer des arnaqueurs– contrairement aux SMS et aux e-mails, qu'il suffit de supprimer en deux secondes – et cela nous fait perdre un temps précieux. Il suffit que notre numéro de téléphone se retrouve sur le Dark Web, à la suite d'un piratage ou d'un hameçonnage réussi, pour que l'on se retrouver harcelé. Arnaques au RGPD ou à la Banque de France, démarchage pour le compte personnel de formation (CPF), vishing... Les cybercriminels ne manquent pas d'imagination pour nous manipuler !

Les escroqueries téléphoniques sont un commerce extrêmement lucratif qui se développe chaque année. En 2022, l'ACCC (Australian Competition & Consumer Commission) estime que les Australiens ont perdu plus de 3,1 milliards d'euros au profit des arnaqueurs. Car même si les opérateurs téléphoniques bloquent aujourd'hui des millions d'appels frauduleux, les usagers sont toujours inondés d'escroqueries. Et ça ne va pas aller en s'améliorant… Etsi, pour empêcher les arnaqueurs d'arnaquer, il fallait les prendre à leur propre jeu ? C'est l'idée pour le moins originale qu'ont eue des chercheurs de l'université Macquarie, en Australie. Sous la houlette du professeur et directeur exécutif du centre de cybersécurité de l'établissement Dali Kaafar, ils ont décidé de faire perdre leur temps aux escrocs en les gardant en ligne avec un chatbot, baptisé Apate – en référence à la déesse grecque de la duperie, de la perfidie, de la fraude, de la déception, de la tromperie et de la malhonnêteté.

Apate : une IA pour faire perdre le temps des escrocs

L'idée d'un tel chatbot est venue à Dali Kaafar lorsqu'il a reçu l'appel d'un arnaqueur lors d'un dîner avec sa famille. Au lieu de raccrocher, il a décidé de discuter avec lui afin de faire rire ses enfants. Résultat : ils sont restés 40 minutes au téléphone. 40 minutes pour le moins chronophages pendant lesquelles l'escroc n'a pas pu faire de victimes. "J'ai réalisé que, même si j'avais perdu le temps de l'escroc pour qu'il ne puisse pas atteindre les personnes vulnérables, ce qui était le but – c'était aussi 40 minutes de ma propre vie que je ne récupérerais pas", explique le professeur Kaafar sur le site de l'université de Macquarie. "Ensuite, j'ai commencé à réfléchir à la manière dont nous pourrions automatiser l'ensemble du processus et utiliser le traitement du langage naturel pour développer un chatbot informatisé qui pourrait avoir une conversation crédible avec l'escroc". C'est ainsi qu'Apate est née. "Nous sommes très enthousiastes à l'idée que cette nouvelle technologie puisse briser le modèle commercial des appels frauduleux et le rendre non rentable", déclare le chercheur.

Pour mettre au point Apate, l'équipe du centre de cybersécurité de l'Université Macquarie a commencé par analyser les appels téléphoniques frauduleux et identifier les techniques d'ingénierie sociale utilisées par les escrocs sur leurs victimes – créer un sentiment d'urgence, incarner une figure d'autorité, faire peser la menace d'une sanction, etc. –  en utilisant des techniques d'apprentissage automatique et le traitement du langage naturel afin d'identifier les scénarios d'escroquerie typiques. Pour cela, les chercheurs ont utilisé un ensemble de données de conversations frauduleuses dans le monde réel, comprenant des enregistrements d'appels, des transcriptions d'e-mails et des discussions sur les réseaux sociaux, afin que l'agent conversationnel puisse générer ses propres conversations dans une situation d'escroquerie. Le professeur Kaafar indique avoir été surpris par la capacité d'adaptation d'Apate, qui aurait bien réagi à des situations auxquelles elle n'avait pas été entraînée.

Le chercheur explique que, grâce aux progrès accomplis dans le domaine du traitement du langage naturel (NLP) et du clonage de la voix humaine par l'intelligence artificielle, il est désormais possible de créer des agents conversationnels dopés à l'IA qui sont capables de parler en langage naturel, d'adopter un personnage spécifique et de maintenir une conversation convaincante grâce à des réponses cohérentes. "Les robots conversationnels que nous avons mis au point peuvent tromper les escrocs en leur faisant croire qu'ils parlent à des victimes d'escroquerie viables, de sorte qu'ils passent du temps à essayer d'escroquer les robots", explique le professeur Kaafar. La technologie, qui a déjà fait l'objet d'une demande de brevet, est toujours en cours de développement. Pour l'instant, Apate n'occupe les escrocs que 5 minutes, au lieu des 40 minutes visées. Elle pourrait intéresser les opérateurs – les chercheurs sont d'ailleurs en discussion avec certains d'entre eux –, mais aussi différentes institutions (gouvernements, banques, etc.) en récoltant de nombreuses données relatives à l'évolution des arnaques.

 

REF.:  https://www.commentcamarche.net/applis-sites/applications/28549-apate-un-chatbot-pour-arnaquer-les-arnaqueurs/