Source ID:d3b1b8973ad437ccb3495780e688bdad; App Source:StoryBuilder

Un générateur automatique de texte trop performant pour être public

Selon ses créateurs, le programme pourrait être utilisé... (Photo Edouard Plante-Fréchette, archives La Presse)

Agrandir

Selon ses créateurs, le programme pourrait être utilisé pour générer de faux articles de presse, usurper l'identité d'autres personnes en ligne ou automatiser des infox sur les réseaux sociaux.

Photo Edouard Plante-Fréchette, archives La Presse

Agence France-Presse
Washington

Un organisme de recherche spécialisé dans l'intelligence artificielle a annoncé que le générateur automatique de texte qu'il a développé resterait confidentiel, inquiet que son programme aux très bons résultats puisse tomber entre de mauvaises mains.

Le programme, baptisé GPT-2,  peut être utilisé pour des articles, des présentations ou n'importe quel écrit. C'est « le nec plus ultra pour modéliser certains niveaux de langage », dont le résumé et la traduction, selon le centre de recherche OpenAI, qui est soutenu par le patron de Tesla, Elon Musk, ainsi qu'Amazon et Microsoft.

Mais ce programme révolutionnaire ne sera pas dévoilé au public en raison « de nos inquiétudes sur les utilisations malveillantes de cette technologie », ont expliqué jeudi sur leur blogue les chercheurs d'OpenAI.

Selon eux, le programme pourrait être utilisé pour générer de faux articles de presse, usurper l'identité d'autres personnes en ligne ou automatiser des infox sur les réseaux sociaux.

Le programme a ainsi écrit un article de 300 mots à partir du postulat suivant : « un troupeau de licornes vivant dans une vallée des Andes qui n'avait jusqu'ici jamais été explorée ».  

OpenAI assure que le GPT-2 « est meilleur que les autres modèles de langue » après avoir été testé avec Wikipedia, des informations ou des livres, sans avoir eu besoin de formation spécifique.

« Le grand public doit être plus méfiant face aux textes publiés en ligne, comme les phénomènes de "deepfakes" doivent rendre plus méfiants concernant les images », ont souligné les chercheurs, en référence aux vidéos manipulées qui reproduisent la gestuelle et le ton de voix d'une personne.

L'intelligence artificielle est la science dont le but est de faire exécuter par une machine des tâches que l'homme accomplit en utilisant son intelligence et ses capacités cognitives. La firme américaine IBM a été pionnière dans ce domaine avec la victoire de son superordinateur Watson contre un grand joueur d'échecs ou celle lors du jeu de culture générale Jeopardy.  

Mais son programme « Project Debater » a en revanche échoué récemment à convaincre un auditoire lors d'un débat sur un sujet de société organisé contre un humain.




la boite: 4391933:box; tpl: 300_B73_videos_playlist.tpl:file;

Les plus populaires : Techno

Tous les plus populaires de la section Techno
sur Lapresse.ca
»

Autres contenus populaires

La liste:-1:liste; la boite:219:box; tpl:html.tpl:file
image title
Fermer