Rédigé par Gab
20 février 2024
Anthropic prend des mesures pour prévenir la désinformation électorale
Anthropic teste une technologie pour détecter lorsque les utilisateurs de son chatbot GenAI demandent des informations politiques et les rediriger vers des sources « autoritaires » d'informations sur le vote. La technologie, appelée Prompt Shield, utilise une combinaison de modèles de détection IA et de règles pour afficher une fenêtre contextuelle à l'utilisateur basé aux États-Unis de Claude, le chatbot d'Anthropic, demandant des informations de vote. Cette fenêtre propose de rediriger l'utilisateur vers TurboVote, une ressource de l'organisation non partisane Democracy Works, où il peut trouver des informations de vote précises et à jour.
Anthropic reconnaît que Claude n'est pas formé assez fréquemment pour fournir des informations en temps réel sur des élections spécifiques, ce qui le rend sujet à « halluciner » sur ces élections. Anthropic, qui interdit l'utilisation de ses outils dans les campagnes politiques et le lobbying, est le dernier fournisseur de GenAI à mettre en œuvre des politiques et des technologies pour tenter de prévenir l'interférence électorale. Cette initiative s'inscrit dans un contexte où, cette année, un nombre record de votants dans le monde entier se rendront aux urnes, avec au moins 64 pays devant tenir des élections nationales.
Source : https://techcrunch.com/2024/02/16/anthropic-takes-steps-to-prevent-election-misinformation/
