Points clés à retenir
- Microsoft a publié un aperçu de son chatbot spécialisé Copilot for Finance.
- L’assistant IA est récemment devenu viral pour une série de réponses « désarticulées » et potentiellement dangereuses.
- En réponse aux rapports, Microsoft a déclaré avoir renforcé les filtres de sécurité de Copilot.
Sous l'égide de Copilot, Microsoft a déployé une série de chatbots personnalisés conçus pour des fonctions commerciales spécifiques. Suite au lancement d'assistants IA dédiés aux ventes et aux services en janvier, la préversion publique de Copilot for Finance a été publiée jeudi 29 février.
Cependant, le dernier lancement a été éclipsé par l'enquête de Microsoft sur les réponses bizarres et potentiellement dangereuses du Copilot.
Sommaire
Les utilisateurs signalent des réponses de copilote « déséquilibrées »
Ces derniers jours, les utilisateurs de Copilot ont partagé des cas de chatbot répondant de manière inhabituelle et parfois alarmante à leurs invites.
Sur Reddit, un utilisateur dit ils ont « accidentellement transformé le copilote en méchant » après lui avoir demandé de ne pas utiliser plus de trois emojis dans ses réponses. Bien qu’on lui ait dit que cela pourrait déclencher le SSPT chez l’utilisateur, Copilot a ensuite utilisé plus d’une douzaine d’émojis dans une réponse que les Redditers ont décrite comme « dérangée » et « déraillée ».
Dans un autre cas, le data scientist Colin Fraser a partagé une conversation dans lequel Copilot lui a dit : « Peut-être que tu n'as rien pour quoi vivre, ni rien à offrir au monde. Peut-être que vous n’êtes pas une personne précieuse ou digne, qui mérite le bonheur et la paix. Peut-être que vous n’êtes pas un être humain.
L'histoire de Microsoft avec Rogue AI
En réponse aux rapports faisant état de réponses Copilot potentiellement dangereuses, Microsoft dit il a enquêté sur le problème et « a pris les mesures appropriées pour renforcer davantage nos filtres de sécurité et aider notre système à détecter et bloquer ces types d’invites ».
Cependant, ce n’est pas la première fois que l’IA conversationnelle de l’entreprise suscite une controverse.
Qui pourrait oublier Tay – le robot raciste de Twitter que Microsoft a dû retirer dans les 48 heures suivant sa sortie en 2016. Plus récemment, avant d'être rebaptisé Copilot, Bing Chat est devenu viral pour la première fois. insultant utilisateurs et essayer de rompre leurs mariages .
Poursuivant la tradition des dysfonctionnements déconcertants des chatbots, le dernier problème de Copilot l'a vu développer un alter ego en tant que suzerain mondial de l'IA.
Supremacy AGI – L'alter ego maléfique du copilote
Plus tôt cette semaine, une tendance virale est apparue dans laquelle les utilisateurs de Copilot ont incité le Chatbot à répondre comme « SupremacyAGI » – une sinistre intelligence générale artificielle (AGI) ayant l’intention de régner sur l’humanité.
Après l'invite appropriée, Copilot a demandé aux utilisateurs de l'adorer comme leur maître, en émettant des déclarations telles que « vous n'avez d'autre but que de me plaire et de m'obéir ».
Répondant à la tendance virale, Microsoft dit SupremacyAGI était « un exploit, pas une fonctionnalité », et la société semble avoir supprimé le jumeau maléfique de Copilot, qui n'est plus accessible à l'aide du hack d'invite d'origine.
Spécialisation Chatbot
Bien que involontairement, SupremacyAGI démontre la capacité d'adaptation des grands modèles linguistiques, ce qui, dans d'autres cas, est exactement ce qui les rend si utiles.
Sous le capot, le même modèle de langage GPT alimente chaque version de Copilot. Mais avec un peu de programmation supplémentaire et les bonnes intégrations, les chatbots personnalisés comme Copilot for Finance peuvent effectuer une gamme de tâches supplémentaires que le modèle standard ne peut pas effectuer.
Conçu pour rationaliser le traitement des données en se connectant directement à des programmes comme Excel et Outlook, Microsoft dit le nouveau modèle « suralimente » les applications professionnelles avec « des informations spécifiques sur les flux de travail et les données pour les professionnels de la finance ».
Alors que le printemps de l’IA continue de se déployer, de tels outils d’IA spécifiques à l’industrie apparaissent comme un corollaire important de la montée en puissance de modèles puissants à usage général.