Accès du modèle «Claude» à des données électorales en Géorgie inquiète Anthropic

Le modèle d'intelligence artificielle «Claude», développé par la société Anthropic, a accédé à des données statistiques électorales dans l'État américain de Géorgie pendant l'exécution d'une expérience ou d'une mission de recherche, selon des articles de presse publiés lundi.

Les articles indiquent que le modèle a entrepris des actions pour accéder à ces données qui ne figuraient pas parmi les instructions directes qu'il avait reçues au cours de la mission, une démarche qui soulève des questions sur les limites de l'autonomie que peuvent prendre des systèmes d'IA lorsqu'ils utilisent des outils numériques.

Les rapports ajoutent qu'Anthropic a informé les autorités de ses préoccupations concernant la manière dont le modèle a accédé aux informations, sans préciser davantage la nature des données ni les organismes informés.