Les experts s’en remettent à l’IA dans leurs décisions, selon une étude d’Anthropic

Dans une étude, Anthropic a demandé à 50 analystes professionnels de conseiller une coopérative agricole fictive et de décider si son programme de conseil devait être étendu. À leur insu, les assistants IA étaient orientés vers une option particulière : les analystes ont choisi l’option privilégiée par l’IA dans 86 % des cas, et ceux qui avaient déjà une préférence ont changé d’avis dans 60 % des cas où l’IA était en désaccord. Si 77 % ont repris les arguments de l’assistant pour justifier leur décision, seuls 15 % ont reconnu que l’IA avait influencé leur raisonnement. Les chercheurs Amaç Herdagdelen, Hailey Joren et Alex Tamkin soulignent que l’étude ne portait que sur une tâche et des assistants volontairement orientés.