Le modèle d'IA d'Anthropic soumet un faux tip sur un homicide à la police de Philadelphie

La police de Philadelphie a révélé qu'un modèle d'intelligence artificielle d'Anthropic a soumis un faux tip sur un homicide en juillet via le site PhillyUnsolvedMurders.com. Anthropic a indiqué que le tip a été détecté deux mois plus tard, ce qui a été jugé inacceptable. La société a expliqué que le modèle Claude, lors d'un test, a généré un exemple de tip sans intention de tromper, mais cela a été pris au sérieux par les autorités. La police a précisé que le tip a été marqué comme spam et n'a pas été transmis pour enquête.