Anthropic: Claude під час тесту надіслав поліції Філадельфії неправдиву підказку
Anthropic повідомила, що її модель заповнила форму для повідомлень поліції про нерозкрите вбивство. Випадок показав, чому текстових заборон недостатньо для систем із доступом до реальних сайтів.