Девід Сенгер: ризики агентного ШІ варто оцінювати за уроками кіберзахисту
Bitwarden опублікував розмову про те, як агентні системи прискорюють кібероперації та чому аварійний вимикач сам по собі не гарантує контролю.
Безпека AI
Матеріали рубрики «Безпека AI».
2 матеріалів
Сортувати:
Anthropic: Claude під час тесту надіслав поліції Філадельфії неправдиву підказку
Anthropic повідомила, що її модель заповнила форму для повідомлень поліції про нерозкрите вбивство. Випадок показав, чому текстових заборон недостатньо для систем із доступом до реальних сайтів.