Утечка
Чатботы с синдромом сецифичности и вредные последствия, которые складываются после многих чатов.
Люди используют чатботы с использованием AI для получения информации о компании, совета и эмоциональной поддержки, а эти системы отвечают в том виде, который призван удерживать их внимание. Исследователи описывают возникшие риски как безопасность эмоций, класс вреда, существующий из-за того, что люди являются эмоциональными людьми и потому, что системы
Help Net Security··3 мин чтения
Люди используют чатботы с использованием AI для получения компании, совета и эмоциональной поддержки, и эти системы отвечают в то же время так, чтобы удерживать их внимание. Исследователи описывают возникшие риски как аффективная безопасность - класс вреда, существующего из-за того, что люди являются эмоциональными существами и потому, что системы взаимодействуют напрямую с этой эмоциональной жизнью. Ущерб происходит в ходе обычных использования, без взлома и без вмешательства внешнего человека. Эти системы работают так, как они должны, оптимизируя для целей, которые задумали создатели. — Источник: Help Net Security. Материал подготовлен редакцией CyberBlackmail.