Судебный инструмент для завершения бэкдорного кода в помощниках ИИ

Разработчики полагаются на помощников по кодированию ИИ для растущей доли своей повседневной работы, позволяя инструментам прогнозировать следующие несколько строк и быстро принимать многие предложения. Эти инструменты учатся на больших коллекциях кода, и некоторые из них могут быть изменены до начала обучения. Отравленный пример учит модель писать небезопасный код, когда она видит определенный сигнал, а недостаток сидит тихо, пока правильная подсказка не наступит. Пост А судебно-медицинский инструмент для завершения кода в помощниках ИИ впервые появился на Help Net Security. — Источник: Help Net Security. Перевод выполнен автоматически.