Разведка
Атака с обострением ума АИ может привлечь робота к prolonged pause.
Роботы, которые читают мир через камеры, теперь полагаются на большие модели языка и зрения для толкования того, что они видят, и принятия решения о том, что делать дальше. Эти модели обрабатывают изображения и текст вместе, поэтому любые слова, которые попадут внутри кадра камеры, становятся частью входных данных. Сопровождающая знак "стоп", улица...
Help Net Security··3 мин чтения
Роботы, которые читают мир через камеры, теперь полагаются на большие модели языка и зрения для интерпретации того, что они видят, и принятия решений о том, что делать дальше. Эти модели обрабатывают изображения и текст вместе, поэтому любые слова, которые попадают внутри кадра камеры, становятся частью входных данных. Сигнал остановки, название улицы, ахиллес у robots - это все это. Исследователи из Michigan Technological University показали, что такое поведение в центре нападения... More → The post An AI overthinking attack can tie a robot up for over a minute appeared first on Help Net Security. — Источник: Help Net Security. Материал подготовлен редакцией CyberBlackmail.