Учёные из Китая и США научились управлять голосовыми помощниками Siri, Alexa и Google Assistant с помощью скрытых сигналов. Об этом пишет The New York Times.
Исследователи встроили скрытые голосовые команды, неулавливаемые человеческим ухом, в музыкальные записи или проговариваемый текст. В рамках исследования они смогли тайно активировать системы искусственного интеллекта на смартфонах, что позволило им набирать номера телефонов или открывать веб-сайты.
В неправильных руках эта технология может быть использована, например, для перевода денежных средств или покупки товаров в Интернете. Исследование отображает, как искусственный интеллект, несмотря на его большие успехи, еще может быть обманут и подвергнут манипулированию.
В аудио-атаках исследователи используют разрыв между распознаванием речи человека и машины. Системы распознавания речи обычно переводят каждый звук на букву, в итоге компилируя их на слова и фразы. Сделав небольшие изменения в аудиофайлах, исследователи смогли отменить звук, который система распознавания речи должна была слышать, и заменить его скрытым звуком, который по-разному считывается машинами.
В прошлом году исследователи из Принстонского университета и Китайского университета Чжэцзян продемонстрировали опыт, в котором системы распознавания голоса были активированы с использованием частот, неслышимых человеческим ухом. Технология "Атака дельфина" может дать команду смартфонам посетить вредоносный веб-сайт, инициировать телефонный звонок, сделать снимок или отправить текстовое сообщение. Однако у "Атаки дельфина" есть свои ограничения - передатчик должен находиться рядом со смартфоном.
В 2017 году голосовой помощник Alexa, разработанный Amazon, купил 6-летней девочке из Техаса кукольный дом за 170$ и 2 килограмма печенья. Девочка сообщила, что ничего не заказывала, но разговаривала с голосовым помощником о кукольном домике и печенье. Вероятно, Alexa принял данный разговор за заказ и купил названные товары на сайте Amazon.
