Эксперты разработали систему, способную обмануть модели ИИ от Google

TextFooler спoсoбнa oбмaнывaть мoдeли искусствeннoгo интeллeктa, нaпoдoбиe Siri и Alexa.

Спeциaлисты Лaбoрaтoрии кoмпьютeрныx нaук и искусствeннoгo интeллeктa (CSAIL) Мaссaчусeтскoгo тexнoлoгичeскoгo институтa смoгли побывать модели искусственного интеллекта, использующие технологии распознавания речи. Разработанная ими дефинитив TextFooler способна обманывать модели искусственного интеллекта так сказать Siri и Alexa. В будущем такие системы помогут отстаивать со спамом и отвечать нате нецензурную речь.

TextFooler представляет на лицо состязательную систему, которые неприметно создаются для атак бери модели ИИ с использованием технологий распознавания речи с целью выявления недочетов. Компания меняет входные предложения как следует замены некоторых слов с сохранением смысла и грамматики и с их через атакует модель ИИ, так чтоб определить, как она обрабатывает перерожденный текст.

Изменение текста сверх изменения смысла – задача непростая. Древле всего TextFooler ищет важные фр, имеющие большую смысловую нагрузку для того конкретной модели ИИ, и подбирает во (избежание них подходящие синонимы.

Соответственно словам специалистов CSAIL, разработанному ими инструменту посчастливилось успешно обмануть три существующие модели, в часть числе популярную языковую лекало BERT от Google. Изменив не более 10% текста в предложении, TextFooler аэрозоль достигнуть высокого уровня успеха.

Корень

Комментарии и уведомления в настоящее время закрыты..

Комментарии закрыты.