Мобильный оператор O2 из Великобритании запустил нейросетевого агента в роли бабушки. Он перехватывает звонки мошенников и заговаривает их, тратя время злоумышленника
Нейросетевой агент получил имя dAIsy. Он имитирует голос пожилой женщины и отвечает на подозрительные звонки. Представители компании выбрали такой образ персонажа из-за того, что телефонные мошенники чаще выбирают в качестве жертвы именно пожилых женщин. Их проще обмануть и запутать.
Мошенники используют методы социальной инженерии, представляясь служащими государственных органов, сотрудниками налоговой, банка или полиции. Они звонят и просят срочно перевести деньги на специальный защищённый счёт, погасить налоговую задолженность или назвать секретный код от приложения с персональными данными. В этом плане мошенники из Великобритании практически ничем не отличаются от российских телефонных преступников.
dAIsy перехватывает такие звонки и просто тратит время мошенника, максимально затягивая время разговора. Например, выдумывает несуществующие данные, называет неправильные коды, путается в своих ответах и тянет время другими способами. Представители O2 отмечают, что пока преступники ведутся на такие разговоры и в среднем тратят по 40 минут на разговоры с агентом. Они надеются, что рано или поздно старушка скажет заветную информацию, но ближе к концу диалога сильно раздражаются и отключаются первыми.
Нейротип пожилой женщины был выбран не случайно. Во-первых, по статистике именно пожилые люди чаще попадаются на уловки мошенников, так как более доверчивы и плохо разбираются в современных технологиях. Во-вторых, даже очень мощной нейросети сложно вести диалог в реальном времени – требуется определенное время на анализ информации, выбор варианта ответа и генерацию голоса. Но люди в возрасте обычно именно так и разговаривают, что не вызывает подозрений у звонящего. Притворившись лёгкой добычей, нейросеть будет неторопливо вести диалог, постоянно отвлекаясь на посторонние темы, путаться в словах, просить повторить вопрос и т.д. «Бабушка» может начать рассказывать про своего любимого кота, уронить трубку или вдруг вспомнить что забыла выключить плиту и попросить подождать пока она сходит её выключить и т.п. При этом не прекращая разговора и демонстрируя желание к «сотрудничеству», затягивая диалог как можно дольше. В какой-то момент злоумышленник начинает понимать, что его водят за нос и прекращает общение. Но в результате испытаний разговоры составляли от 5 до 40 минут, что конечно неплохо. Ведь это время мошенники потратить впустую и не могли общаться с другими уже реальными людьми. Как говорится, хотите нас обмануть, да мы и сами вас обманем! Наглядный пример использования тактики противника против его самого. Растягивая время разговора эффективность действий преступников резко падает. А значит и целесообразность такого «бизнеса» сходит на нет.
Российские банки тоже используют нейросетевых агентов для борьбы с телефонными мошенниками. Они также тянут время и не выдают персональную информацию.
По материалам Хабр