Искусственный интеллект всё лучше имитирует человеческие голоса и местные акценты, что может сделать телефонное мошенничество более убедительным. Исследователи обнаружили, что люди чаще доверяют собеседнику, если он говорит голосом или с акцентом, похожим на их собственный, передает The Wall Street Journal.

По мнению ученых, знакомое звучание голоса может снижать бдительность во время разговора с якобы представителем банка или родственником. Именно поэтому специалисты советуют проверять информацию через другой канал связи, а не полагаться только на голос собеседника.

Доцент кафедры психологии Университета Абертей в шотландском Данди Нил Кирк объясняет, что современные системы голосового синтеза научились воспроизводить даже местные диалекты. Он добавил: «Технология стала настолько совершенной, что люди автоматически считают, будто слышат настоящего человека».

[see_also ids="692843"]

Одной из платформ, демонстрирующих возможности этой технологии, является ElevenLabs, которая заявляет о наличии библиотеки из более чем 10 тысяч голосов. Компания также утверждает, что может клонировать голос с YouTube или TikTok, используя всего лишь 10-секундный фрагмент записи.

В своём исследовании Кирк проверил, могут ли жители Шотландии отличить человеческий голос от синтетического. В первом эксперименте 150 участников слушали записи реальной речи и голосов, созданных ИИ, на стандартном шотландском английском и местном диалекте Данди.

Большинство участников восприняли как человеческие как настоящие голоса, так и синтетические, а ещё чаще они ошибались, когда ИИ говорил с местным дандийским акцентом. Это свидетельствует о том, что выраженные региональные особенности могут сделать подделку более убедительной.

«Они просто не ожидали, что машина будет звучать так же, как они», — объяснил исследователь.

[see_also ids="688869"]

В то же время исследование показало, что осведомленность помогает распознать подделку. Когда участникам эксперимента заранее объяснили, что ИИ уже способен достоверно воспроизводить шотландские акценты, они значительно реже воспринимали синтетические голоса как настоящие.

К подобным выводам пришла профессор маркетинга Университета Цинциннати На Кён (Кимберли) Хён. Проанализировав 14 сезонов телешоу Shark Tank, она установила, что инвесторы чаще поддерживали предпринимателей, если их голос по тембру напоминал голос кого-то из членов жюри. Впоследствии исследование более двух тысяч кампаний на Kickstarter показало, что наиболее успешными оказались те проекты, где голос спикера звучал как «среднестатистический», то есть знакомый большинству слушателей.

По словам Хён, когда люди слышат голос, похожий на их собственный, они быстрее приписывают собеседнику компетентность, нравственность и добропорядочность. Мозг мгновенно воспринимает такого человека как более надежного, что повышает готовность согласиться с его просьбой.

[see_also ids="686032"]

Как защититься от новых голосовых мошенничеств

Специалисты по кибербезопасности подчеркивают, что голос больше нельзя считать достаточным доказательством личности собеседника. Руководитель исследовательского отдела компании Edgescan Джеймс Маллен советует в первую очередь оценивать само содержание сообщения.

«Имеет ли смысл то, что мне говорят? Совпадает ли это с тем, что я уже знаю об этом человеке или ситуации? » — добавил Маллен.

Эксперты рекомендуют прервать разговор, если якобы звонит банк, и самостоятельно перезвонить по номеру, указанному на карте или в выписке. Если срочно обращается родственник с просьбой перевести деньги, стоит связаться с ним или другим членом семьи через другой проверенный канал.

Стремительное развитие голосовых моделей происходит на фоне всеобщего беспокойства по поводу того, как злоумышленники используют генеративный ИИ. Ранее компания Anthropic сообщила о волне злоупотреблений её моделями Claude со стороны киберпреступников и государственных структур для мошенничества, слежки, манипуляций общественным мнением и даже попыток разработки биологического оружия.