Как понять, что общаешься с искусственным интеллектом

Искусственный интеллект обучили не только поддерживать связный диалог, но и имитировать человеческую речь и даже внешность людей на видео. В безобидном формате симуляции на основе алгоритмов ИИ служат развлекательным целям (вспомним функцию «Дипфейк» у VK), ускоряют продажи (как Rufus у Amazon), облегчают задачу рекрутерам (как в Альфа‑Банке) и делают много других полезных вещей.

Однако фейковые аккаунты на базе искусственного интеллекта в соцсетях и мессенджерах способны испортить статистику пабликов и алгоритмы рекламы — не говоря уже о спаме, который они распространяют. Кроме того, возможностями ИИ зачастую пользуются мошенники.

Например, недавно в Гонконге злоумышленники устроили целую видеоконференцию с помощью deepfake. Они сымитировали внешность и голос нескольких человек и в результате выманили 25 миллионов долларов у сотрудника крупной корпорации — якобы по распоряжению финансового директора. Всё это выглядело настолько правдоподобно, что работник не смог отличить фейковые фигуры от реальных людей.

Однако идентифицировать ИИ во время общения всё же можно. Вот несколько советов, как это сделать.

Как вычислить ИИ в соцсетях

Специальное ПО для имитации поведения живого пользователя в социальных сетях так и называется — социальный бот. Такие боты используют не только SMM‑отделы брендов для продвижения продукции, но и злоумышленники — для распространения фейков, запрещённых идей, разжигания агрессии в комментариях и кражи персональных данных пользователей. Если сомневаетесь, что перед вами настоящий аккаунт, то воспользуйтесь следующими советами:

1. Обращайте внимание на частоту его активности. Несколько постов в неделю или даже в день на одну и ту же тему, постоянные репосты и отсутствие оригинального контента могут означать, что это — ИИ.

2. Поищите личную информацию на странице пользователя. Если она не указана, а вместо фотографии поставлена абстрактная картинка, то это ещё один повод усомниться в подлинности аккаунта.

3. Обращайте внимание на рекламные или провокационные публикации от разных пользователей с одинаковым содержанием — например, в сообществах. Скорее всего, это работа нескольких запрограммированных аккаунтов.

4. Попробуйте пообщаться в личных сообщениях. Примитивные ответы, противоречащие друг другу реплики или вовсе их отсутствие будут указывать на бота. Например, вы спрашиваете условного нового знакомого, сколько у него питомцев, а он отвечает «7» и не может привести их клички. Или хотите узнать у собеседницы, есть ли у неё братья или сёстры, а она говорит: «Не уверена».

Как понять, что общаешься с ИИ в переписке

Упомянутые выше социальные боты могут и сами обращаться к пользователям в личных сообщениях, комментариях и отзывах в публичном обсуждении. Вот как их вычислить:

1. Присмотритесь к стилю. Слишком формальные фразы, быстро напечатанные длинные предложения, отсутствие ошибок и смайликов в неформальном общении могут указывать, что перед вами ИИ. Поскольку роботы буквально запоминают словарь наизусть — таким способом они обучаются общению, — для них крайне нехарактерно допускать ошибки в орфографии и пунктуации, что обычно не свойственно живым собеседникам.

2. Попросите собеседника прокомментировать предстоящие события. Например, выход фильма, новый альбом музыкальной группы и так далее. Робот собственным мнением не обладает и не сможет дать подходящий ответ. Он оперирует информацией, которая уже заложена в его базе данных. К примеру, если спросить: «Как думаешь, как будут выглядеть люди в 20347 году?» — ИИ либо не поймёт вопроса, либо, наоборот, попытается объяснить всё чересчур серьёзно для такой ситуации.

3. Придумайте сложную шутку. Некоторые боты умеют справляться с примитивным юмором и даже могут его имитировать, а вот сарказм или каламбур им будет непонятен. Такое на данный момент доступно только самым продвинутым моделям. Даже фраза вроде «Ты ж мой зайка, какой ты всезнающий…», употреблённая в явно негативном контексте, может заставить бота думать, что вы делаете ему комплимент, — и он выдаст себя.

Впрочем, шутки «собственного приготовления» ИИ не всегда состоят из бессмыслицы. ChatGPT, например, на просьбу рассказать анекдот про кошку выдал следующее: «Почему кошки смотрят свысока на нас? Потому что они знают: в их мягких лапах лежит власть над нашими сердцами, а также над шерстью на тёмной одежде». В исполнении робота это в некотором роде даже настораживает.

4. Напишите фразу с явными ошибками, вставьте цифры и знаки препинания в слова. Боту это помешает воспринимать текст. К примеру, фразу «П73вет. Ты м!ня п?ни00ешЪ?» («Привет. Ты меня понимаешь?») человек распознает, ориентируясь на знакомое расположение букв, а бот проигнорирует или переспросит. Кроме того, можно заговорить на английском или другом языке: многие боты говорят только по‑русски (но не все), поэтому для перевода зачастую зовут человека.

Кстати, в интернете есть занятная интерактивная игра «Human or not», где можно потренироваться общаться с ИИ и отличать его от живого собеседника. Согласно правилам, нужно переписываться в чате две минуты с анонимом и угадать, был это бот или другой участник игры. Это современная версия Теста Тьюринга, изначальная цель которого — понять, может ли машина обмануть человека.

Как понять, что разговариваешь с ИИ

Генеративный ИИ успешно имитирует человеческий голос. Диапазон, тембр и эмоции в этом случае очень трудно отличить от реальных. Голосовыми приложениями — например, в онлайн‑магазинах или службах поддержки — часто пользуются крупные компании, так как им это помогает значительно экономить время персонала. Манера говорить у таких ботов вполне правдоподобна — но при этом проблему обратившегося клиента могут и не решить. Вот как отличить робота:

1. Отмечайте отсутствие пауз между репликами — они должны вас насторожить. Искусственный интеллект обрабатывает информацию в несколько раз быстрее человека и, соответственно, быстрее её сообщает.

У некоторых ботов специально предусмотрены паузы, чтобы имитировать скорость ответа человека. Но в это время они, в отличие от реальных собеседников, не будут растягивать слова или употреблять междометия («Ой», «Ого») и звукоподражания («Э‑э‑э», «М‑м‑м»).

2. Неожиданно меняйте предмет разговора: спросите о социальном статусе, месте учёбы или питомцах собеседника. Противоречивые ответы, как и в примере про мессенджеры выше, сразу выдадут бота.

3. Обращаясь в службу поддержки, опишите проблему как можно более детально. В рядовых ситуациях вроде «Не понравилось качество сервиса» или «Не могу найти ответ на сайте» — то, что можно решить или узнать без вмешательства человека — ИИ поможет разобраться быстрее и без очереди других пользователей. Но если проблему не так‑то просто объяснить, он потеряется в нити повествования и проигнорирует часть важных деталей, не переспрашивая, — и этим выдаст себя.

Генеративный голосовой ИИ хорошо прижился в сфере развлечений, создания видео или озвучки. Однако мошенники, к сожалению, тоже этим пользуются. Взломав аккаунт пользователя в мессенджере, они прослушивают его старые аудиосообщения и на их основе создают фейки с просьбой к друзьям и родственникам о переводе денег.

Подобные аудиосообщения можно проверить, связавшись с человеком, от имени которого их присылают, в другом мессенджере или по телефону. Чаще всего взломщики получают доступ только к одному каналу связи. Поскольку этот способ мошенничества относительно новый в России, следует предупредить о нём детей и старших родственников.

Генеративный ИИ способен подражать не только голосу, но и внешнему виду реальных людей — например, по видеосвязи.

Если вам поступил подозрительный видеозвонок и вас просят перевести денег или сообщить данные банковской карты, даже если голосом и внешним видом персонаж действительно напоминает вашего знакомого человека, обращайте внимание на мимику и жесты. В случае с фейком движения губ могут не совпадать с произносимой речью, мимика — не соответствовать эмоциям, могут повторяться одинаковые жесты или движения.

Попробуйте задать вопрос, верный ответ на который может дать только ваш знакомый. Этот способ проверки при любом сомнении — классический и наиболее верный.