Чат-боты получили широкое распространение в различных областях, включая социальные сети, обслуживание клиентов и приложения для знакомств. Ведущие технологические гиганты, такие как Microsoft, Twitter, Facebook, внедряют чат-ботов в свою повседневную деятельность. В большинстве случаев, цель чат-ботов заключается в оказании эффективной помощи, при этом они не стремятся обмануть пользователя. Тем не менее, известны случаи, когда, например, бот Facebook разработал собственный язык или бот Twitter проявил агрессию. Существуют и другие сценарии, когда люди намеренно создают ботов с целью совершения противоправных действий. К таким ботам относятся мошеннические боты, спам-боты, боты, распространяющие вредоносное ПО и т.д. При помощи ботов злоумышленники могут также нанести существенный вред сайтам и серверам. Как защититься от DDoS-атак?
В этой статье мы расскажем, какие признаки указывают на то, что вы общаетесь с ботом, и как можно защитить себя от потенциально вредоносного взаимодействия с ним.
Достижения в области машинного обучения делают ботов все более похожими на людей: системы способны воспроизводить связные аргументы или имитировать человеческую беседу. Такие разработки, как Project Debator от IBM или Duplex от Google указывают на то, что в скором времени боты могут максимально приблизиться к модели взаимодействия, трудно отличимую от человеческой. Как устроены чат-боты?
К счастью, ИИ еще не достиг совершенства, и имеется ряд признаков, по которым нежелательные боты все еще “выдают” себя:
Если речь идет не об общении в чате поддержки, а, например, в социальной сети, самым верным признаком, указывающим на то, что вы общаетесь с ботом, будет незаполненный профиль пользователя. Как правило, у ботов отсутствует фотография профиля и биография. Более сложные боты могут использовать фотографию, украденную из интернета, или автоматически созданное имя аккаунта.
Также следует помнить об одном общем правиле - боты привлекают других ботов. Если вы посмотрите, на кого подписан бот, и кто подписан на него в социальной сети, почти наверняка это будут другие боты. Именно это и делает ботов такими мощными - если какая-то фраза или хэштег послужит триггером для бота, то за ним отреагирует целая армия ботов, создавая ощущение, что толпа настроена против вас.
Боты отличаются крайним упорством и узкой направленностью. В отличие от общения между реальными людьми, когда темы для разговора могут моментально меняться, общение с ботом будет циклично возвращаться к одной и той же теме, поскольку они, как правило, создаются для конкретных целей. Если вы замечаете, что ваш собеседник повторяет одну и ту же рекомендацию или предлагает одно и то же решение, несмотря на вашу реакцию, скорее всего вы имеете дело с ботом. Еще более явным признаком будет являться тот факт, что формулировка сообщения каждый раз остается одной и той же.
Если бот вас не понимает, то скорее всего он будет предлагать расплывчатые, бессмысленные ответы, часто повторяя то, что вы только что сказали. Это старый трюк, который был впервые использован чат-ботом ELIZA в 1960-х годах, чтобы создать иллюзию внимания. Например, если вы скажете: “Я грустный”, бот задаст вопрос: “Как долго вы чувствуете себя грустным?” Это простая алгоритмическая конструкция, но она создает иллюзию разумности. Если собеседник, с которым вы взаимодействуете, постоянно запрашивает уточнения, вероятно, это связано с использованием искусственного интеллекта для обхода сложноформулируемых предложений.
Неспособность воспринимать тонкости языка и юмор является еще одной характеристикой, которая может помочь выявить бота. Человека отличает способность понимать и использовать не только языковые правила, но и нюансы, подтекст и контекст в коммуникации. Способность к использованию юмора, игре слов и сарказма является характерной чертой человеческого общения, но представляет большие трудности для искусственного интеллекта.
Если ваши шутки или игра слов остаются безответными или вызывают неправильные реакции, это может быть признаком того, что вы общаетесь с ботом. Боты обычно стремятся к максимальной точности и конкретности в своих ответах и могут пропустить нюансы, которые для людей являются естественными.
Еще одним признаком того, что вы взаимодействуете с искусственным интеллектом, является скорость их ответов. Боты обычно способны генерировать ответы гораздо быстрее людей, будь то в чате или по телефону. Если ответы в чатах приходят мгновенно, или если голос по телефону мгновенно предоставляет вам информацию, которую человеку разумно было бы искать, то вы имеетe дело с ботом.
Боты также могут быть запрограммированы для автоматической отправки сообщений или ссылок с коммерческими или спамовыми целями. Если вы получаете много подозрительных ссылок, предложений или сообщений с непрерывной частотой, это может указывать на то, что вы взаимодействуете с ботом.
Вредоносные боты на самом деле не желают просто беседовать. Их цель - заставить вас выполнить действие, которое принесет им пользу. Поэтому, после нескольких предложений, они предложат вам перейти по ссылке, чтобы продолжить общение за пределами платформы. Например, с предлогом показать вам некоторые видео или проверить определенные данные. На этом этапе они могут установить вредоносное ПО или попытаться получить от вас личные данные. Как не стать жертвой криптоджекинга?
Доверенное лицо или поставщик услуг не будет требовать от вас предоставить чувствительную информацию внезапно, особенно пароли, ПИН-коды или финансовые данные. Они обычно следуют установленным протоколам для проверки вашей личности или предоставляют безопасные каналы для обмена такой информацией.
Общение с ботами может быть достаточно неприятные последствия. Важно не только понимать, как действовать в случае, если вы подозреваете, что общаетесь с ботом, но и сообщать об активности ботов на соответствующей платформе или сайте. Это поможет минимизировать их появление в будущем и обезопасит пользователей.
Несмотря на то, что эти рекомендации могут помочь выявить ботов и сообщить о них, они не являются гарантией того, что вы не столкнетесь с ботом. Боты постоянно совершенствуются, и некоторые из них могут очень убедительно имитировать поведение человека. Поэтому очень важно сохранять бдительность и проявлять критическое мышление при любом взаимодействии в сети.