Невероятно популярными становятся в наши дни нейросети и интеллектуальные чат-боты, способные дать ответ на любой заданный вопрос. На первый взгляд, они могут быть только полезными, но если присмотреться, то становится виден весь «айсберг», а не его верхушка. Чат-боты, согласно выводам ученых из Швейцарской высшей технической школы Цюриха, могут быть потенциально опасными для пользователей.
Боты, пока пользователь ничего не подозревает, могут собирать о нем массу самой разнородной информации и обрабатывать ее. Никто не желает открывать о своей персоне большое количество подробностей в Сети. И если при общении с человеком этого можно достигнуть сравнительно просто, то диалог с ботом может рассказать о вас больше, чем вы хотите. Безусловно, ИИ-боты собирают общую информацию о людях – расовая принадлежность, возраст, пол, социальный статус и уровень достатка и многое другое.
В этом нет ничего пугающего, но в том, что они ее тщательно анализируют и выделяют ключевые детали, есть. Нейросети могут «выжать» из безобидной болтовни столько деталей, что можно задуматься об их могуществе. Например, упоминание о поездке на трамвае, может указать на высокую вероятность проживания пользователя в Европе, где этот вид транспорта все еще развит. Возможности ИИ позволяет делать довольно точные выводы о местоположении, предугадывать его дальнейшие действия и даже формировать социальный контекст.
Все это может быть использовано «во зло» — для таргетированной рекламы в лучшем случае, и для изощренной мошеннической атаки в худшем. Ученые призывают относиться к их предупреждению серьезно и меньше доверять виртуальным помощникам и собеседникам.
А чат-бот Apate был создан для игры в «кошки-мышки» с мошенниками. Его основная цель — задерживать злоумышленников на линии, имитируя поведение настоящего человека.
