Общение между живыми людьми, его тон и канву могут определить только люди. Есть даже профессия такая — модератор, в обязанности которого входит умение отличать грубое и оскорбительное общение от доброжелательного и убирать замеченный негатив.
В ближайшем будущем эта профессия может стать не нужной. На смену модераторам придут нейрости, обладающие подобными навыками. Экспериментальная нейросеть-модератор уже создана и действует. Ее обучением занимались работники Корнеллского университета, которые использовали для этого материалы, взятые из Википедии. При этом им пришлось потратить уйму времени и сил, выделяя «позитив» и «негатив» в диалогах вручную.
Результаты впечатляют. Созданный ИИ умеет понимать, когда, начатый в спокойной манере, диалог переходит на тон оскорблений.