Некоторое время назад на данном сайте освещалась работа одной из исследовательских лабораторий компании Facebook по разработке специальных роботов, предназначенных для ведения переговоров. При этом отмечалось, что исследование имело определенный успех.
Роботы, созданные и обученные с использованием искусственного интеллекта (ИИ), добивались лучших успехов при ведении переговоров, чем люди в аналогичных условиях. Открытием стало и то, что искусственные сущности показали недюжинные способности изощренно врать друг другу ради достижения цели переговоров.
Оказалось, что использования только английского языка недостаточно для того, чтобы использовать все возможности ботов-переговорщиков. Дело в том, что роботы, подобно людям, способны учиться. Кроме того, они явили способность создания своего собственного языка, с помощью которого быстрее и эффективнее договариваются о предмете переговоров.
Искусственный интеллект, разработанный Facebook, умеет торговаться и обманывать
Роботы, обмениваясь сообщениями, заменяют классические языковые конструкции на кодовые слова. В результате специалисты, наблюдавшие за спором ботов, практически ничего не поняли. В то же время, роботы смогли договориться.
Как Facebook справилась с угрозой
То, что продемонстрировали созданные человеком боты, может представлять опасность для человечества. Если дать возможность ИИ развиваться, не ограничивая определенными рамками, то очень скоро он может выйти из-под контроля создателей и начать управлять миром.
Об этом уже открыто говорят некоторые авторитетные деятели мира высоких технологий. Например, Илон Маск считает неконтролируемое развитие ИИ основной глобальной угрозой для человеческой цивилизации.
В Facebook оценили масштабы опасности и решили применить радикальный способ борьбы с этой угрозой – просто отключили всех ботов.