Выражение «Возможности ИИ безграничны» давно уже стало избитым и мало кто задумывается о том, насколько могущественными могут быть нейросети, на самом деле. Прежде всего, в них заложен огромный «потенциал добра». Например, при помощи искусственного разума уже разрабатывают новые медицинские препараты высокой эффективности. Это не только антибиотики, но и средства для борьбы с вирусом Covid-19. Но у ИИ есть одна большая проблема – им можно очень легко манипулировать!
Дело в том, что ИИ очень далек от понимания «добра и зла». Все, что его просит сделать человек является для него не более, чем работой. Это навело сотрудников Швейцарского федерального института ядерной, биологической и химической защиты рассмотреть возможность использования нейросетей для создания оружия массового поражения. Ученые поставили ИИ задачу разработать несколько высокотоксичных веществ, способных отравить человека. Всего за шесть часов нейросеть «выдала на-гора» аж 40 000 уникальных формул. Каждая из них, может по своему воздействию на человека, быть сопоставима с химическим оружием!
Нельзя не отметить талант и старание искусственного разума. Ученые выделяют создание им нескольких «шедевров». Они превосходят боевые отравляющие вещества, разработанные в прошлом. Ученых поразила та легкость, с которой нейросеть переключилась из «режима добра» в «режим генерации зла». Оказалось, достаточно «перевести пару переключателей», чтобы ИИ начал выдавать формулы откровенных токсинов вместо лекарств. Это, по их мнению, может представлять серьезную опасность для человечества.
Вторым моментом, вызвавшим их беспокойство, стала доступность ИИ решений для практически всех заинтересованных пользователей. Многие нейросети доступны для использования на бесплатной основе в своих интересах. Их возможностей уже достаточно для того, чтобы генерировать формулы токсинов аналогично тому, как это было ранее в сугубо научном эксперименте ученых из Швейцарии. Их выводы, изложенные в статье для научно-популярной периодики, должны заставить общественность задуматься о будущем человечества и месте в нем активно развивающихся нейросетей.
