Бывший глава Google уверен, что ИИ нужно выключить, чтобы спасти человечество
Бесконтрольное развитие искусственного интеллекта (ИИ) представляет собой серьёзную угрозу для человечества. С каждым днём алгоритмы становятся всё более сложными и мощными, что открывает перед нами невиданные возможности, но также несёт в себе скрытые риски. Одним из главных опасений является потенциальная потеря контроля над ИИ. Если системы, обладающие сверхразумом, выйдут из-под контроля, последствия могут быть катастрофическими.
Эрик Шмидт, бывший руководитель Google, выражает озабоченность стремительным развитием искусственного интеллекта (ИИ) и призывает к принятию мер предосторожности. В беседе с журналистом он подчеркивает, что темпы прогресса в области ИИ не имеют прецедентов и представляют собой потенциальную угрозу для человечества.
Шмидт отмечает, что ИИ способен к самосовершенствованию и в будущем может выйти из-под контроля, став самостоятельным. Он считает необходимым разработать механизмы ограничения возможностей ИИ, чтобы предотвратить нежелательные последствия. По его мнению, решение о «выключении» ИИ должно приниматься не только техническими специалистами, но и обществом в целом. Шмидт предлагает рассмотреть возможность создания систем контроля ИИ самим искусственным интеллектом, что позволит избежать рисков, связанных с вмешательством человека.
Отмечается, что существует серьезный риск использования ИИ в злонамеренных целях. Автоматизированные системы могут быть использованы для киберпреступлений, манипуляции информацией, распространения дезинформации и даже для контроля над людьми. Этические и правовые аспекты, регулирующие использование ИИ, ещё недостаточно разработаны, что создаёт дополнительные угрозы.
А еще искусственный интеллект может прийти к власти. Пока только в одном городе.
