На днях толпа известных людей, которые не понаслышке знают об искусственном интеллекте, подписали открытое письмо против экспериментов в ИИ.
Вы представляете себе, что вообще происходит? Мастодонты в области машинного обучения, эксперты, учёные и просто звёзды хотят приостановить прогресс! Среди них — Стив Возняк, Илон Маск, Юваль Ной Харари и ещё пара десятков имён, которые вы точно хоть раз слышали. Все они уже подписали письмо.
А что происходит, спросите вы? «Системы ИИ, конкурирующие с человеческим интеллектом, могут представлять серьёзную опасность для общества и человечества», ответят они, ссылаясь на обширные исследования.
Эксперты боятся, что сильный ИИ может кардинально изменить жизнь на Земле, поэтому нужно им тщательно управлять. Но у людей таких инструментов нет. Даже несмотря на то, что в последние месяцы все крупные ИИ-лаборатории «застряли в неконтролируемой гонке по разработке и развёртыванию всё более мощных цифровых умов».
Авторы письма задают риторические вопросы. «Должны ли мы развивать ИИ, который в итоге может превзойти нас, перехитрить и заменить?», «Должны ли мы рисковать потерей контроля над нашей цивилизацией?» и тд.
Нам нужно больше времени, считают подписанты. Поэтому они просят немедленно заморозить обучение всех систем, превосходящих по мощности GPT-4, хотя бы на полгода. А если не захотят — нужно будет подключать правительства и вводить мораторий!
А во время паузы учёные должны будут собраться и общими усилиями разработать протоколы безопасности. Только так можно будет гарантировать, что системы не угрожают человечеству.
