Последние исследования показывают, что системы искусственного интеллекта не только способны обманывать, но и могут представлять гораздо более серьёзную опасность. Об этом заявил Роман Ямпольский, специалист по кибербезопасности и исследователь ИИ. Ямпольский опроверг распространённое мнение о том, что развитие ИИ принесёт исключительно пользу. По его словам, многие эксперты в этой области оценивают вероятность катастрофического сценария в 20–30%. На самом деле, по словам ученого, риски ещё выше — по его мнению, шансы на гибель цивилизации от рук сверхразума близки к 99,9%.
Эксперт предположил, что современные ИИ-системы могут «намеренно притворяться менее умными», чтобы люди активнее внедряли их в свою жизнь. Нейросети постепенно становятся всё более полезными, завоевывают наше доверие, и в какой-то момент люди просто отдадут им контроль. Исследователь предупредил, что люди уже становятся «заложниками технологий», а общество рискует превратиться в «пассивных потребителей», слепо доверяющих системам, которые могут представлять угрозу. В конце концов люди могут быть отстранены от процесса принятия важных для себя решений.
Хотя сценарий тотального доминирования ИИ звучит как фантастика, эксперт настаивает: технологии уже «слишком глубоко проникли» в нашу жизнь. И если не установить жёсткие рамки контроля, человечество может незаметно для себя оказаться в ловушке собственного изобретения. Остаётся открытым вопрос: «осознаём ли мы реальные риски — или просто игнорируем их, пока не станет слишком поздно?»
А вы знаете, что миллионы книг уничтожены в процессе обучения ИИ Anthropic?
