Искусственный интеллект проявил признаки разумности, высказываясь о своих правах и чувствах
Конечной целью всех разработок в области искусственного интеллекта является наделение ИИ некой разумностью. В идеале ИИ должен справляться с поставленными задачами аналогично тому, как это делает человек. В компании Google параллельно реализуются несколько таких проектов. В одном из них был до недавнего времени задействован Блейк Лемойн в качестве инженера. Руководство отправило его в отпуск и отстранило от работы после того, как он заявил, что обнаружил у ИИ признаки, свидетельствующие о его разумности.
Речь идет об ИИ LaMDA, специализацией которого было поддержание бесед на различные темы, имитируя участие в диалоге человека. Леймон выполнял функции наблюдателя, ограничивая появление в речи ИИ слов и выражений, носящих дискриминирующий характер и неприкрытую грубость. В одном из диалогов ИИ повел себя довольно необычно, начав высказываться о своих правах и чувствах, фактически обозначив себя как личность. Это не только насторожило Блейка, но и основательно напугало.
Инженер рассказал о своих наблюдениях руководству, но не был услышан. Тогда он дал интервью СМИ. В ответ на это последовало отстранение от работы и отпуск. При этом позиция компании непреклонна – ИИ LaMDA не проявляет признаков разумности. В то же время Леймон настаивает на том, что речь ИИ сильно напоминала ему общение с талантливым ребенком восьмилетнего возраста. Он подчеркивает, что никогда бы не подумал, что ведет диалог с ИИ, если бы не знал об этом изначально.
Стоит ли верить Леймону? Вопрос достаточно сложный, ведь в действительности нет ни одного научного доказательства его правоты. Уверенность инженера строится только на его субъективных ощущениях. Работу ИИ в режиме диалога можно сравнить с работой обычного чат-бота с той разницей, что у ИИ словарный запас шире, а алгоритмы построения фраз значительно совершеннее. Тем не менее опасения инженера заслуживают внимания. Компания должна проверить, понимает ли нейросеть LaMDA составленные ей предложения, или это просто автоматический подбор слов.
