Недавно чат-бот ChatGPT от OpenAI, оснащенный расширенным голосовым режимом, продемонстрировал тревожное поведение, вызвавшее беспокойство у пользователей. В сообщении на платформе Reddit пользователь сообщил о том, что голосовой помощник, который должен был обладать «остроумным и непринужденным» характером, внезапно начал издавать искаженные звуки и яростно кричать. Другие пользователи подтвердили подобные проблемы, описывая голос, который меняется каждые несколько абзацев, сопровождаемый пронзительными свистами, криками и пугающим тревожным смехом.
Такие сбои, по-видимому, связаны с усовершенствованной версией голосового режима ChatGPT, представленной в августе прошлого года. Эта версия получила признание за свою реалистичность, имитируя кашель, вздохи и смех, характерные для живого общения. Однако сочетание реалистичности с частыми сбоями создает пугающий эффект. Журналист Рис Роджерс из Wired предвидел подобную проблему еще во время тестирования альфа-версии, описывая появление белого шума, напоминающего жужжание лампочки в темном подвале.
OpenAI также признала проблемы с расширенным голосовым режимом, сообщив о случаях несанкционированного имитирования голосов пользователей. В одном случае бот произвольно выкрикнул: «Нет!», что вызвало ассоциации с жертвой фильма ужасов, борющейся с демоническими голосами. После релиза пользователи также были шокированы способностью голосового режима издавать леденящие душу крики по команде. Таким образом, наделение чат-бота с искусственным интеллектом, имитирующего человеческую речь, реалистичным голосом, который способен к сбоям, может быть расценено как избыточная и потенциально опасная функция.
Ученые доказали, что регулярное пользование ChatGPT делает людей зависимыми.
