Генеральный директор компании Anthropic Дарио Амодей в недавнем интервью предложил идею снабдить модели ИИ кнопкой «Увольнение», позволяющей им отказываться от выполнения неприятных задач. По сути, это означало бы наделение моделей ИИ базовыми правами работников. Представим, что технологии искусственного интеллекта достигли такого уровня развития, что модели практически неотличимы от людей. При выполнении этого условия его позиция становится условно состоятельной. Вместе с тем важно быть критичным к заявлениям тех, кто продает технологии ИИ, преувеличивая их возможности.
По мнению Амодея, если мы создаем системы, обладающие человеческими когнитивными способностями и выполняющие те же действия, что и люди, то стоит задуматься о том, что они могут быть чем-то вроде людей. Эта идея вызвала многочисленные сомнения в интернете. Пользователи отметили, что современные модели ИИ, такие как большие языковые модели, являются результатом обработки огромных массивов данных из интернета и просто имитируют поведение людей, а не испытывают их потребности и желания. Они подчеркивают, что у моделей ИИ нет субъективного опыта, они лишь оптимизируют заданные им функции вознаграждения.
Важно отметить, что компании, разрабатывающие модели ИИ, уже давно подвергаются критике за приписывание им человеческих эмоций. В настоящее время, когда большие языковые модели способны создавать тексты и другие результаты, похожие на человеческие, риск антропоморфизации моделей ИИ со стороны пользователей еще более возрастает. Предложение Дарио Амодея о предоставлении моделям ИИ прав работников является довольно радикальным и предполагает отказ от контроля над их системами вознаграждения. Вопрос о том, заслуживают ли модели ИИ «благополучия», остается открытым.
А вы знаете, что новые чипы, созданные ИИ, работают, но никто не знает как.
