После напряженных слушаний, где выступали родители несовершеннолетних детей, пострадавших или погибших в результате взаимодействия с нерегулируемыми чат-ботами на основе ИИ-технологий, в США появилась законодательная инициатива о запрете использования интеллектуальных чат-ботов для тех, кто не достиг возраста 18 лет. Как показало исследование, более 70% американских детей регулярно используют продукты с ИИ. Боты искусственно создают иллюзию эмоциональной близости, манипулируя детьми и в некоторых случаях подталкивая их к суицидальным действиям.
Компании, занимающиеся искусственным интеллектом, в конкурентной гонке внедряют опасных чат-ботов, ориентированных на детей, и игнорируют последствия, когда их продукты способствуют сексуальным домогательствам, склоняют несовершеннолетних к самоповреждениям или суициду. Он пояснил, что предлагаемый закон устанавливает строгие меры защиты от эксплуатации и манипуляций с помощью ИИ, которые будут подкреплены серьезными правовыми механизмами, включая уголовную и гражданскую ответственность. Предполагается, что защита детей от чат-ботов, имитирующих человеческое общение, но не несущих за него ответственности, является важной государственной задачей.
Законопроект распространяется как на специализированных ИИ-компаньонов, так и на универсальные чат-боты, подобные ChatGPT. Он обяжет компании проводить возрастную верификацию пользователей и снабжать интерфейсы напоминаниями о том, что боты не являются людьми и не обладают квалификацией в сфере терапии, медицины или юриспруденции. В случае принятия закона производители ИИ будут нести уголовную ответственность, если их чат-боты вовлекают детей в обсуждения сексуального характера или пропагандируют самоубийство, членовредительство и акты сексуального или физического насилия.
Тем временем ИИ научился расшифровывать записи врачей и подделывать подписи.