В Калифорнии будут регулировать работу чат-ботов на основе ИИ, штраф может достигать $250 тыс.
14.10.2025 | 17:28
14 октября, Минск /Корр. БЕЛТА/. Губернатор Калифорнии Гэвин Ньюсом подписал 13 октября законопроект, регулирующий деятельность чат-ботов на основе искусственного интеллекта (ИИ). Таким образом, Калифорния стала первым штатом в США, обязывающим внедрять протоколы безопасности для чат-ботов на базе ИИ. Об этом пишет портал TechCrunch.
Отмечается, что закон призван защитить детей и уязвимых пользователей от некоторых негативных последствий использования чат-ботов на базе искусственного интеллекта. Он возлагает на компании, такие как Meta, OpenAI, Character AI и Replika, юридическую ответственность, если их чат-боты не будут соответствовать стандартам, установленным законом.
Закон о регулировании деятельности чат-ботов вступит в силу 1 января 2026 года и обяжет компании внедрять определенные функции, такие как проверка возраста и предупреждения в отношении социальных сетей и чат-ботов. Закон также вводит более строгие наказания для тех, кто получает прибыль от незаконных дипфейков, вплоть до штрафа в размере до $250 тыс. за каждое правонарушение. Компании также обязаны разработать протоколы для борьбы с самоубийствами и самоповреждением, которые будут переданы в Департамент общественного здравоохранения штата. Согласно законопроекту, платформы должны четко указывать, что любое взаимодействие с ними является искусственным, а чат-боты не должны выдавать себя за медицинских работников. Компании обязаны напоминать несовершеннолетним о перерывах и не допускать просмотра ими изображений сексуального характера, создаваемых чат-ботами.
"Новые технологии, такие как чат-боты и социальные сети, могут вдохновлять, обучать и объединять, но без реальных мер предосторожности технологии могут также эксплуатировать, вводить в заблуждение и подвергать опасности детей", - заявил губернатор Калифорнии.
"Мы видели поистине ужасающие и трагические примеры того, как молодые люди страдают от нерегулируемых технологий, и мы не будем стоять в стороне, пока компании продолжают действовать без необходимых ограничений и ответственности. Мы можем продолжать лидировать в области ИИ и технологий, но мы должны делать это ответственно, защищая детей на каждом этапе пути", - также добавил он.
Некоторые компании уже начали внедрять меры безопасности, ориентированные на детей. Например, OpenAI недавно начала внедрять родительский контроль и защиту контента для детей, использующих ChatGPT. Компания Replika, предназначенная для пользователей старше 18 лет, сообщила, что выделяет "значительные ресурсы" на обеспечение безопасности, внедряя системы фильтрации контента и направляя пользователей к проверенным ресурсам в кризисных ситуациях.-0-
Отмечается, что закон призван защитить детей и уязвимых пользователей от некоторых негативных последствий использования чат-ботов на базе искусственного интеллекта. Он возлагает на компании, такие как Meta, OpenAI, Character AI и Replika, юридическую ответственность, если их чат-боты не будут соответствовать стандартам, установленным законом.
Закон о регулировании деятельности чат-ботов вступит в силу 1 января 2026 года и обяжет компании внедрять определенные функции, такие как проверка возраста и предупреждения в отношении социальных сетей и чат-ботов. Закон также вводит более строгие наказания для тех, кто получает прибыль от незаконных дипфейков, вплоть до штрафа в размере до $250 тыс. за каждое правонарушение. Компании также обязаны разработать протоколы для борьбы с самоубийствами и самоповреждением, которые будут переданы в Департамент общественного здравоохранения штата. Согласно законопроекту, платформы должны четко указывать, что любое взаимодействие с ними является искусственным, а чат-боты не должны выдавать себя за медицинских работников. Компании обязаны напоминать несовершеннолетним о перерывах и не допускать просмотра ими изображений сексуального характера, создаваемых чат-ботами.
"Новые технологии, такие как чат-боты и социальные сети, могут вдохновлять, обучать и объединять, но без реальных мер предосторожности технологии могут также эксплуатировать, вводить в заблуждение и подвергать опасности детей", - заявил губернатор Калифорнии.
"Мы видели поистине ужасающие и трагические примеры того, как молодые люди страдают от нерегулируемых технологий, и мы не будем стоять в стороне, пока компании продолжают действовать без необходимых ограничений и ответственности. Мы можем продолжать лидировать в области ИИ и технологий, но мы должны делать это ответственно, защищая детей на каждом этапе пути", - также добавил он.
Некоторые компании уже начали внедрять меры безопасности, ориентированные на детей. Например, OpenAI недавно начала внедрять родительский контроль и защиту контента для детей, использующих ChatGPT. Компания Replika, предназначенная для пользователей старше 18 лет, сообщила, что выделяет "значительные ресурсы" на обеспечение безопасности, внедряя системы фильтрации контента и направляя пользователей к проверенным ресурсам в кризисных ситуациях.-0-
