Компания Anthropic с 12 ноября обновила правила использования своего чат-бота Claude. Теперь в них отдельно прописаны запреты на создание сетей фейковых аккаунтов, использование ИИ для управления оружием и систематические издевательства над самим чат-ботом.
В частности, Claude запрещено использовать для организации дезинформационных кампаний, в том числе с помощью поддельных новостных сайтов и фейковых аккаунтов. В Anthropic отмечают, что сталкивались с подобными злоупотреблениями со стороны государственных СМИ, пропагандистских структур и коммерческих компаний.
Также уточняются ограничения на использование чат-бота для манипулирования избирателями, слежки за людьми и разработки программного обеспечения для наведения и управления оружием — согласно новым правилам, в медицине, финансах и юридической сфере решения ИИ должны оставаться под контролем человека.
Одним из нововведений стал запрет на жестокое обращение с самим Claude — речь идет о систематических и бесцельных оскорблениях или издевательствах над ИИ.
«Это ограничение не распространяется на обычное недовольство пользователей, возражения, мрачные темы в творческих работах, а также тестирование и исследование ИИ-моделей», — уточнил разработчик.
Напомним, пользоваться Claude запрещено компаниям, зарегистрированным в Беларуси, России, на оккупированных территориях Украины и в некоторых других регионах, а также их сотрудникам, даже если те работают из-за границы.