Руководство компании — разработчика технологий ИИ Anthropic предупреждает, что новейшие ИИ-модели начинают демонстрировать признаки потенциального выхода из-под человеческого контроля. Сооснователь Anthropic Джек Кларк заявил, что технология приближается к этапу, когда сможет развиваться без участия человека, и призвал создать механизмы, которые позволят при необходимости замедлять развитие искусственного интеллекта, пишет Русская служба Би-би-си.
«Необходимо иметь возможность убрать ногу с педали газа и нажать на тормоз», — заявил Кларк в интервью программе BBC Newsnight.
«Сейчас ситуация выглядит так, будто у индустрии искусственного интеллекта есть педаль газа, но нет педали тормоза», — считает он.
По его словам, люди должны сохранить контроль над системами ИИ через государственное регулирование и политические механизмы, поскольку эти технологии будут становиться все более мощными и все сильнее влиять на общество.
«Миру необходимо серьезно задуматься над этим вопросом. В конечном итоге нам придется разработать новые правила регулирования, которые позволят быть уверенными в безопасности и надежности этих систем», — подчеркнул Кларк.
Недавно Anthropic — разработчик семейства моделей Claude — выпустила доклад, в котором назвала замедление разработки передовых систем ИИ во всем мире «полезным шагом».
Однако, подчеркивается в докладе, если исследования остановит только одна компания, ее конкуренты просто уйдут вперед.
По словам руководства Anthropic, реальная пауза возможна лишь в том случае, если сразу несколько ведущих разработчиков ИИ в разных странах — прежде всего в США и Китае — одновременно согласятся остановить дальнейшее наращивание возможностей своих моделей в рамках системы, соблюдение которой можно будет независимо проверять.
Однако крупнейшие игроки отрасли, включая саму Anthropic, OpenAI и Google, пока не заявляли о готовности приостановить собственные исследования.
Как сделать «педаль тормоза»?
По словам Джека Кларка, популярный чат-бот Claude, разработанный компанией Anthropic, уже работает на программном коде, который примерно на 80% система написала самостоятельно.
По его оценке, в течение ближайших двух лет этот показатель может достичь 100%, что будет иметь «огромные последствия».
Кларк не уточнил, каким именно образом можно создать «педаль тормоза» для исследований и разработок в сфере искусственного интеллекта, но провел аналогию с нефтяным бумом начала XX века.
«Ответом общества стало создание разумной системы регулирования и правил, которые позволили людям доверять нефтяной отрасли и тем преимуществам, которые она могла дать миру. Благодаря этому не приходилось полагаться исключительно на личные качества людей, стоявших во главе компаний», — сказал он.
«Именно к этому мы, очевидно, в итоге придем и в случае с искусственным интеллектом», — считает Кларк.
При этом на этой неделе Anthropic приветствовала указ президента США Дональда Трампа в сфере ИИ, который предусматривает относительно мягкий подход к регулированию отрасли.
Этот указ не обязывает компании, занимающиеся разработкой искусственного интеллекта, проходить государственные проверки безопасности. Такие тесты по-прежнему остаются добровольными.
Один из пунктов документа также дает американскому правительству 30 дней на проведение предварительной оценки наиболее мощных моделей ИИ, разработанных в США, перед их выпуском на рынок.
Кроме того, президент США Дональд Трамп сообщил на этой неделе, что во время недавнего визита в Пекин обсуждал с китайской стороной возможность сотрудничества по вопросам безопасности искусственного интеллекта.
«Я беспокоюсь за своих детей»
С момента основания компания Anthropic позиционирует себя как одну из самых открытых компаний в вопросах потенциальных рисков искусственного интеллекта.
Компания даже вступала в публичный спор с Министерством обороны США из-за опасений, что ее технологии могут использоваться для массовой слежки за американцами и создания автономных боевых систем.
«Я беспокоюсь за своих детей, если мы как общество не начнем серьезный разговор о последствиях дальнейшего развития искусственного интеллекта, — заявил Кларк в интервью Newsnight. — Потенциальные выгоды огромны. Но существуют и риски».
По его словам, одним из таких рисков может стать серьезная перестройка экономики.
Особую тревогу вызывают так называемые агенты ИИ — автономные цифровые помощники, способные самостоятельно выполнять рутинные задачи. Некоторые опасаются, что они смогут заменить людей на ряде рабочих мест.
За последний год крупнейшие технологические компании провели массовые сокращения персонала, нередко объясняя это тем, что инструменты на основе ИИ уже способны выполнять работу, которую раньше делали сотни или даже тысячи программистов.
При этом Кларк считает, что люди с развитым воображением и способностью генерировать новые идеи могут получить преимущество перед искусственным интеллектом.
«Остается открытым вопрос, способны ли системы ИИ быть по-настоящему творческими. Пока убедительных доказательств этого нет», — сказал он.
«Сегодня в Anthropic нас больше ограничивает нехватка действительно хороших идей, чем способность инженеров воплощать эти идеи в жизнь», — говорит Кларк.
Тем не менее Кларк дал совет молодым людям, которые опасаются, что в экономике будущего, основанной на ИИ, для них не останется места.
По его мнению, стоит развивать собственные увлечения и получать широкое гуманитарное образование.
«Больше всего от этих технологий выигрывают люди, которые умеют творчески мыслить, широко смотреть на мир, много читают и имеют разнообразные интересы», — отметил он.
«Следуйте своему любопытству. В конечном итоге это поможет вам лучше использовать возможности, которые дает эта технология».
Взгляд изнутри
С момента основания в 2021 году Anthropic росла настолько быстро, что сейчас готовится к выходу на фондовый рынок.
Компания может стать одной из первых новых фирм в сфере искусственного интеллекта, чьи акции начнут публично торговаться на бирже, а также одной из самых дорогих компаний в истории IPO. Частные инвесторы оценивают ее стоимость почти в 1 трлн долларов (745 млрд фунтов стерлингов).
Кларк подчеркнул, что Anthropic открыто говорит о стремительном развитии ИИ не ради укрепления собственной репутации или привлечения клиентов.
«Я просто хочу рассказать миру о том, что мы видим внутри этих компаний, работающих с этой необычной технологией», — заявил он.