Поддержать нас
Беларусы на войне
  1. Мать 1,5 года без сознания, отца признали виновным, двое детей — одни. Как сейчас семья, попавшая в резонансное ДТП в Витебской области
  2. Возврат в Китай за ваш счет? В МАРТ прокомментировали правила торговли, возмутившие беларуса
  3. В Минске будут судить 16 участников секты «ИВДИВО». На допросах они утверждали, что общаются со «смотрящим» за нашей планетой
  4. «В школе, когда привел сына, немножко напряглись». Беларус растит двоих детей с серьезными заболеваниями
  5. «Я им жестоко ответил, просто резко». Лукашенко заявил, что США интересовались новыми задержаниями беларусов для «обменного фонда»
  6. В Минске в тестовом режиме запустили оплату проезда банковскими картами. Как контролеры будут проверять билеты
  7. «Выхожу в стрим и просто рассказываю всю дичь». Тихановский представил свою версию инцидента с участием Светланы в Нью-Йорке
  8. «Хочу мужика!» Блогерка-миллионница из Минска запустила наш ответ «Сердцу ангела» и ищет парня на шоу
  9. Си Цзиньпин на переговорах с Трампом и Путиным заявил, что страны должны преодолеть «ловушку Фукидида». Что это за концепция
  10. Экс-политзаключенный Северинец: «Сяргей Ціханоўскі перайшоў чырвоную рысу»
  11. «У нас новые правила перевозки пассажиров?» Беларуска заказала «Яндекс Go», а водитель потребовал от нее «ехать в определенной позе»
  12. «Сейчас я сдаю 41 квартиру в Минске». Беларус рассказал о бизнесе на краткосрочной аренде жилья
  13. Витеблянин, на которого пожаловались из-за «прожарки» коллеги на закрытом мероприятии, рассказал, чем закончилась история
  14. Протасевич отреагировал на большое интервью Сапеги «Зеркалу» — видимо, для этого ее обманули
  15. Беларус снял пьяную коллегу на корпоративе и поплатился за видео. Но сначала выиграл суд
  16. Курортный пятизвездочный отель и номер на 50 м². Виктория Лукашенко с мужем и сыном потратили на отпуск почти пять тысяч евро — «Бюро»
  17. До войны в этом беларусском областном центре жили 180 тысяч, после — всего 118 (не тысяч, а человек). Почему так случилось
  18. «Нашу продавщицу из „Минимаркета“ давно не интересует, что сказал Трамп». Как живет Киев накануне зимы — рассказ беларуски


«Искусственный интеллект может привести к исчезновению человечества», — с таким апокалиптическим предупреждением выступила группа руководителей и ученых из технологических компаний, включая OpenAI и Google DeepMind, пишет Русская служба Би-Би-Си.

Фотография используется в качестве иллюстрации. Фото: pixabay.com
Фотография используется в качестве иллюстрации. Фото: pixabay.com

«Уменьшение риска исчезновения человечества из-за развития искусственного интеллекта должно стать глобальным приоритетом наряду с другими рисками, такими как пандемии и ядерная война», — говорится в заявлении, опубликованном на сайте Центра безопасности ИИ, некоммерческой организации из Сан-Франциско.

Это — весь текст заявления, которое его авторы сознательно сделали максимально коротким. «Мы не хотели публиковать список из 30 возможных рекомендаций, чтобы <…> не разбавлять нашу мысль», — сказал исполнительный директор организации Дэн Хендрикс.

Заявление уже подписали более 350 руководителей, исследователей и инженеров в области искусственного интеллекта, в том числе Сэм Альтман из OpenAI, Демис Хассабис из Google DeepMind и Дарио Амодей из Anthropic.

Подписи под документом также поставили получившие премию Тьюринга за свою работу над нейронными сетями Джеффри Хинтон и Йошуа Бенджио, которых часто называют крестными отцами ИИ. В начале мая Хинтон даже уволился со своего поста в Google, чтобы получить возможность свободно говорить о потенциальном вреде технологий без оглядки на профессиональную этику.

Все не так страшно?

Однако далеко не все эксперты по искусственному интеллекту разделяют эти алармистские настроения. Например, Ян Лекун, вице-президент и ведущий AI-исследователь корпорации Meta, считает их сильно преувеличенными. «Я думаю, что масштабы проблемы уравнивания ИИ [с человеческим интеллектом] были смехотворно преувеличены, а наша способность решить ее — сильно недооценена», — написал он.

С ним согласны и другие эксперты, которые полагают, что страхи перед ИИ, во-первых, нереалистичны, а во-вторых, отвлекают внимание от реальных проблем. «Ныне существующий ИИ не настолько развит, чтобы подобные опасения материализовались», — сказал Би-би-си профессор Принстонского университета Арвинд Нараянан.

Разговоры о том, что ИИ может либо радикально и к лучшему изменить человеческое общество, либо его полностью уничтожить, существовали в научной фантастике на протяжении последних 80 лет. Но только в последнее время технологии вышли на новый уровень. Теперь ИИ может писать песни, генерировать реалистичные изображения, создавать компьютерный код, писать киносценарии и так далее. Непосредственно на сегодняшний день проблемы, создаваемые ИИ, в значительной степени касаются нарушения авторских прав и конфиденциальности.

Старшая научная сотрудница Оксфордского института этики в области искусственного интеллекта Элизабет Реньерис сказала Би-би-си, что ее больше беспокоит то, что «развитие ИИ может увеличить масштабы автоматизированного принятия решений… и привести к распространению дезинформации».

Не первое предупреждение

Заявление, опубликованное на сайте Центра безопасности ИИ, — не первое предупреждение подобного рода. В марте ведущие фигуры в области разработки ИИ, включая Илона Маска и основателя Apple Стива Возняка, уже призывали притормозить исследования в этой области, пока не будут разработаны и применены надежные протоколы безопасности.

Они опубликовали открытое письмо, в котором подробно описывали потенциальные, с их точки зрения, риски, которыми может сопровождаться развитие искусственного интеллекта. Среди них были названы распространение дезинформации, сокращение рабочих мест, в том числе и в тех областях, которых приносят радость творчества, и в целом — возможность полной потери контроля над развитием человеческой цивилизации.

Законодательные рамки

Законодатели ЕС уже разрабатывают европейский закон об искусственном интеллекте, аналогичные ограничения рассматриваются и в США.

Европейские законодатели хотят разработать такие законы, которые бы не допускали дискриминационного применения ИИ, например при приеме на работу, или потенциально могли бы привести к риску для здоровья и безопасности граждан.

При этом скептики считают, что любые ограничения бессмысленны до тех пор, пока они не получат глобального распространения. Учитывая, что сама природа интернета не предполагает соблюдения границ, опасные проявления ИИ, разработанные, например, в России, или Китае, все равно могут привести к негативным последствиям для граждан Европы или США.

ИИ — шпаргалки

Менее апокалиптические, но вполне реальные нарекания вызывает чатбот ChatGPT, который способен писать тексты и давать точные ответы на заданные вопросы.

В его преимуществах убедились, например, студенты и школьники, хотя и преподаватели тоже не дремлют и уже в ряде случаев научились распознавать работы, написанные искусственным интеллектом.

По словам американского юриста Тайлера Майклза, «непосредственной угрозой являются не роботы-убийцы, а работоубийцы. Особому риску подвергаются те, кто зарабатывает на жизнь, отвечая на телефонные звонки, работая за прилавком или иным образом обслуживая клиентов».

Впрочем, эта эволюция идет уже давно, и ее вряд ли удастся остановить, тогда как авторов заявления беспокоят более серьезные проблемы. С другой стороны, искусственная приостановка научных исследований еще ни разу не увенчивалась успехом. Скорее всего, наиболее разумным решением будет законодательное регулирование.