Поддержать команду Зеркала
Белорусы на войне
  1. Воюют не только в Украине. Рассказываем о кровопролитных конфликтах, которые развиваются прямо сейчас
  2. Еще два крупных международных банка объявили, что вводят существенные ограничения по работе в Беларуси
  3. Исследование о жизни информатора спецслужб на территории Беларуси стало победителем на престижном международном конгрессе
  4. «Наш паспорт может создать „позитивный прецедент“». Интервью со Светланой Тихановской о результатах поездки в США
  5. «Российские покупатели, скорее всего, испытывали локальную нехватку бензина и дизельного топлива». Главное из сводок
  6. Кто убивал оппонентов Лукашенко на рубеже веков? Все нити ведут к одному из самых преданных политику силовиков — вот его история
  7. Налоговики и Госконтроль взялись за тех, кто занимается недвижимостью (в том числе сдает в аренду)
  8. В 2024 году введут 5 важных изменений, которые затронут почти каждого. Рассказываем основное, что нужно знать о новшествах
  9. В Беларуси примут «антипедофильный» законопроект. Рассказываем, что в нем
  10. Белоруска погибла на отдыхе в турецкой Аланьи во время прыжка с парапланом
  11. Переходная справедливость: Офис Тихановской разработал Концепцию возмещения вреда пострадавшим от репрессий Лукашенко
  12. «Путин приказал Шойгу остановить контрнаступление ВСУ до начала октября». Главное из сводок штабов
  13. Медики — минимум 60 тысяч рублей. Сколько будут платить выпускники вузов, отказавшиеся от распределения
  14. Учитель музыки одной из школ Минской области 15 лет насиловал учеников. Дети жаловались, но их никто не слушал
  15. Прибавка медикам, решение по самым нищим пенсионерам, подорожание сигарет и лимиты на товары из-за границы. Изменения октября
  16. Прогноз по валютам: дорогой доллар с нами надолго. И вот почему
  17. В Беларуси будут проводить проверки при приеме на работу — кого, на что и кто
  18. Если заниматься оральным сексом, не заразишься? Разбираем пять популярных заблуждений об инфекциях, которые передаются половым путем


«Искусственный интеллект может привести к исчезновению человечества», — с таким апокалиптическим предупреждением выступила группа руководителей и ученых из технологических компаний, включая OpenAI и Google DeepMind, пишет Русская служба Би-Би-Си.

Фотография используется в качестве иллюстрации. Фото: pixabay.com
Фотография используется в качестве иллюстрации. Фото: pixabay.com

«Уменьшение риска исчезновения человечества из-за развития искусственного интеллекта должно стать глобальным приоритетом наряду с другими рисками, такими как пандемии и ядерная война», — говорится в заявлении, опубликованном на сайте Центра безопасности ИИ, некоммерческой организации из Сан-Франциско.

Это — весь текст заявления, которое его авторы сознательно сделали максимально коротким. «Мы не хотели публиковать список из 30 возможных рекомендаций, чтобы <…> не разбавлять нашу мысль», — сказал исполнительный директор организации Дэн Хендрикс.

Заявление уже подписали более 350 руководителей, исследователей и инженеров в области искусственного интеллекта, в том числе Сэм Альтман из OpenAI, Демис Хассабис из Google DeepMind и Дарио Амодей из Anthropic.

Подписи под документом также поставили получившие премию Тьюринга за свою работу над нейронными сетями Джеффри Хинтон и Йошуа Бенджио, которых часто называют крестными отцами ИИ. В начале мая Хинтон даже уволился со своего поста в Google, чтобы получить возможность свободно говорить о потенциальном вреде технологий без оглядки на профессиональную этику.

Все не так страшно?

Однако далеко не все эксперты по искусственному интеллекту разделяют эти алармистские настроения. Например, Ян Лекун, вице-президент и ведущий AI-исследователь корпорации Meta, считает их сильно преувеличенными. «Я думаю, что масштабы проблемы уравнивания ИИ [с человеческим интеллектом] были смехотворно преувеличены, а наша способность решить ее — сильно недооценена», — написал он.

С ним согласны и другие эксперты, которые полагают, что страхи перед ИИ, во-первых, нереалистичны, а во-вторых, отвлекают внимание от реальных проблем. «Ныне существующий ИИ не настолько развит, чтобы подобные опасения материализовались», — сказал Би-би-си профессор Принстонского университета Арвинд Нараянан.

Разговоры о том, что ИИ может либо радикально и к лучшему изменить человеческое общество, либо его полностью уничтожить, существовали в научной фантастике на протяжении последних 80 лет. Но только в последнее время технологии вышли на новый уровень. Теперь ИИ может писать песни, генерировать реалистичные изображения, создавать компьютерный код, писать киносценарии и так далее. Непосредственно на сегодняшний день проблемы, создаваемые ИИ, в значительной степени касаются нарушения авторских прав и конфиденциальности.

Старшая научная сотрудница Оксфордского института этики в области искусственного интеллекта Элизабет Реньерис сказала Би-би-си, что ее больше беспокоит то, что «развитие ИИ может увеличить масштабы автоматизированного принятия решений… и привести к распространению дезинформации».

Не первое предупреждение

Заявление, опубликованное на сайте Центра безопасности ИИ, — не первое предупреждение подобного рода. В марте ведущие фигуры в области разработки ИИ, включая Илона Маска и основателя Apple Стива Возняка, уже призывали притормозить исследования в этой области, пока не будут разработаны и применены надежные протоколы безопасности.

Они опубликовали открытое письмо, в котором подробно описывали потенциальные, с их точки зрения, риски, которыми может сопровождаться развитие искусственного интеллекта. Среди них были названы распространение дезинформации, сокращение рабочих мест, в том числе и в тех областях, которых приносят радость творчества, и в целом — возможность полной потери контроля над развитием человеческой цивилизации.

Законодательные рамки

Законодатели ЕС уже разрабатывают европейский закон об искусственном интеллекте, аналогичные ограничения рассматриваются и в США.

Европейские законодатели хотят разработать такие законы, которые бы не допускали дискриминационного применения ИИ, например при приеме на работу, или потенциально могли бы привести к риску для здоровья и безопасности граждан.

При этом скептики считают, что любые ограничения бессмысленны до тех пор, пока они не получат глобального распространения. Учитывая, что сама природа интернета не предполагает соблюдения границ, опасные проявления ИИ, разработанные, например, в России, или Китае, все равно могут привести к негативным последствиям для граждан Европы или США.

ИИ — шпаргалки

Менее апокалиптические, но вполне реальные нарекания вызывает чатбот ChatGPT, который способен писать тексты и давать точные ответы на заданные вопросы.

В его преимуществах убедились, например, студенты и школьники, хотя и преподаватели тоже не дремлют и уже в ряде случаев научились распознавать работы, написанные искусственным интеллектом.

По словам американского юриста Тайлера Майклза, «непосредственной угрозой являются не роботы-убийцы, а работоубийцы. Особому риску подвергаются те, кто зарабатывает на жизнь, отвечая на телефонные звонки, работая за прилавком или иным образом обслуживая клиентов».

Впрочем, эта эволюция идет уже давно, и ее вряд ли удастся остановить, тогда как авторов заявления беспокоят более серьезные проблемы. С другой стороны, искусственная приостановка научных исследований еще ни разу не увенчивалась успехом. Скорее всего, наиболее разумным решением будет законодательное регулирование.