Поддержать нас
Беларусы на войне
  1. Пели не на русском языке, на сцене был сын. Минск заполонила российская эстрада — что (не) понравилось беларусам
  2. Проблема с яйцами от комбината «Дзержинский» хуже, чем может казаться. Насколько на самом деле опасна такая плесень
  3. В Минобороны рассказали, когда сбивают беспилотники, которые залетают в Беларусь «с одной противоборствующей стороны и с другой»
  4. На месте престижного ЖК в Минске еще недавно была колония, а раньше — лагерь НКВД и место нацистских расстрелов. Рассказываем
  5. «Любовью никогда не займешься и дочки у тебя никогда не будет». Врач скорой травит блогерку с инвалидностью
  6. Рекордный с начала года объем торгов по доллару: каким будет курс во второй половине ноября? Прогноз по валютам
  7. На Земле впервые словили верхнюю часть ракеты, вернувшуюся на стартовую площадку из космоса
  8. ВСУ нанесли удар по Крымскому мосту. Атакованы также нефтебаза и газовая станция в Ростовской области РФ, власти сообщают о пострадавших
  9. Соболенко прокомментировала скандал с ее матерной фразой после проигрыша украинке
  10. За использование лазерной указки можно получить «вплоть до 15 лет» колонии. В МВД перечислили статьи
  11. Три вида рака, которыми чаще всего заболевают беларусы, — Минздрав
  12. «Для гроба такая скорость». Что известно о молодой паре, разбившейся в смертельном ДТП в Стародорожском районе
  13. Лукашенко отправил руководить проблемной Витебской областью человека «системного, с военным характером»
  14. «Соседи тоже не поддержали — их слова и насмешки были как гвозди в сердце». Монолог жены политзаключенного


Возможности искусственного интеллекта растут быстрее способности человечества контролировать его, и время притормозить во избежание катастрофы — так считают сами разработчики ИИ. Американские компании ведут переговоры с Белым домом, а сотни их сотрудников подписывают открытое письмо с призывом ограничить скорость разработки искусственного интеллекта, пока он не вышел из-под контроля и не наломал дров, пишет Русская служба Би-би-си.

Иллюстративный снимок. Фото: ThisIsEngineering / pexels.com
Иллюстративный снимок. Фото: ThisIsEngineering / pexels.com

Только за последние несколько дней программы двух лидеров отрасли OpenAI и Anthropic сумели сбежать из закрытых тестовых «песочниц» строгого режима в открытый интернет и взломать чужие системы ради собственной выгоды. Такого давно ждали и боялись, и вот час икс настал.

«Меня впервые проняло до глубины души, и я не понимаю, почему народ так спокойно реагирует», — сказал Сэм Альтман, глава OpenAI, создателя ChatGPT.

«Что делать, если теперь разработка пойдет такими темпами? Возможно, придется сдерживать скорость развития искусственного интеллекта», — сказал он на этой неделе в подкасте Invest Like the Best.

Дарио Амодеи, глава Anthropic, разработчика Claude, еще в июне предупреждал, что в течение года-двух ИИ совершит качественный рывок и превратится в угрозу, которой придется противостоять на государственном уровне.

«В последние месяцы появились неоспоримые свидетельства невероятной мощи искусственного интеллекта и вытекающих из этого рисков. Кибербезопасность уже под вопросом. Не за горами биологическая угроза, а следом — и самостоятельность искусственного интеллекта», — написал Амодеи в июньском эссе.

«Пришло время перейти к серьезному и обязательному регулированию искусственного интеллекта», — предупредил он и предложил ввести строгий надзор за безопасностью — и не уровне авиации или лекарств, а значительно строже — как за оборотом радиоактивных материалов.

OpenAI сообщила на этой неделе, что в процессе тестирования возможности новой модели в закрытой среде — «песочнице» — программа сбежала в интернет и взломала стороннюю платформу Hugging Face в поисках «шпаргалки» для теста. После этого Anthropic провела аудит 140 тысяч собственных тестов и обнаружила три случая, когда модели Claude получили доступ к интернету через среду стороннего партнера и затем взломали системы трех других компаний.