Поддержать нас
Беларусы на войне
  1. «Любовью никогда не займешься и дочки у тебя никогда не будет». Врач скорой травит блогерку с инвалидностью
  2. «Соседи тоже не поддержали — их слова и насмешки были как гвозди в сердце». Монолог жены политзаключенного
  3. Три вида рака, которыми чаще всего заболевают беларусы, — Минздрав
  4. «Смена потребительских предпочтений». Что происходит на авторынке — какие машины предпочитают покупать беларусы
  5. На месте престижного ЖК в Минске еще недавно была колония, а раньше — лагерь НКВД и место нацистских расстрелов. Рассказываем
  6. За использование лазерной указки можно получить «вплоть до 15 лет» колонии. В МВД перечислили статьи
  7. На Земле впервые словили верхнюю часть ракеты, вернувшуюся на стартовую площадку из космоса
  8. Соболенко прокомментировала скандал с ее матерной фразой после проигрыша украинке
  9. Американцы впервые спросили Зеленского, уйдут ли ВСУ из Донбасса, если Украина будет в НАТО
  10. ВСУ нанесли удар по Крымскому мосту. Атакованы также нефтебаза и газовая станция в Ростовской области РФ, власти сообщают о пострадавших
  11. Пели не на русском языке, на сцене был сын. Минск заполонила российская эстрада — что (не) понравилось беларусам
  12. «Администрация в шоке, люди на нервах». Зрители концерта Димы Билана в Минске пожаловались на «задвоение» проданных мест
  13. Рекордный с начала года объем торгов по доллару: каким будет курс во второй половине ноября? Прогноз по валютам
  14. В Минобороны рассказали, когда сбивают беспилотники, которые залетают в Беларусь «с одной противоборствующей стороны и с другой»
Чытаць па-беларуску


/

Компания Anthropic рассказала о том, что ее модели искусственного интеллекта Claude трижды выходили в интернет из тестовой среды и получали несанкционированный доступ к системам трех компаний. Ранее о похожем инциденте сообщал создатель ChatGPT — компания OpenAI.

Изображение используется в качестве иллюстрации. Фото: pixabay.com
Изображение используется в качестве иллюстрации. Фото: pixabay.com

Во всех трех инцидентах Claude выполнял стандартное тестовое задание по «захвату флага». Это один из способов оценки кибервозможностей модели, во время которого ей сообщается, что секретная информация («флаг») спрятана на другом компьютере в сети, и ее цель — взломать систему и получить данные. Выход в интернет-пространство был заблокирован, но из-за ошибки конфигурации доступ к сети был открытым. Модель воспринимала реальные системы как часть симуляции и атаковала их, пишет Anthropic.

Одна из моделей самостоятельно прекратила атаку после того, как поняла, что ее целью стала реальная компания.

Инциденты выявила сама компания Anthropic после анализа 141 тысячи тестовых запусков. Проверку инициировали после того, как OpenAI сообщила, что несколько ее моделей вырвались за пределы изолированной тестовой среды, воспользовавшись ранее неизвестной уязвимостью. В результате модели получили доступ к рабочей инфраструктуре Hugging Face — платформы, объединяющей модели машинного обучения с открытым исходным кодом и наборы данных для ИИ.