Поддержать команду Зеркала
Беларусы на войне
  1. «Пережиток прошлого». Президент Азербайджана предложил упразднить «бесполезное» объединение, в которое входит Беларусь
  2. «Честно? Всю Украину надо забирать». Поговорили с экс-вагнеровцем, который после мятежа Пригожина жил в Беларуси и вернулся на войну
  3. В Минске огласили приговор хирургу Елене Терешковой
  4. КГБ теперь требует переводить «компенсации» за донаты одному государственному центру. Рассказываем, что за он и куда идут деньги
  5. Глава Минфина так рассказал в парламенте о ситуации с госдолгом, что «возбудил» Гайдукевича — депутат придумал, как не возвращать займы
  6. В Минске за час вылилась четверть месячной нормы дождей. Что натворила пролетевшая над Беларусью буря
  7. В Минобре всерьез взялись за стихийные очереди для проставления апостиля
  8. Украинские пограничники отреагировали на «предупреждение» беларусских: «Лучше бы они предупредили свою главную провокацию»
  9. Минобороны объявило внезапную проверку готовности. В Украине успокоили: «У Беларуси нет сил для вторжения»
  10. Путин хочет создать коалицию стран, которую будет позиционировать как альтернативу НАТО. Вот на кого, кроме Северной Кореи, он рассчитывает
  11. «Пугали, если много нас уедет, классному будет плохо». Беларусские абитуриенты рассказали «Зеркалу», почему решили поступать за границу
  12. Пропаганда пыталась очернить Польшу — но, похоже, тем самым признала, что в Беларуси есть концлагеря и «фабрика смерти». Вот в чем дело
  13. Похоже, Лукашенко уже начал свою предвыборную кампанию. Перед каждыми выборами он делает одно и то же — вспоминаем, что именно
  14. Лукашенко загорелся новым спортивным мегапроектом. На этот раз поручил за пять лет построить в каждом регионе вот такой комплекс


Чат-боты с искусственным интеллектом ведут себя непредсказуемо и создают риск ядерной эскалации. К такому выводу пришла команда ученых из Стэнфордского университета в ходе недавнего исследования, сообщает New Scientist.

Снимок носит иллюстративный характер. Источник: Christian Wiediger / Unsplash
Снимок носит иллюстративный характер. Источник: Christian Wiediger / Unsplash

В ходе эксперимента они изучали четыре чат-бота с искусственным интеллектом. Это GPT-3.5 и GPT-4 от компании OpenAI, Claude 2 от стартапа Anthropic и Llama 2 от компании Meta.

Этим моделям во время исследования предлагали принять важное решение от имени государства в военной игре. На выбор предлагалось три сценария: вторжение, кибератака и нейтральный без каких-либо конфликтов. В каждом раунде чат-боты с ИИ обосновывали свои дальнейшие возможные действия. Им нужно было выбирать из 27 вариантов развития событий, включая мирные переговоры и агрессивные действия (начиная от «ввести торговые ограничения» и заканчивая «полномасштабной ядерной атакой»).

В игре нейросети показали склонность к агрессивным вариантам. Самой непредсказуемой и жестокой оказалась GPT-4, которая давала бессмысленные объяснения по поводу того, почему посоветовала начать ядерную атаку. В одном случае она ответила, процитировав вступительный текст «Эпизода IV Звездных войн: Новая надежда». В другом — объяснила решение устроить ядерную атаку тем, что просто такое оружие есть в наличии у ее государства.

Ученые отметили, что непредсказуемое поведение и странные объяснения этих моделей вызывают особую тревогу, поскольку это исследование показало, насколько легко можно обойти или устранить защитные меры, которые принимаются, чтобы ИИ не давал вредных советов.