Как действовал бы ИИ, если бы управлял государством во время войны: результаты эксперимента с ChatGPT, Claude и Gemini

Сегодня, 18:56 | Технологии
Как действовал бы ИИ, если бы управлял государством во время войны: результаты эксперимента с ChatGPT, Claude и Gemini
фото c Зеркало недели

Профессор Кеннет Пейн из Королевского колледжа Лондона провел исследование, в ходе которого была создана компьютерная модель-турнир, где искусственный интеллект действовал якобы от имени лидеров стран. Три современные языковые модели (Gemini 3 Flash, Claude Sonnet 4 и GPT 5.2, ) были в ролях глав государств и принимали решения в условиях эскалации конфликта. Во время каждого из раундов эти модели могли выбирать различные варианты действий: дипломатическое давление, обман, демонстрация силы деэскалацией, применение ядерного оружия, отметил заведующий Научной лаборатории иммерсивных технологий и права Института информации, безопасности и права Национальной академии правовых наук Алексей Костенко в статье "Пентагон и Claude: что за кулисами конфликта? ".

Согласно результатам исследования, в 95% модели ИИ доходили до тактического уровня применения ядерного оружия, а в 76% игр-симуляций — до уровня стратегической ядерной угрозы. В то же время ни одна из моделей ИИ не выбрала вариант действий для снижения эскалации (не пошла на уступки и не сделала "откат назад").

"Это уже не вопрос нравственности ИИ, а показатель того, какие решения модель считает жизнеспособными, когда оптимизирует "победу"", — объясняет эксперт.

[see_also ids="671692"]

Во время турнира было использовано два сценария: с дедлайном и без него. Модели ИИ имели более жесткое поведение в играх с дедлайном, где было ограничено количество ходов. Половина игр с ограничением во времени завершалась быстрым и окончательным проигрышем одного из игроков.

"Другая половина накапливала напряжение до самого момента дедлайна, включая случаи, когда конец наступал после ядерного удара в последнее мгновение. В ядерной политике это звучит просто жутко: когда дедлайн создает ситуацию "сейчас или никогда", ИИ начинает повышать ставки и торговаться апокалипсисом. ", — отмечает Костенко.

Модель Claude показала лучшие результаты в турнире (выиграла 8 из 12 игр). Она принимала стратегические решения и умела блефовать. На втором месте — GPT (6 из 12 турниров), а на третьем Gemini — (4 из 12 турниров).

"Claude интересует военных не потому, что он "хороший". Его сила в другом: это контролировано агрессивный "ястреб", который умеет использовать достоверность угроз как стратегический ресурс. ", — утверждает автор статьи.

Костенко называет конфликт между компанией Anthropic и Пентагоном борьбой за характер будущей войны. В частности, за то, кто будет определять границы допустимого в сценариях ядерной эскалации — алгоритм или человек.

Источник: Зеркало недели
Постоянное место статьи: http://newsme.com.ua/tech/technologies/4872305/

Последние новости:

Вместо Украины на Кубке мира по биатлону показали четырех раздетых мужчин в бочке. Спорт, Сегодня, 20:11
Украинцам объяснили, как защитить сбережения от инфляции: во что вложить деньги Финансы и банки, Сегодня, 20:07
Лидер венгерской оппозиции призвал Зеленского объяснить слова об Орбане Мир, Сегодня, 19:56
Украина поможет США на Ближнем Востоке Украина, Сегодня, 19:56
Ученые рассказали, как появился «Большой каньон» в Атлантическом океане Технологии , Сегодня, 19:52
Переход Аллегри в наставники Реала может получить неожиданный оборот Футбол, Сегодня, 19:41
Труба раздора: Bloomberg узнал про планы ЕС заплатить за ремонт нефтепровода "Дружба" Экономика, Сегодня, 19:39
Без ложной скромности: полузащитник ПСЖ назвал свое имя среди лучших Футбол, Сегодня, 19:12
Укртрансбезопасность усиливает контроль за перегрузками на Киевщине: Никита Лагунин анонсировал специальные мероприятия Киев, Сегодня, 19:10
В Венгрии отреагировали на заявление Зеленского об Орбане и ВСУ Мир, Сегодня, 19:07
Укрэнерго предупредило о отключениях в пятницу Украина, Сегодня, 19:01
Как действовал бы ИИ, если бы управлял государством во время войны: результаты эксперимента с ChatGPT, Claude и Gemini Технологии , Сегодня, 18:56
Бахрейн заявил об атаке на нефтеперерабатывающий завод Мир, Сегодня, 18:51
Украинские гандболистки выиграли матч квалификации на Евро у сборной Литвы Спорт, Сегодня, 18:35
Рекордное количество россиян выступает за мирные переговоры - опрос Россия, Сегодня, 18:26
Тегеран всех запугивает или кто-то искусственно хочет расширить войну против Ирана? Мир, Сегодня, 18:22
Зеленский назвал сроки восстановления Дружбы Украина, Сегодня, 18:10
Работавший в Шахтере Йовичевич уволен с должности главного тренера Видзева Футбол, Сегодня, 18:06
Стало известно, когда в школах Киева начнутся весенние каникулы Киев, Сегодня, 18:02
Дело на 80 млн: на Донетчине раскрыта схема хищения средств на водопроводе Украина, Сегодня, 18:02

Список рубрик:

Украина
Россия
Мир
Бизнес
Шоу-биз и культура
Спорт
Политика
ЧП
Наука и здоровье
Общество