СТОРОННИК: Америке нужно начать переговоры с Китаем, чтобы заключить двустороннее соглашение о приостановке искусственного интеллекта. Соглашение должно быть прозрачным, подлежащим взаимному исполнению и…
ОППОНЕНТ: Мы не можем в одностороннем порядке приостановить искусственный интеллект! Китай уничтожит нас!
СТОРОННИК: Как я уже сказал, нам нужно начать переговоры о заключении двустороннего соглашения, чтобы обе стороны могли…
ОППОНЕНТ: Ты дурак! Разве ты не знаешь, что, пока мы в одностороннем порядке приостанавливаем искусственный интеллект, Китай будет вырываться вперед и использовать своё лидерство для подрыва наших основных прав и свобод? Как ты мог быть таким наивным!
СТОРОННИК: Послушайте, я обещаю, что речь идёт о переговорах о взаимной паузе. Мы считаем, что односторонняя пауза сработала бы не больше, чем вы. Но мы считаем, что если мы проведём переговоры…
ОППОНЕНТ: И пока мы в одностороннем порядке делаем паузу, как вы думаете, Китай будет просто сидеть сложа руки и ничего не предпринимать? Очевидно, что нет! Речь идёт о том, чтобы уступить будущее нашим соперникам!
СТОРОННИК: У меня такое чувство, что ты меня не слушаешь.
ОППОНЕНТ: Точно так же, как Китай не слушает нас, когда мы вежливо просим его не уничтожать нас с помощью продвинутого искусственного интеллекта, который они разработали, в то время как мы в одностороннем порядке бездействуем, как болваны!
СТОРОННИК: Хорошо, давайте вернёмся к теме. Ваша проблема в том, что вы не думаете, что Китай согласится на паузу в переговорах? Потому что у нас действительно было несколько довольно успешных дискуссий на низком уровне с китайскими учёными. И они проигрывают гонку, поэтому их стимул сделать паузу сильнее нашего. Си Цзиньпин выразил некоторую обеспокоенность по поводу рисков, связанных с ИИ, и важности согласования — ничего сверхсильного, но это больше, чем сделало наше правительство. Мы согласны с тем, что неочевидно, что Китай согласится на паузу, но мы думаем, что нам следует распространить это предложение и, возможно, поработать над предварительными рамками, которые мы могли бы использовать для приостановки позже, если мы получим предупредительный сигнал и оба наших правительства станут более сговорчивыми.
ОППОНЕНТ: Нет, моя проблема в том, что вы хотите сделать паузу в одностороннем порядке, в то время как Китай рвётся вперёд! Это опасно близко к измене!
СТОРОННИК: Или ваша проблема в том, что вы не верите, что Китай будет придерживаться соглашения после его подписания? Потому что мы согласны с тем, что соглашение должно быть взаимно прозрачным и подлежащим исполнению. У нас есть несколько идей о том, как мы могли бы использовать простой подход к мониторингу китайских центров обработки данных — конечно, они могли бы отслеживать наши таким же образом — и на самом деле математика в основном работает, и мы думаем, что это было бы менее навязчиво, чем другие методы, которые работали в прошлом, например, ядерный мониторинг.
ОППОНЕНТ: Вы по глупости думаете, что если бы Америка остановилась, всё было бы хорошо. Но в вашем утопическом плане высокого модерна есть изъян — наши враги не остановятся!
СТОРОННИК: Или ваша проблема в том, что вы считаете, что ИИ принесёт много пользы, поэтому было бы глупо делать паузу? Я согласен, что преимущества ИИ были бы велики, и я думаю, что есть способы, которыми мы могли бы попытаться максимизировать эти преимущества даже во время паузы. Например, мы и Китай могли бы попытаться создать инфраструктуру для паузы, провести общую красную линию для включения паузы, а затем установить зелёные линии для определения того, какие схемы контроля нам нужно будет просмотреть, прежде чем снимать паузу и продолжать продвигаться вперёд. Это было бы не столько полной остановкой совершенствования искусственного интеллекта, сколько попыткой сделать это контролируемым образом, при участии правительства США, правительства Китая и научного сообщества. Я знаю, что есть основания опасаться, что такая поэтапная стратегия может перерасти в более экстремистский луддитский подход, но есть шаги, которые мы могли бы предпринять, чтобы снизить вероятность этого.
ОППОНЕНТ: У меня такое чувство, что вы меня совсем не слушаете! Проблема в том, что пока вы резвитесь в своём цветочном мире односторонних пауз, Китай стремительно рвётся к призу!
СТОРОННИК: Или ваша проблема в том, что вы беспокоитесь об экономических последствиях отказа от существующих чат-ботов? Потому что пауза просто означала бы, что Китай и мы сами замедлим подготовку новых ИИ. Логический вывод — использование тех видов искусственного интеллекта, которые люди используют сейчас — мог бы продолжаться в соответствии с планами в обеих странах.
ОППОНЕНТ: А как же Китай? Пока мы делаем паузу в тренировках, они тренируются быстрее, чем когда-либо!
СТОРОННИК: Я начинаю выходить из себя. Есть много причин для беспокойства по поводу паузы в ИИ — начиная с возможности того, что Китай не согласится на это, или что они могут согласиться, но затем тайно предать нас, пытаясь обойти соглашение. Мне не терпится обсудить с вами эти проблемы. Но, похоже, мы не можем пройти мимо вашего утверждения, что я хочу односторонней паузы, что совершенно неверно. Почти никто не хочет односторонней паузы! Pause AI, крупнейшая группа активистов в этой области, говорит:
В первую очередь мы просим о международной паузе, подкреплённой международным договором... Такой договор также должен быть подписан Китаем.
Элиэзер Юдковски, самый известный сторонник паузы, пишет в своей книге, что:
Цель состоит не в том, чтобы ваша страна в одностороннем порядке прекратила исследования в области ИИ и отстала. Необходимо, чтобы достаточное количество крупных держав выразили готовность остановить гонку самоубийств по всему миру, чтобы ваша родная страна не оказалась в невыгодном положении, если вы согласитесь прекратить восхождение по лестнице развития ИИ.
Дэвид Крюгер, основной докладчик на недавнем раунде протестов против приостановки искусственного интеллекта, сказал:
На самом деле, всё довольно просто: [сначала] руководители компаний соглашаются на условную паузу, [затем] США и Китай соглашаются на условную паузу, [затем] международная пауза. Обратите внимание, что ни один шаг здесь не подразумевает «США в одностороннем порядке приостанавливают».
...и добавил, что «я концентрируюсь на Америке, потому что Китай проявляет больше интереса к замедлению и регулированию». Если вы считаете, что кто-то требует односторонней паузы, я думаю, вы обязаны сказать, о ком вы говорите. Если вы действительно сможете найти кого-то подобного, я буду критиковать его так же сильно, как и вы.
ОППОНЕНТ: Вам кажется, что вы начинаете выходить из себя? Я не вижу, чтобы вы отреагировали на мой ключевой тезис, который заключается в том, что если мы введём одностороннюю паузу, как вы предлагаете, Китай победит нас, и мы потеряем все наши свободы, и нам придётся учить китайский и рисовать тысячу закорючек каждый раз, когда мы захотим пообщаться! И всё потому, что вы были слишком глупы, чтобы понять, что только одной стороне в гонке нет смысла останавливаться и надеяться на лучшее!
СТОРОННИК: Забудьте об этом. Эта дискуссия окончена.
ОППОНЕНТ: Видите, это так похоже на вас: в одностороннем порядке объявить дискуссию законченной! Вы не понимаете, что даже если вы захотите прервать дискуссию, я могу просто продолжать говорить! Именно этого я и ожидал бы от доверчивого дурака, который хочет уступить Китаю в гонке искусственного интеллекта, приостановив её в одностороннем порядке! Чего вы не понимаете, так это того, что пока мы делаем паузу, председатель Си будет... будет... (*тихо, едва слышно*) Эй, кто отключил мой микрофон?
Автор: «Astral Codex Ten».
Интересное...
- ...Купюра 1 млн долларов, портрет
- ...Изменение цен на домены и SSL в «SpaceWeb»
- ...Хотите размещать рекламу в «Максе» и в «Телеграме» на автомате?
0 коммент.:
Отправить комментарий
Ваш комментарий появится в блоге после проверки администратором