СТАТЬИ
Billionaires like Elon Musk want to save civilization by having tons of genetically superior kids. Inside the movement to take 'control of human evolution.'
Длинная и интересная статья про наталистов — богатых людей, считающих, что падение рождаемости — одна из главных опасностей для человечества, и поэтому пытающихся родить как можно больше тщательно генетически отобранных на стадии оплодотворённой яйцеклетки детей. Журналист левого издания посетил семью молодых консервативных наталистов и, несмотря на явное предубеждение в начале, явно проникся к ним симпатией.
If AI scaling is to be shut down, let it be for a coherent reason
Краткий ответ близкого к рационалистам и Юдковскому специалиста по теории вычислений Скота Ааронсона на коллективное письмо о полугодовой приостановке работы над ИИ и последующую статью Элизера Юдковского, требующую полностью запретить эту работу. Авторам коллективного письма Ааронсон отказывает в элементарной логике, письмо Юдковского кажется ему внутренне логичным, но с позицией Юдковского он не согласен и развития ИИ не боится.
https://scottaaronson.blog/?p=7174
The Alignment Problem from a Deep Learning Perspective
Один из ведущих разработчиков AI и одновременно один из ведущих AI-алармистов (что относительная редкость, обычно ведущие AI-алармисты не имеют отношения к его практической разработке) описывает как и почему AI может начать нас обманывать и перестать нам подчиняться. Всё вполне логично и довольно убедительно, за исключением логического прыжка от “AI перестанет нам подчиняться“ к “AI уничтожит человечество“, который делает автор в других своих постах: эта статья написана для публикации в научном журнале и поэтому здесь автор воздерживается от страшилок.
https://arxiv.org/abs/2209.00626
Is AI Fear this Century’s Overpopulation Scare?
Автор одного из моих любимых блогов Pessimist Archive, собирающий старые предсказания о том, как новые технологии (автомобили, пишущие машинки, аудиокассеты и т.п.) всех нас погубят, даёт отповедь Юдковскому. Одповедь эмоциональная и я в целом скорее согласен с её пафосом, но в ней нет ни одного рационального аргумента. Единственный способ, которым автор доказывает неправоту Южковского — параллель со знаменитым полвека назад алармистом Эрлихом, предсказывавшим неминуемую и скорую смерть человечества от перенаселения и последующего голода. Возможно, параллель верная, а возможно и нет, никаких убедительных обоснований того, что Эрлих и Юдковский действительно похожи в статье нет, есть одни лишь риторические выпады и обзывательства Юдковского нехорошими словами. Я лично думаю, что по сути автор прав и они действительно похожи, но фу так писать.
Trusted #001 - Navigating AI Safety: Exploring the Spectrum of Perspectives on Our Future
Краткое, но полезное изложение позиций основных сторон спора о том, нужно ли ставить ИИ на паузу.
Who believes AI Will Destroy Humanity?
Демографический анализ опроса “боитесь ли вы, что ИИ уничтожит человечество до 2100 года“. Больше всего боятся ИИ марксисты, трансгендеры, бисексуалы, полиамористы (не уверен, что правильно пишу этот термин и что он вообще существует). А также Автор выдвигает отдельные гипотетические объяснения по каждому пункту, у меня объяснение одно на всех: быть марксистом, трансгендером, бисексуалом и полиамористом (?) сейчас очень модно. Бояться ИИ — тоже. Вот вам и отгадка. (Это не означает, что все, кто боится ИИ, следуют за модой. Это просто объясняет разницу в доле тех, кто боится, между этими и остальными группами).
AI Could Spell the End of Big Business
Тайлер Коуэн считает, что развитие ИИ может радикально уменьшить количество крупных компаний, что изменит как экономику, так и политику. Интересно, но на мой взгляд сейчас слишком рано делать подобные прогнозы.
https://www.bloomberg.com/opinion/articles/2023-04-26/ai-could-spell-the-end-of-big-business
Photography Created Many 'Last Mile Perfection' Jobs, Will AI?
Короткая заметка о том, как фотография, которая, как многие боялись, лишит художников работы, вместо этого привела к рождению новой массовой профессии фоторетушеров.
AI’s Inhuman Advantage
Интересный разбор, как именно ИИ превосходит людей в компьютерных играх, и в чём его главные сильные и слабые (да, есть и такие) стороны, а также о том, чем эти игры отличаются от войны и как способности ИИ лучше применять в боевых условиях.
Главный мой вывод — с ИИ лучше не воевать, но, если, не дай Бог, придётся, некоторые шансы у нас всё-таки есть.
Одна из самых интересных статей месяца, рекомендую.
https://warontherocks.com/2023/04/ais-inhuman-advantage/
What self-driving cars should teach us about generative AI
Тому, чтобы мы не думали, что ИИ всё изменит уже завтра. 4 года назад Маск обещал, что беспилотные автомобили будут на всех дорогах уже через год (то есть в 2020), но до этого до сих пор так же далеко, как до Луны. Буквально — по нынешним оценкам беспилотные автомобили займут хоть какую-то заметную долю рынка ещё позже, чем люди снова высадятся на Луне.
Изобретения и открытия сами по себе мало что меняют, чтобы что-то действительно изменилось, общество ещё должно к ним подстроиться, а это занимает десятилетия. В статье есть хорошие примеры и кроме автомобилей, но каждый может вспомнить и свои: я, например, вспомнил самые очевидные, мобильные телефоны и интернет.
AI Risk, Again
Робин Хэнсон о том, что риск ИИ очень переоценен. Не самый убедительный его текст.
We must slow down the race to God-like AI
Британский инвестор в AI рассказывает, как он осознал опасность и теперь считает, что исследования в этой области надо замедлить и поставить под строжайший государственный контроль. В аналитической части это, вероятно, лучшая алармистская статья, которую я читал, хотя бы потому что она наименее истеричная. Но там, где автор предлагает решения, он сразу меня потерял. Аргумент “Мы же так успешно поставили под тотальный государственный контроль исследования в других областях, так, что учёные без ста бюрократических согласований не могут и шагу ступить (благодаря чему мы до сих пор не полетели к звёздам и не создали лекарств, которые могли бы спасти миллионы ), так давайте же сделаем то же самое и с искусственным интеллектом“ не находит во мне никакого понимания. Как спрашивал по этому поводу другой автор, где мой летающий автомобиль?
Taiwan, the ROC, and Super Bowl XXXII
Скот Самнер рассуждает о том, зачем Тайваню так много маленьких островов, некоторые из которых находятся прямо у берегов Китая, и не лучше ли от них отказаться. А также, что делать США, если Китай попробует оккупировать эти острова, которые будет почти невозможно защитить.
Анализ того, почему Тайвань их держит, довольно убедительный: он держит их, потому что отказ от этих островов будет равнозначен объявлению независимости (за деталями загляните в статью). Но вот всё остальное…
Ответ на вопрос, что делать США, если Китай оккупирует маленькие острова, которые на самом деле не нужны Тайваню, но имеют символическое значение, очень прост: признать независимость Тайваня. Потому что сама оккупация будет означать, что Китай её тоже фактически признаёт (опять же, см. статью).
В конце статьи есть уже совсем наивное предложение к Тайваню заключить договор с Китаем о воссоединении через 50 лет. А к тому времени либо падишах… Существует большое количество статей от специалистов по этому вопросу, объясняющих, что большинство тайваньце (кроме потомков занявших остров войск Гоминьдана и их семей, которые составляют 12% от населения) не хотят воссоединяться с Китаем не потому, что тот коммунистический, а потому что Тайвань никогда в истории не был полноценной частью Китая и тайваньцы просто не считают себя китайцами и хотят жить в собственной стране. С тем же успехом можно предлагать украинцам подписать договор о воссоединении с Россией через 50 лет, чтобы прекратить нынешнюю войну.
https://www.econlib.org/taiwan-the-roc-and-super-bowl-xxxii/
The most shocking intel leak reveals new Chinese military advances
Ещё одна статья о том, как быстро Китай вооружается и как Америка пока ничего не может этому противопоставить.
https://www.washingtonpost.com/opinions/2023/04/13/china-hypersonic-missile-intelligence-leak/
A critical debate on the Ukraine-Taiwan weapons trade-off
Статья американского военного эксперта, утверждающего, что США не могут в нынешнем объёме поддерживать Украину, не подрывая при этом своей способности защитить куда более важный (из-за его технических возможностей) для Америки Тайвань в случае китайского вторжения. Предложение “просто производить гораздо больше оружия“, чтобы его хватило для поддержки обеих стран, он считает нереалистичным из-за политических и бюрократических преград. Аргументация на мой дилетантский взгляд, к сожалению, довольно убедительная — действительно, реши Си в ближайшему будущем атаковать Тайвань, ресурсов на одновременную поддержку Украины и войну с Китаем у США, похоже, может не хватить. К счастью, автор не предлагает в связи с этим прекратить поддержку Украины. Вместо этого он предлагает увеличить дипломатическое давление на Францию, Германию, Испанию и Италию с тем, чтобы они взяли существенно большую часть этой поддержки на себя — с чем я полностью согласен, уже давно пора это сделать.
https://www.washingtonexaminer.com/opinion/a-critical-debate-on-the-ukraine-taiwan-weapons-trade-off
China’s Dangerous Decline
Для балланса: статья о том, что благодаря Си, расправляющегося с реальной и потенциальной оппозицией и уничтожающего в процессе политические и экономические институты, позволявшие китайской экономике расти на 10% в год, Китай вошёл в фазу упадка и ситуация там будет становиться всё хуже. Китай не обгонит США и не станет первой экономикой мира, а будет медленно и болезненно стагнировать. Но радоваться американцам нечему — нарастающие проблемы Китая могут сделают его более опасным и агрессивным, огромной Северной Кореей на стероидах. Поэтому США нужно срочно учиться подстраивать свою политику под новую реальность, с одной стороны всячески сдерживая Китай как экономическими так и военными средствами, но с другой не провоцируя его на необдуманные действия, которые могут привести к войне.
4 of the hardest unsolved problems in philosophy — and some possible solutions
Четыре сложнейших неразрешённых вопроса философии и решения, которые для них предлагаются — разумеется, недоувлетворительные. Статья интересная и я нашёл в ней довольно много нового, хотя в целом знаком со всеми описываемыми проблемами. Но выборка автора кажется мне довольно случайной — в Топ 4 вполне можно было бы включить и другие проблемы — а постулат нерешённости — тавтологическим: философия не математика, в ней нет общепринятого для всех философов набора аксиом, так что ни один философский вопрос не является и не может являться объективно “решённым“, любые решения кого-то не удовлетворяют.
Как бы то ни было, любимый нами всеми корабль Тесея в список вошёл.
https://bigthink.com/thinking/4-hardest-unsolved-problems-philosophy/
Tim Urban’s What’s Our Problem?
Робин Хэнсон описывает реценизирует книгу Тима Урбана What’s Our Problem? Книга ему не понравилась, потому что решение этой самой проблемы, предлагающееся Урбаном, не кажется Хэнсону реалистичным. В этом я с Хэнсоном согласен, но у меня есть и гораздо более существенные претензии к книге. Они изложены ниже.
КНИГИ
What’s our problem? by Tim Urban ― 2
Ещё только апрель, но эта книга, вероятно, станет главным моим разочарованием года. Я всегда считал Тима Урбана, автора блога Wait But Why одним из самых умных, остроумных и оригинально мыслящих блогеров и с огромным удовольствием читал его статьи. Серия статей про прокрастинацию по-моему является лучшими популярными статьями из всех, которые мне попадались. Поэтому я с большим нетерпением ждал его книги о проблемах современного американского общества.
К сожалению, книга, которую Урбан писал 6 лет, оказалась пшиком.
Все сложности современной общественно-политической ситуации Урбан пытается объяснить с помощью крайне упрощённой и не годящейся для этой цели модели психики.
Есть несколько моделей, объясняющих как работает наш мозг с помощью нескольких чатей личности: модель Зигмунда Фрейда с Оно, Я и Сверх-Я, модель Эрика Бёрна с Взрослым, Родителем и Ребёнком, динамическая модель Бандлера-Гриндера, где каждой крупной цели человека, осознанной или нет, соответствует своя отдельная часть личности, модель “Слон и погонщик“, где слон — бессознательное, а погонщик - сознание, модель Каннемана с Системой 1 и Системой 2, где первая система отвечает за интутивное, быстрое, а вторая — за аналитическое, медленное, мышление…
Урбал создаёт собственную модель, где личность делится на части Джин и Голем. Джин — возвышенная, объективная, рассудочная, беспристрастная аналитическая часть, Голем — низменные инстинкты. Это явно упрощённая до неприличия модель Каннемана, где Голем это Система 1, а Джин — Система 2. Но Каннеман понимает, что, хотя интуитивная часть иногда заводит нас не туда, Система 1 делает очень важную и полезную для нас работу. У Урбана её аналог, Голем — злобный опасный монстр, которому мы обязаны всем плохим и в себе и в обществе, и от которого нужно избавиться.
Эта система логично приводит Урбана к тому, что всё в его картине мира становится чёрно-белым. Белым в этом случае является центризм, утерянный не так давно статус-кво, Золотой век политики, когда несколько крупных телеканалов объективно говорили нам, что правильно, а что нет, а республиканцев невозможно было отличить от демократов. А чёрным — любые отклонения от этого статус кво, всякие неодобренные начальством хрены с горы, распространяющие фейк-ньюс, и люди с радикальными взглядами и нежеланием идти на компромиссы с истеблишментом. Обличая их как Големов, руководствующихся примитивными инстинктами, Урбан, сам того не замечая, становится собственным Големом, отказывая в праве на существование всем, кто отклоняется от его Золотой середины больше, чем на среднеквадратическое отклонение, не желая разбираться в их аргументах и изображая известных людей из правого и левого лагеря в виде идиотских карикатур, имеющих мало общего с реальностью.
Многим моим читателям, возможно, понравится, что Урбан возлагает куда большую вину за нынешнее печальное положение вещей на левых, а не на правых (которых он тоже обвиняет, но меньше), но сам я, будучи правым, этим не обольщаюсь — кого бы Урбан ни винил в нынешнем положении вещей, его анализ ситуации выглядит по-детски наивным, его идеал — возврат в 50-е годы — совершенно неадекватным, и методы достижения этого идеала — банальными и жалкими. Никаких предложений разрешения главных проблем современности, выходящих за рамки “Ребята, давайте жить дружно“, Урбан, как и большинство пишущих на эти темы, не предлагает.
СЕРИАЛЫ
Better Call Saul, Season 4 ― 5
Этот сезон понравился мне чуть меньше, чем предыдущие: в последней серии герои совершают действия, которые в целом выглядят достаточно логичными, но всё же заметно хуже психологически мотивированными, чем их поступки в предыдущих сезонах и сериях. С одной стороны, придираться глупо, в любом другом сериале такие сюжетные повороты меня бы вполне устроили. С другой, до этого Better Call Saul задавал такую высокую планку психологической достоверности, что мне стало немного обидно, когда эта планка слегка опустилась. Поэтому этому сезону я ставлю 5, а не 5+. Тем не менее Better Call Saul и после четвёртого сезона продолжает оставаться однозначно лучшим из всех виденных мной сериалов.
Shadow and Bone, Season 1 ― 4
Экранизация фэнтазийных романов, действие которых происходит в вымышленной стране Равке, вдохновением для которой послужила Россия. Сериал, как и романы, полны восхитительной клюквы, к которой можно было бы придираться, если бы эти романы были историческими. Так колдунов, которые играют в сюжете очень важную роль, в Равке называют гриши, одного из главных гриш прошлого зовут Илья Морозова (это не опечатка), а главную героиню романов и сериала — Алина Старков. В русском переводе эту чудесную гендерную инверсию, к сожалению, убрали, и очень зря.
Я начал смотреть из-за гриш, думая полсерии посмеяться и бросить. Но у сериала внезапно оказался захватывающий сюжет и замечательный кастинг, так что я посмотрел первый сезон и теперь смотрю второй (который особенно подкупил меня тем, что в одной из первых же его серий возлюбленный Алины в ответ на её слова о том, что они должны спасти Равку, отвечает, что ему лично на Равку глубоко плевать и он ждёт не дождётся, когда же они свалят из этого болота). И вам тоже советую. Главное просто наслаждаться клюквой и бурным напряжённым действием, не пытаясь вдумываться в логику сюжета и местной географии — ни в том ни в другом никакой логики нет, только испортите себе удовольствие.
ФИЛЬМЫ
Have a Good Trip ― 5
Очень смешное и динамичное кино, в котором очень и не очень известные люди делятся своим опытом приёма психоделиков. Прекрасно всё: и сами рассказы, и мультипликационные вставки, прекрасно стилизированные под 1960-х, и отрывки из реальных передач о вреде наркотиков, и снятые авторами пародии на эти передачи, которые поначалу сложно отличить от оригинала. Сам я смотрел этот фильм под грибами и очень этому рад, но рядом сидел человек, который смотрел его безо всяких грибов и получил не меньшее удовольствие. Очень рекомендую.
> лишит художников работы, вместо этого
только не вместо, а вместе. когда-то профессия художника была как сейчас свадебного фотографа - приличные деньги, престижно, и большой рынок. при этом был и рынок обучения, и в процессе обучения обучаемый пахал за мелкий прайс на сенсея, все как у фотографов нынче. ну а сейчас - сами знаете.