Статьи
Pause Giant AI Experiments: An Open Letter
Открытое письмо Илона Маска и группы товарищей о том, что всем разработчикам продвинутого ИИ нужно срочно взять полугодичную паузу, чтобы спокойно продумать меры безопасности. Это, возможно, было бы хорошей идеей, если бы паузу действительно взяли все. Но этого не случится, потому что чем больше разработчиков возьмёт паузу, тем привлекательнее для остальных, начиная от китайского правительства и заканчивая никому не известными владельцами крупных криптоферм с большой вычислительной мощностью, станет идея использовать эти полгода, чтобы вырваться вперёд и стать лидером рынка — с уже совсем непредсказуемыми последствиями. Разработка ИИ — это как езда на велосипеде: велосипед горит, и ты горишь, и всё горит и мы в Аду остановиться уже невозможно, нужно продолжать крутить педали в надежде, что нам удастся проскочить опасный поворот.
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
Pausing AI Developments Isn't Enough. We Need to Shut it All Down
Ответ самой главной и древней ИИ-Кассандры, Элизера Юдковского, на письмо Маска, в котором Юдковский совершенно справедливо указывает, что полугодичная пауза ничему не поможет, и взамен выдивигает ещё менее реальное предложение прекратить разработку ИИ совсем, отслеживать каждый проданный GPU и бомбить страны, отказывающиеся присоединиться к соглашению.
Юдковский начинает с сюсюканья по поводу своей маленькой дочки, которая может никогда не стать взрослой, а заканчивает угрозами превратить нарушителей предлагаемой им конвенции в радиоактивную пыль. По сути, под предлогом опасности ИИ, он предлагает ввести глобальный антитехнологический тоталитаризм.
Идея, что для спасения Земли от научно-технического прорыва, делающего общедоступными очень опасные технологии, может понадобиться построить глобальное полицейское государство, озвучивается некоторыми рационалистами, к которым принадлежит и Юдковский, уже давно. Один из лидеров движения Ник Бостром писал, что в подобных случаях придётся установить за каждым жителем Земли круглосуточное видеонаблюдение.
Но я первый раз вижу, чтобы подобные идеи публиковали в крупных СМИ, в данном случае в TIME. Многим политикам подобные предложения могут очень понравиться и они захотят попробовать. В конечном итоге своей цели они не добьются, но по дороге могут наломать много дров. Поэтому такие идеи настораживают меня куда больше, чем прогресс искусственного интеллекта.
https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/
Japan's Hometown Tax
Очень увлекательная статья на вроде бы очень скучную тему — особенности японской налоговой системы.
Оказывается, весьма существенную часть подоходного налога в Японии составляет местный налог. У человека, получающего среднюю зарплату, он составляет почти половину от его налоговых выплат.
В других странах все местные налоги уходят городу, где ты живёшь, но не в Японии. Поскольку большинство японцев, выросших в маленьких городках, потом уезжают работать в Токио и другие мегаполисы, и эти городки не получают никакой компенсации за то, что тратили муниципальные деньги на их образование и другие нужды, японские власти в 2006 году решили, что люди по желанию могут отдавать до 40% своего местного налога не городу, где они живут, а своему родному городу.
При этом у системы есть три интересных особенности.
Во-первых, это опт-ин, чтобы платить налоги родному городу, тебе нужно написать специальное заявление.
Во-вторых, налоги отчисляются не автоматически. Ты должен лично перевести нужную сумму в бюджет родного городка, а на следующий год тебе вычтут эту сумму из твоих налогов.
Из-за этого в первые годы работы системы ей воспользовалось очень мало людей.
Но есть и в-третьих: поскольку ты мог родится в одном городке, ходить в детсад в другом, а в школу — в третьим, часто бывает сложно определить, какой город для тебя родной. Поэтому японское правительство не стало с этим заморачиваться, а просто разрешило отправлять этот налог в любой город по своему выбору.
Это привело к поразительному результату, который правительство вряд ли предвидело.
Маленькие городки у которых всегда сложности с бюджетом начали стимулировать своих земляков перечислять им налоги, посылая им знаки благодарности. Сначала городки просто посылали тем, кто переводил им деньги, в благодарность местные продукты и другие сувениры, но вскоре они поняли, что можно заманивать к себе и людей, которые никогда не имели к ним отношения, и начали активно зазывать к себе налогоплательщиков с помощью рекламы и обещать им подарки дороже, в том числе и завуалированные откаты деньгами — японское законодательство запрещает перечислять налогоплательщикам деньги, но муниципалитеты быстро нашли способ обходить это ограничение с помощью подарочных сертификатов, которые можно обналичить за небольшую комиссию.
В результате к нынешнему дню в Японии сложилась целая бизнес-системы по распределению местного налога, включающая рекламные агентства, посреднические конторы, которые ищут для муниципалитетов налогоплательщиков и берут себе комиссию, и даже зарабатывающих на этом интернет-гигантов вроде местного отделения Yahoо.
Откаты достигли таких масштабов, что правительству пришлось законодательно ограничивать их 50% от налога. Но отменять эти систему никто не собирается, потому что ей довольны все, кроме муниципалитета Токио и ещё пары крупных мегаполисов (которые тоже не особо возражают, потому что могут себе это позволить). Налогоплательщики получают обратно порядка 50% от местного налога, да ещё и помогают маленьким городкам по своему выбору. Городки, даже со всеми комиссиями и откатами, получают хоть какие-то деньги там, где иначе не получали бы никаких. Бизнес, который вырос вокруг этой системы, получает прибыль.
И даже правительству хорошо: во-первых, ему не нужно давать городкам дотации, а во-вторых, собирание этого налога, в отличие от всех остальных, почти ничего не стоит: сложившаяся вокруг него конкурентная бизнес-среда с радостью покрывает все возможные административные расходы.
https://www.kalzumeus.com/2018/10/19/japanese-hometown-tax/
A Devastating Moment of Clarity in Ukraine
Ещё одна статья в стиле “всё пропало“, но на этот раз не про ИИ, а про Украину. Обещанные танки исчезают на глазах, промышленность США не справляется с производством снарядов, санкции не действуют. С одной стороны, дум и глум бывают полезны для того, чтобы встряхнуть засыпающих политиков и заставить их активнее помогать Украине. С другой, мне кажется, что автор излишне сгущает краски и подбирает факты, которые вписываются в его картину, игнорируя другие. Например, цитирующаяся автором популярная статья о том, что из России ушло всего 8.5% западных фирм, ещё месяц назад оказалась фейком, который с фактами в руках разоблачили специалисты из Йельского университета, следящие за тем, какие компании ушли из России, а какие там ещё работают — хотя на разоблачение почему-то никто не обращает внимания. Информация о том, что Россия закупает больше полупроводников, чем год назад, тоже неточная — Россия не закупает больше полупроводников, она больше платит за полупроводники, а объёмы закупок, наоборот, снизились, и качество закупаемых полупроводников упало. Что касается танков — возможно (хотя не факт), их дадут меньше, чем обещали месяц назад, но ещё два месяца назад все были уверены, что западных танков Украине в обозримое время вообще не видать. Так что, возможно, на самом деле всё сильно лучше, чем кажется автору.
https://www.tabletmag.com/sections/news/articles/devastating-moment-clarity-ukraine
How the free media were duped by a fake pro-Putin list of Western companies still doing business in Russia a year into the Ukraine invasion
То самое разоблачение швейцарского исследования, где утверждается, что всего 8,5% западных компаний ушло из России.
Авторы Йельского регистра компаний, ушедших и оставшихся в России, утверждают, что швейцарцы соврали, причём, очевидно, сознательно. В их список "западных компаний" включено огромное количество российских фирм и даже российских физических лиц.
На самом деле из компаний, которые считали швейцарцы, больше половины не западные, а 46% — и вовсе российские. Западных компаний в этом списке только 43%.
При этом действительно западные компании включены в список очень выборочно. Сотни западных компаний, ушедших из России, включая такие крупные, как Boeing, Amazon, Citigroup и т.д. авторы списка просто "забыли".
Интересно, что информация о 8.5%, разошлась в интернете просто отлично, о швейцарском исследовании написали почти все западные СМИ. А вот опровержение расходится очень плохо.
Our Think Tank Sparked Mass Protests in Israel. We Proudly Stand By Our Ideas
Статья авторов части предложений израильской юридической реформы о том, зачем она была нужна и в чём она состоит. Если они не искажают факты, то реформа выглядит вполне скромной и действительно необходимой.
Existential risk, AI, and the inevitable turn in human history
Текст Тайлера Коуэна о том, что паника по поводу ИИ бесполезна и мы должны принять риск. По сути Коуэн пишет, что мы уже в любом случае не можем остановить запущенный маховик развития ИИ, поэтому нам надо его возглавить. Не могу сказать, что текст очень убедительный, потому что он вполне совпадает с моими собственными взглядами. Не уверен, что он убедит тех, с чьими взглядами он не совпадает.
MR Tries The Safe Uncertainty Fallacy
Скота Александера, который всегда был ИИ-алармистом, текст не убедил. Он делает вид, что спорит с Коуэном, но на самом деле он спорит с соломенными человечками, даже не упоминая об основных выдвигаемых Коуэном аргументах. Очень разочаровывающий текст, самый слабый из всех, что я читал у СА. Но, к счастью, и самый короткий.
Response to Tyler Cowen's Existential risk, AI, and the inevitable turn in human history
Ещё один ответ Коуэну, на этот раз гораздо лучше: на этот раз автор действительно отвечает ему, а не соломенному человечку. И он действительно находит несколько слабых мест в аргументах Коэна: я даже согласен с частью критики. Но, с моей точки зрения, все эти слабые места относятся не к основному аргументу Коуэна, а к его риторическому сопровождению. Там, где автор пытается спорить с основным аргументом, возражения, на мой взгляд, звучат гораздо слабее. И, главное, автор повторяет три тезиса ИИ-алармистов, которые по-моему ничем не подкреплены и не из чего не вытекают, а второй из них так и просто не подкреплён никакой логикой. 1. Ценности ИИ наверняка не будут совпадать с нашими. 2. Для достижения своих целей ИИ потребуется нас уничтожить. 3. Даже если он нас не уничтожит, мы потеряем контроль над нашим миром, и наша жизнь станет гораздо хуже.
Я мог бы поспорить здесь со всеми тремя тезисами и, особенно, со вторым, но лучше я попробую написать об этом статью.
The age of average
Статья о том, что за последние три десятилетия всё в мире унифицировалось, от домов и автомобилей до фильмов и рекламных слоганов. С убедительными и местами очень смешными примерами.
Автор не пытается ответить на вопрос, почему так произошло, а просто говорит читателям, что у них есть отличный шанс выделиться на этом ставшем гомогенным фоне.
Думаю, он прав. 150 лет назад в Австро-Венгрии, единственной действительно либеральной империи, которая давала представителям подчинённых ей народов те же самые права, что и коренным немцам, тоже была полнейшая унификация — очевидно не потому, что она насаждалась сверху, а потому, что жители разных частей империи постоянно обменивались опытом и перенимали практики соседей. Если вы посетите любой небольшой городок в Австрии, Чехии, Венгрии, Словакии, Словении, Хорватии, Галиции, Буковине или Триесте, вы знаете, что все они выглядят очень похоже, хотя их жители говорят на разных языках. Не из-за спущенных сверху указаний. Итальянские архитекторы работали в Австрии, австрийские в Чехии, чешские в Венгрии, венгерские в Италии и так далее, по кругу. Но в начале 20-го века из этой унификации появилось огромное количество выдающихся и ни на кого не похожих звёзд мировой науки и культуры. Ни одна другая страна в первой половине 20-го века не дала миру столько новых идей, сколько Австро-Венгрия. Так что во всеобщей унификации нет ничего принципиально нового, но она действительно даёт шанс потенциально новому проявить себя на общем гомогенном фоне.
https://www.alexmurrell.co.uk/articles/the-age-of-average
Are Aircraft Carriers Obsolete?
Автор детально и довольно убедительно спорит с популярным тезисом, гласящим, что современные ракеты делают авианосцы уязвимыми и бесполезными. Правда, он предлагает строить другие типы авианосцев, но и с нынешними их типами его аргументы работают не многим хуже.
https://austinvernon.site/blog/aircraftcarrier.html
Scene creation engines and apprenticeships
Подробная статья о том, почему шведские композиторы сейчас пишут такую гигантскую долю американских поп-хитов. Первая на моей памяти попытка разобрать этот вопрос системно. Автор описывает несколько факторов, которые в совокупности привели к нынешнему успеху шведов в США, и его аргументы выглядят очень убедительно. И, главное, некоторые из приводимых им причин достаточно легко реализуемы в любом обществе, причём даже без государственной помощи (которая, судя по статье, сыграла в шведском феномене большую роль, хотя и совершенно не ту, которую планировало государство, когда её выделяло). Как мне кажется, статья хорошо подтверждает моё мнение о роли личности в истории: историю двигают именно личности, но для того, чтобы они могли это сделать, нужны благоприятные предварительные условия: в этой истории есть ключевой человек, без которого никакого засилья шведских композиторов в американском попе по всей вероятности не было бы. Но и этот человек не смог бы добиться и десятой доли того, чего он добился, если бы брошенные им семена не упали в хорошо подготовленную до него почву.
Даже если вы сделаете из статьи другой вывод, или не сделаете вообще никакого, статья всё равно интересная, рекомендую её даже тем, совсем не интересуют шведские композиторы и американская поп-музыка.
Próspera’s Progress Report: Growth, Innovation, and Community Building
Отчёт от команды чартер-сити Проспера о продвижении их проекта. Продвижение очень впечатляющее. Я был уверен, что после смены власти в Гондурасе проект тихо заглохнет, но он вместо этого активно развивается. Я прямо начинаю верить, что у основателей всё получится.
The Story Behind Germany's Embarrassing Intelligence Leak
История о том, как ФСБ в прошлом году завербовала шпиона в BND. Довольно просто завербовала. Но история интересная.
https://archive.is/xses7#selection-4198.2-4198.5
How Rust went from a side project to the world’s most-loved programming language
История создания и развития модного языка программирования Rust. Довольно интересно.
Taking a Look at the Recent Batch of Systems Programming Languages
So Many New Systems Programming Languages II
Основные общие характеристики и короткое описание новых языков программирования, в которых основной упор делается на безопасность исполнения программ. Познавательно.
https://colinsblog.net/2023-03-13-safe-systems-languages/
https://colinsblog.net/2023-03-22-systems-languages-details/
Книги
Ninefox Gambit by Yoon Ha Lee ― 4+
Фантастический роман с интересной, но не новой (давным-давно описанной, например, Лемом) концепцией вселенной, локальные законы которой зависят от действий населяющих данный участок космоса людей. В данном случае — от используемого ими календаря.
К сожалению, эта тема в романе фактически не развита, и я чуть было не бросил его после пятой главы, так как основной сюжет развивался слишком медленно, но, к счастью, не бросил — с шестой главы колёса сюжета завертелись, стало интересно, и я дочитал книгу до конца.
Сюжет у романа не менее интересный, чем концепция, но развит гораздо лучше: чтобы подавить восстание еретиков в важном форте Империи в голову перспективного офицера (или перспективной, так как это женщина) подселяют хранящуюся “в заморозке“ душу физически давно умершего генерала, лучшего стратега вселенной, который не проиграл ни одной битвы, но сошёл с ума и во время одного из сражений сознательно и полностью уничтожил не только противника, но и собственную армию. С тех пор тела у него уже нет, а разум держится в заключении, потому что она кажется правителям Империи (это коллективная теократия) слишком ценной, чтобы её убивать. Героиня пытается привыкнуть к сосуществованию с гениальным но безумным стратегом в одном теле, руководит с его помощью сражением с еретиками и начинает подозревать, что генерал вовсе не так безумен, как все считают.
Это, наверное, первая книга из “официальной” фантастики последних лет, которая мне понравилась (до этого мне очень понравился самиздатовский There’s No Antimimetic Division Сэма Хьюза) — ни Питер Уоттс, ни Энди Вейр, ни, тем более, Энн Леки меня не впечатлили, так что я уже даже начал думать, что мне вообще не стоит читать современную фантастику. Но теперь я как минимум попробую прочесть сиквел.
Сериалы
The Last of Us ― 3
Я знаю, что сериал ругают за необоснованные (точнее, обоснованные только политкорректностью) изменения сюжета и персонажей культовой компьютерной игры, по которой он снят. Я в игру не играл и к этому у меня претензий нет, политкорректность там наблюдается, но, по-моему, не зашкаливает. К чему у меня есть претензии, так это к тому, что сериал слишком похож на компьютерную игру. Не ту, по которой он снят, а на абстрактную компьютерную игру. Очень предсказуемый сюжет (если есть корень, на который нельзя наступать, потому что иначе проснутся зомби, на этот корень непременно наступят через 15 минут экранного времени), плоские персонажи, скучное однотипное Зло, в которое нужно просто стрелять. Я посмотрел три серии и бросил. Не то чтобы прямо сознательно бросил, а просто не нашёл в себе интереса продолжать. Человек, мнению которого я доверяю, досмотревший сериал до конца, сообщил мне, что в следующих сериях лучше не становится. Хотя снято очень профессионально.
Фильмы
Puss in Boots: The Last Wish — 5
Внезапно посмотрел мультфильм и внезапно мне очень понравилось. И сюжет, и то, как он сделан, и, что самое странное — мораль. Такая классическая мальчиковая мораль из мультфильмов старых полнометражных мультфильмов, какую, я думал, сегодня уже больше не делают. Вероятно, просто мне не попадалось.
Spider-Man: Homecoming ― 3+
Внезапно посмотрел фильм про Спайдермена 2017 года. Не понравилось. Сюжет уже совсем для подростков, злодей какой-то убогий, Джон Уоттс совсем не Сэм Рейми, да и Том Холланд не такой харизматичный актёр, как Тоби Магуайр. Когда он играл Спайдермена как героя второго плана в фильмах про Мстителей, это не так бросалось в глаза, но когда он стал главным героем, это сделалось очень заметно. Жалко, что Рейми с Магуайром уже не вернут.
Подкасты
Conversations with Tyler: Yasheng Huang on the Development of the Chinese State
Это, как ни странно, был первый раз, когда я слушал подкаст Тайлера Коуэна, и мне не понравилось. Если судить по этому эпизоду, он довольно посредственный интервьюер: не выстраивает сюжет диалога, а просто задаёт интересующие его вопросы в случайном порядке. А вот гость интересный, автор популярных книг про китайский капитализм. Беседа с ним могла бы быть куда более увлекательной, но и так было несколько хороших моментов: например, мысль, что многовековая система государственных экзаменов примерно с 16-го века оставила Китай без независимых мыслителей, потому что все лучшие умы собирало своей сетью государство, не давая им при этом развиться.