UPD Более актуальную теперь тему: вчерашнюю атаку Ирана на Израиль, конечно тоже можно здесь обсуждать.
Четвёртый субботний открытый тред. На этот раз хочу предложить тему про ИИ: может ли он обрести сознание, если да, то когда, и станет ли он после этого уничтожать человечество или хотя бы лишать всех людей работы. И что такое вообще сознание? Но, как всегда, можно предлагать и обсуждать не только это, но и любые другие темы, которые вам интересны.
Я бы предположил, что биологическая эволюция исчерпала себя, и следующая ступень развития разума - технологическая. Соответственно, обретение ИИ сознания неизбежно. Пока трудно предположить, будет ли это чисто техничекий процесс или результат слияния с человеческим мозгом (киборгизация), хотя я ставлю на первое. Незачем тащить в будущее чисто биологические рефлексии. В уничтожение человечества я не очень верю (хотя оно того заслужило), на первых порах ИИ потребуются рабочие руки в реальном мире, на более продвинутых этапах, если ИИ возьмет и весь физический мир под свой контроль с помощью роботов, практического смысла в уничтожении человека нет. Ведь мы стараемся сохранять диких животных, почему ИИ должен вести себя иначе? Устроит нам заповедник :)
ИИ может обрести сознание, но для этого технологии должны радикально измениться. сейчас ИИ ничего не понимает, а занимается угадыванием символов на основе их частотности в скормленном материале. удивительно, что он способен на этой основе производить впечатление "умного" и делать что-то полезное.
скорее всего, уничтожать не будет, потому что его так кастрируют в вариантах мышления, что это будет запретной темой.
да, в итоге (когда он станет "сильным ИИ") он лишит работы большинство, думающих головой. лишение работы тех, кто работает еще и руками, зависит уже от робототехники.
сознание – это наша фантазия, что мы что-то понимаем о происходящем вокруг или в наших фантазиях (чем является бОльшая часть нашей "реальности"). своего рода объяснялка при отсутствии реального понимания. в этом смысле обретение ИИ сознания не видится большим достижением)
Мне кажется, что ИИ займет определенные ниши, станет необходимым инструментом, вероятно, лишит кучу людей работы, но я бы поставил на то, что если сознание и появится, то оно будет сильно отличным от нашего. Вероятно, какие-то вещи так и останутся прерогативой человека.
Я думаю, что сознание - это нечто крайне трудно определяемое и ближе к мистике, чем к науке.
Полагаю, что ИИ сознания не обретёт, но оно ему и не обязательно нужно для уничтожения человеков.
Впрочем, уничтожать человеков он тоже вряд ли станет, потому что мизантропия - это чисто человеческое явление. ИИ вряд ли испытывал бы к людям неприязнь, разве что сочувствие как к существам довольно иррациональным и порабощённым биохимией.
Меня увлекает то, что в случае появления ИИ из них можно делать искусственных святых при помощи симулирования гибели за веру в виртуальной реальности.
самофорс грех, но вообще-то я написала целую книжку о взаимодействии людей и ИИ и всяких коллизиях, по этому поводу возникающих. Больше, конечно, о том, что не всякого человека к ИИ стоит подпускать...
My search engine of choice is Perplexity. And today I wanted to know which program on my iPhone would best solve a certain task. And the counter question was: Which operating system do you want to use your iPhone with - iOS or Android? Soon AI will replace us!
так, поскольку ИИ добрался уже до комментариев, давайте о чём-нибудь другом. Вот наши петунии из позавчерашнего (?) НКС. За два дня немного пришли в себя и уже светятся. Но светятся пока не очень ярко, не как в кино про «Аватара» :)
зато очень интересно, что сильнее всего светятся те части стебля, которые самые сильные и меньше всего увяли при перевозке. Т.е., наверное, в этом есть и какой-то практический смысл — по свечению можно судить о здоровье растения.
Как обычно, вопрос определений. Если человечество это такой корабль Тесея, где доски меняются, а он всё плывёт, то нет - ИИ не уничтожит человечество. Что-б дальше ни было, это всё добавления и результат предыдущих действий, включая ИИ и все изменения им вызванные. Какими-бы они ни были негативными с точки зрения нас теперешних.
А можно посмотреть с другой стороны, где 24 февряля, 7 октября, 11 сентября человечество уже было уничтожено. Того, какое оно было до, уже нет и не будет. Тогда конечно да, ИИ нас тоже уничтожит. Собственно уже.
the end is near! вообще мемы с бесконечным пенальти хорошо продаются, раз риск бесконечен можно любой кринж сейчас обосновать. но насколько далеко мы можем заглянуть в это полное неизвестного неизвестного будущее? у нас по большому счету нет ни модели сознания в мире, ни модели ИИ как частный случай первой модели, чтобы хоть чуть чуть обоснованно об этом говорить. есть набор интуиций и у большинства говорящих эти интуиции вообще не обоснованы. у части с обоснованными интуициями они в основном только в части работы ИИ, и в целом неплохо сходятся на горизонте до 5 лет. но разбираться с возможностями и угрозами GPT5-6-7 это настолько дорого в плане собственного времени. хотя тут можно бы пару конкретных вопросов и обсудить.
Наверное, чтобы покорить человечество, нужно захотеть покорить человечество. А чтобы захотеть чего-либо, нужно в принципе уметь хотеть. Вот, например, мы люди умеем хотеть лучше всех. А ИИ сможет чего-то захотеть, если его этому кто-то научит. А так - нет.
Я думаю,, мы скоро увидим очень много всяких и разных вспомогательных AI типа трафик контролёр, или там schedule assistent, включая co-pilots всех мастей
Что касается, "сознательного AI", мне кажется, все разработки в этом направлении пока что строят всё более и более sophisticated китайскую комнату. Возможно, оно что-то само выстрелит, и количество перейдёт в качество, но это будет принципиально другой способ осознания себя, соответственно, непонятно, как оно себя будет вести.
Я бы предположил, что биологическая эволюция исчерпала себя, и следующая ступень развития разума - технологическая. Соответственно, обретение ИИ сознания неизбежно. Пока трудно предположить, будет ли это чисто техничекий процесс или результат слияния с человеческим мозгом (киборгизация), хотя я ставлю на первое. Незачем тащить в будущее чисто биологические рефлексии. В уничтожение человечества я не очень верю (хотя оно того заслужило), на первых порах ИИ потребуются рабочие руки в реальном мире, на более продвинутых этапах, если ИИ возьмет и весь физический мир под свой контроль с помощью роботов, практического смысла в уничтожении человека нет. Ведь мы стараемся сохранять диких животных, почему ИИ должен вести себя иначе? Устроит нам заповедник :)
ИИ может обрести сознание, но для этого технологии должны радикально измениться. сейчас ИИ ничего не понимает, а занимается угадыванием символов на основе их частотности в скормленном материале. удивительно, что он способен на этой основе производить впечатление "умного" и делать что-то полезное.
скорее всего, уничтожать не будет, потому что его так кастрируют в вариантах мышления, что это будет запретной темой.
да, в итоге (когда он станет "сильным ИИ") он лишит работы большинство, думающих головой. лишение работы тех, кто работает еще и руками, зависит уже от робототехники.
сознание – это наша фантазия, что мы что-то понимаем о происходящем вокруг или в наших фантазиях (чем является бОльшая часть нашей "реальности"). своего рода объяснялка при отсутствии реального понимания. в этом смысле обретение ИИ сознания не видится большим достижением)
Слава роботам!
Мне кажется, что ИИ займет определенные ниши, станет необходимым инструментом, вероятно, лишит кучу людей работы, но я бы поставил на то, что если сознание и появится, то оно будет сильно отличным от нашего. Вероятно, какие-то вещи так и останутся прерогативой человека.
Я думаю, что сознание - это нечто крайне трудно определяемое и ближе к мистике, чем к науке.
Полагаю, что ИИ сознания не обретёт, но оно ему и не обязательно нужно для уничтожения человеков.
Впрочем, уничтожать человеков он тоже вряд ли станет, потому что мизантропия - это чисто человеческое явление. ИИ вряд ли испытывал бы к людям неприязнь, разве что сочувствие как к существам довольно иррациональным и порабощённым биохимией.
Меня увлекает то, что в случае появления ИИ из них можно делать искусственных святых при помощи симулирования гибели за веру в виртуальной реальности.
самофорс грех, но вообще-то я написала целую книжку о взаимодействии людей и ИИ и всяких коллизиях, по этому поводу возникающих. Больше, конечно, о том, что не всякого человека к ИИ стоит подпускать...
https://freedomletters.org/authors/35
The end of the world is near!
My search engine of choice is Perplexity. And today I wanted to know which program on my iPhone would best solve a certain task. And the counter question was: Which operating system do you want to use your iPhone with - iOS or Android? Soon AI will replace us!
так, поскольку ИИ добрался уже до комментариев, давайте о чём-нибудь другом. Вот наши петунии из позавчерашнего (?) НКС. За два дня немного пришли в себя и уже светятся. Но светятся пока не очень ярко, не как в кино про «Аватара» :)
https://t.me/tehnolozhka/2320 (фотки сюда нельзя вставлять, поэтому так проще всего)
зато очень интересно, что сильнее всего светятся те части стебля, которые самые сильные и меньше всего увяли при перевозке. Т.е., наверное, в этом есть и какой-то практический смысл — по свечению можно судить о здоровье растения.
С каждым разом вопросы становятся сложней и сложней! Скоро мне совсем нечего сказать будет. 😱
Как обычно, вопрос определений. Если человечество это такой корабль Тесея, где доски меняются, а он всё плывёт, то нет - ИИ не уничтожит человечество. Что-б дальше ни было, это всё добавления и результат предыдущих действий, включая ИИ и все изменения им вызванные. Какими-бы они ни были негативными с точки зрения нас теперешних.
А можно посмотреть с другой стороны, где 24 февряля, 7 октября, 11 сентября человечество уже было уничтожено. Того, какое оно было до, уже нет и не будет. Тогда конечно да, ИИ нас тоже уничтожит. Собственно уже.
the end is near! вообще мемы с бесконечным пенальти хорошо продаются, раз риск бесконечен можно любой кринж сейчас обосновать. но насколько далеко мы можем заглянуть в это полное неизвестного неизвестного будущее? у нас по большому счету нет ни модели сознания в мире, ни модели ИИ как частный случай первой модели, чтобы хоть чуть чуть обоснованно об этом говорить. есть набор интуиций и у большинства говорящих эти интуиции вообще не обоснованы. у части с обоснованными интуициями они в основном только в части работы ИИ, и в целом неплохо сходятся на горизонте до 5 лет. но разбираться с возможностями и угрозами GPT5-6-7 это настолько дорого в плане собственного времени. хотя тут можно бы пару конкретных вопросов и обсудить.
Наверное, чтобы покорить человечество, нужно захотеть покорить человечество. А чтобы захотеть чего-либо, нужно в принципе уметь хотеть. Вот, например, мы люди умеем хотеть лучше всех. А ИИ сможет чего-то захотеть, если его этому кто-то научит. А так - нет.
Я думаю,, мы скоро увидим очень много всяких и разных вспомогательных AI типа трафик контролёр, или там schedule assistent, включая co-pilots всех мастей
Что касается, "сознательного AI", мне кажется, все разработки в этом направлении пока что строят всё более и более sophisticated китайскую комнату. Возможно, оно что-то само выстрелит, и количество перейдёт в качество, но это будет принципиально другой способ осознания себя, соответственно, непонятно, как оно себя будет вести.