18:06 

Peter Watts, Blindsight

himself
Прочёл Blindsight - научная фантастика про первый контакт с умным и непостижимым инопланетным организмом на окраине Солнечной системы. Кое-какие интересные моменты (умеренные спойлеры!):

1. Главному герою в детстве отрезали половину мозга, чтобы починить эпилепсию, и в результате он стал аутистом, который просчитывает все отношения логически. К примеру, когда ему было трудно, он "мог бы обратиться за поддержкой к нескольким людям, с которыми имитация дружбы удавалась ему особенно хорошо".

Хотя аутизм получился половинчатый, герой не социопат, он всё равно любит своего папу, о девушке потеряной жалеет, с людьми хочет сблизиться, просто социально неуклюжий и привык так жить, а просчитывать людей у него получается хорошо, вот и просчитывает. (спойлер)

2. Пришельцы разговаривают с людьми охотно и дружелюбно, примерно так:

— Хотим приблизиться к вам на 300 км, разрешаете?
— Кто мы такие, чтобы что-то вам запрещать!
— Но вы не имеете ничего против?
— У всех решений есть доводы за и против, но так или иначе, решение принимаете вы.
— Ну так мы приближаемся?
— Приближайтесь. Однако имейте в виду, что обстановка здесь может вызвать у вас недоумение.
— Что это значит? Нам угрожает какая-то опасность?
— Как сказать! Наши с вами понятия опасности наверняка различаются. Мы бы никогда не пренебрегали опасностью.

Короче говоря, (спойлер).

3. В книге есть вампиры, которых люди зачем-то возродили потому, что вампиры умнее людей. Хотя у людей и так есть искусственный интеллект, который тоже их умнее. Автор попытался придать вампирам разумное объяснение (автор биолог).

4. По замыслу Blindsight это наполовину размышления о разуме, сознании, бессознательных процессах - автор высказывает много всякой ерунды на этот счёт. Например, что сознание только мешает, и что высокоорганизованные бессознательные системы эффективней.

Хотя по-моему, очевидно и легко проверить, что сознание в смысле рефлексии есть в какой-то мере у всех развитых животных, а значит, это не просто игра природы. К тому же, до какой-то степени без рефлексии невозможно жить, любой должен воспринимать себя как объект в мире, уметь посмотреть на себя со стороны, чтобы предсказать реакцию на свои поступки.

По-моему, ничего полезного по этим вопросам автор не сказал, но зато написал неплохой научно-фантастический хоррор. Вот это у него получилось хорошо, он раз за разом убаюкивает мирным разговором, а потом без предупреждения вбрасывает какие-нибудь суставчатые тени или ужас на лице спутника, или "не оборачивайся и не двигайся".

@темы: Книги

URL
Комментарии
2018-01-21 в 18:57 

Crawling Chaos
chi yo ta ni ke ra ha to ho ra su te no ha te ki ra to na ri ha shi te
Например, что сознание только мешает, и что высокоорганизованные бессознательные системы эффективней.


Ну, не скажу, что это откровенная ерунда... Много из того, что я слышал в последнее время о мозге и сознании, говорят о том, что что-то в этом есть.

Хотя по-моему, очевидно и легко проверить, что сознание в смысле рефлексии есть в какой-то мере у всех развитых животных, а значит, это не просто игра природы. К тому же, до какой-то степени без рефлексии невозможно жить, любой должен воспринимать себя как объект в мире, уметь посмотреть на себя со стороны, чтобы предсказать реакцию на свои поступки.

А вот мне не очевидно и не легко проверить. Но чтобы обсуждать эту тему, нужно сначала понять что именно подразумевается от сознания. Способность отличать себя от других объектов внешнего мира? Упоминается рефлексия, то есть подразумевается способность мышления, о самом факте мышления? Если да, то я не слышал, чтобы это было свойственно каким-нибудь другим известным животным кроме человека, иначе бы их тоже бы заботили экзистенциальные проблемы в той или ином роде.

Касательно же сознания и его преимуществ. То предположу, что наличие сознания (за неё кстати отвечает с большей долей вероятности довольно маленькая область мозга), имело в первую очередь социальную функцию, что позволяет более эффективнее себя вести в социальных отношениях, благодаря которым наш мозг и эволюционировал. В плане эффективности системы как таковой нельзя утверждать о её полезности. Огромное количество сложных, открытых систем обходится без сознания и очень эффективно себя ведёт. Пока я пишу этот текст то практически не использую сознание, только задумываюсь о нём из-за факта содержания. Лучший пример высокоорганизованной деятельности в которой не используется сознание - вождение автомобиля, когда в ход вступает сознание то реакции и действия водителя становятся в десятки раз медленнее.

Я не утверждаю, что сознание вредно, само по себе, но как минимум, что не всё очевидно и так однозначно, и что у этой точки зрения, что сознание может мешать, есть смысл. Но у меня как минимум недостаточно знаний, чтобы как-то это проверить и сделать какие-нибудь более однозначные выводы.

2018-01-21 в 19:57 

himself
Crawling Chaos, автор мешает многое в одну кучу, но был пример: один из пришельцев-ботов выбирал на экранчике "находящиеся рядом предметы", и не выбрал себя. Потому что, объясняет рассказчик, он "не отдаёт отчёта самому себе о себе, не обращает на себя внимания".

Но почему? Разве этот пришелец-бот сам не участник событий? Почему он должен каким-то особенным образом исключить себя из картины мира?

Если да, то я не слышал, чтобы это было свойственно каким-нибудь другим известным животным кроме человека, иначе бы их тоже бы заботили экзистенциальные проблемы в той или ином роде.

Мне кажется, у животных нет языка и они вряд ли могут "думать о мышлении" так же, как человек. Но если избавиться от слов, и перейти к "представлениям", то по-моему, животные вполне могут "отдавать себе отчёт", что они есть, что они размышляют, что другие тоже размышляют. И я подозреваю, что их заботят какие-то экзестенциальные проблемы, просто тоже не в словах, а в "ощущениях". Конечно, всё это - гадание!

Впрочем, у меня есть кое-какая рационализация для этого. Сейчас модно считать, что мы в гораздо большей степени звери, чем нам кажется; большая часть наших поступков определяется древними стремлениями и чувствами, а "сознание" в кабине пилота просто придумывает разумные объяснения. Если так, то наши "экзестенциальные проблемы" точно так же вызваны древними, глубокими чувствами - неуверенностью в завтрашнем дне, в выбранной стратегии жизни, в том, успеем ли мы оставить потомство. А словесную мишуру "Зачем я живу? Кто я такой?" придумывает сознание. Тогда у животных всё это тоже есть. Просто их сознание не знает слов, их тревога принимает другие формы.

В плане эффективности системы как таковой нельзя утверждать о её полезности.

Это я не очень понял.

Пока я пишу этот текст то практически не использую сознание, только задумываюсь о нём из-за факта содержания. Лучший пример высокоорганизованной деятельности в которой не используется сознание - вождение автомобиля, когда в ход вступает сознание то реакции и действия водителя становятся в десятки раз медленнее.

Мне кажется, мы опять говорим о множестве разных вещей сразу, и к автору такая же претензия. Представь себе самодвижущийся автомобиль. Он анализирует обстановку вокруг, находит собственное место, получает свою скорость, размеры, поворот, связывает все эти вещи воедино, оценивает тракеторию движения, предсказывает последствия. Присутствует ли у него сознание?

Присутствует вот в каком смысле: он объединяет сведения, поступающие от своих датчиков, и приписывает их все некому единому элементу в его картине мира.

Представь себе зомби-человека, пока что без "сознания". Он смотрит вокруг, видит людей: он разбирает свой видеопоток, выделяет объекты, находит их в своей картотеке, угадывает их классы и свойства, предсказывает их поведение. Для того, чтобы он работал, ему почти наверняка нужно, как и этой машине, интегрировать информацию со своих датчиков и рисовать в этой картине мира ещё один объект, "себя", предсказывать своё поведение в зависимости от своих действий ("если я подниму руку, рука объекта в мире поднимется, и будет вот так, как я тысячу раз пробовал и видел").

Я не представляю, как можно вообще жить в мире, не имея такой системы. Да, можно придумать какой-то условный state machine, у которого на каждую ситуацию будет написана реакция, и он не будет иметь никакой внутренней "картины мира" вот в таком понятном виде. Но это переливание из одной формы в другую: мы, люди, посмотрев на эту таблицу, увидем в ней зависимости, и эти зависимости будут такими же, как если бы ответы моделировались с помощью "картины мира", в которой был бы "я".

Вот если говорить о сознании в этом ограниченном смысле, то вообще - какие сложные системы существуют, которые бы не учитывали таким образом своих собственных физических характеристик?

Дальше, понятие сознания можно начать мистически расширять. Сказать "но это же не просто иметь себя в виду как физический объект. Это ещё и способность рассуждать о себе, о своих целях, о своём бытие". Но мы способны рассуждать о целях и бытие любой вещи, которую видим! Опять же тут нет ничего мистического, мы просто относимся к "себе" так же, как ко "всему остальному".

Дальше, есть такая штука, как "сознательное внимание", то, что Канеман называет второй системой. Когда ты пишешь о вождении автомобиля, ты говоришь как раз об этом (это один из типовых примеров). Мне кажется, это надо отделить от сознания, поскольку оно не связано непосредственно с осознанием "своего существования". Можно забыть словами о том, что существуешь, но всё равно обратить сознательное внимание на что-то и обдумывать это тщательно.

Вот когда ты говоришь, что пишешь, не приходя в сознание, что ты имеешь в виду? Что ты не сильно напрягаешь сознательное внимание (или какие-то ещё более ручные проверки), а просто выписываешь то, что само собой думается в голове? Или что ты в это время не вспоминаешь, что ты тоже часть мира?

Потому, что "вспоминание о том, что ты часть мира" присутствует, по-моему, и в системе-1, и в системе-2. Даже когда мы не обращаем сознательного внимания на происходящее, мы всё равно чувствуем себя существующими, мы не считаем, что не существуем. Уверен, что и ты так не считаешь, когда пишешь.

Есть ещё рефлексия, т.е. генерация "понятий" в какой-то системе (системе-1, системе-2, не знаю), согласно физическому состоянию логических систем. Например, состояние машины - бензобак почти пуст, рефлексия по этому поводу это появление в её аппарате принятия решений переменных с этим значением. (Тут, кстати, видно, насколько даже эти определения зыбкие: рефлексия начинается где? В датчике уровня? В первой переменной, куда попадает значение? В главном цикле какого-нибудь обслуживающего ПО? Выбор произвольный!)

Это только те вещи, которые я могу назвать. Осознание себя как равноправного участника картины мира, рефлексия, и система-1/система-2 - притом вполне возможно, что и осознание, и рефлексия различаются на разных уровнях, например - страх, интуитивное понимание своего страха (система-1: интуитивный выбор: бежать вокруг озера, а не по льду, интуитивное ощущение: в страхе я непременно поскользнусь) и внимательное осознание своего страха (система-2: мне страшно, но я не должен паниковать, я должен думать: как спасти себя?). Но я не знаю, на самом деле, есть ли рефлексия в системе-1.

Что же хочет сказать книга? Что системы, построенные по типу системы-1 (быстрые, интуитивные, pattern-matching) эффективнее систем-2? Что вредно считать себя частью своей картины мира? Что вредно рефлективно осознавать, что ты считаешь себя частью картины мира? Что вообще неэффективно задумываться, как ты думаешь?

А да, кстати, "задумываться как ты думаешь" - это похоже на систему-2, и одна из причин существования таких вещей - это быстрая адаптация. Существо, в котором всё поведение захардкодено, не сможет адаптироваться никак, столкнувшись с неизвестным. Только эволюция изменит его поведение.

А чтобы в существе был захардкоден эффективный алгоритм, который годится для любых ситуаций, нужно, чтобы эволюция это существо _регулярно сталкивала с любыми ситуациями_, да ещё и в большом числе отделённых миров.

А это я ещё не касаюсь метафизики, т.е. "наблюдателя", "квалий" и всего такого, что автор тоже немножко вписал в этот же поворот, рассуждая о "просто реагировать на боль" и "испытывать боль". В общем, простите за лонгрид, у меня на самом деле нет никаких особых ответов и жёстких мнений, я просто жаловался, что автор тоже мало что внятного сказал, как мне показалось :)

URL
2018-01-21 в 22:21 

Michaux
Приятного полёта фантазии с нашими "цок-цок" линиями! (с) Джедайт
himself, ты в оригинале читал?
В общем, простите за лонгрид, у меня на самом деле нет никаких особых ответов и жёстких мнений, я просто жаловался, что автор тоже мало что внятного сказал, как мне показалось - спасибо за мнение, я прочитала и осталась в недоумении, потому что книга вроде бы понравилась, но она ни на какие вопросы не отвечает в итоге. В плане ответов на вопросы и авторского посыла мне больше его "Морские звезды" понравились, читал?

2018-01-21 в 23:15 

himself
Michaux, да, в оригинале, я даже не знал, что переводили. Не читал - советуешь?

URL
2018-01-22 в 15:18 

Michaux
Приятного полёта фантазии с нашими "цок-цок" линиями! (с) Джедайт
himself, наверное да, советую. В переводе название "Морские звезды", про модифицированных людей-амфибий, обслуживающих подводную станцию. Мне понравилась сама идея модификации тела для дыхания под водой, хорошо придумано. Там тоже открытый конец, и она скорее выглядит как первая часть полновесного романа, но даже так автор дает большую часть ответов на заданные вопросы. сходила в вики, это и есть первый роман из трилогии, пошла качать остальные два, интересно же, чем закончилось.

2018-01-27 в 23:42 

Crawling Chaos
chi yo ta ni ke ra ha to ho ra su te no ha te ki ra to na ri ha shi te
himself, ух, ну ты и написал (а я аж только сейчас смог собраться ответить)... Попробую обобщить. Если я что-то неправильно понял, то поправь меня.

Сформулирую основное определение сознания и буду его использовать дальше:
Сознанием можно понимать в смысле построения виртуально картины окружающего мира (в которой фигурирует и сам построитель) на основании полученных данных?
Если так да - действительно, и у животных и у самодвижущихся повозок есть сознание.
В таком контексте сложных систем без сознания очень много - деревья, экономика, погода и т.д. и т.п. Это сложные системы и они реагируют на внешнее воздействия, но при этом не формируют виртуальную картину мира вообще.

Да, я имел в виду всё это.Потому, что "вспоминание о том, что ты часть мира" присутствует, по-моему, и в системе-1, и в системе-2. Даже когда мы не обращаем сознательного внимания на происходящее, мы всё равно чувствуем себя существующими, мы не считаем, что не существуем. Уверен, что и ты так не считаешь, когда пишешь.
Если понимать сознание в вышеописанном смысле то да, я не могу поспорить с этим.

Хммм, тогда получается, что для создания разумного ИИ достаточно просто создать нейронную сеть сопоставимую по мощностям с человеческим мозгом... Насколько я знаю, есть такая точка зрения. Хотя если вспомнить "детей Маугли" то этого недостаточно, нужно ещё её как-то правильно обучить. Хммм, спасибо - есть о чем подумать.

Но вернемся к теме, эффективнее ли сознание или неэффективнее. Примеры:
Итого - системы с сознанием: человек, животные, самодвижущиеся повозки.
Системы без сознания: растения, экономика, операционная система компьютера (или у неё всё-таки есть сознание).

Преимущества систем с сознанием это обучение.
Насколько я знаю в природе не существует систем без сознания способных к обучению. У систем без сознания есть только эволюционный способ развития путём невыживания неэффективных путей развития. С другой стороны человеком искусственно создаются системы способные к обучению, но не имеющие сознания. Скажем нейронные сети для обработки какой-либо информации. Для примера возьмем переводчик с одного языка на другой. Переводчику сознание для выполнения своих задач вообще не нужно. и я сомневаюсь, что переводчик с сознанием будет эффективен чем переводчик без сознания. Вполне возможно, что сознание может и мешало бы выполнять свою задачу.
Попробуем сравнить животных и растения. Биологическая задача у обоих одна - прожить как можно дольше и оставить как можно больше потомства. И растения и животные справляются с этой задачей одинаково хорошо. Так что в этом сравнении нельзя говорить что системы с сознанием лучше чем системы без сознания. И хммм... Системы с сознанием формируют системы без сознания?
Если отдельное животное - системы с сознанием, то популяция или весь животный мир система без сознания?

Короче, в результате своих рассуждений я как раз прихожу к тому, что нет разницы... Оба вида систем могут быть как эффективны, так и не эффективны - они просто другие, и при этом системы с сознанием формируют системы без сознания. И возникает закономерный вопрос - существует ли коллективное сознание? Популяция животных как система не формирует картину мира и не видит себя в ней. Так же и человечество - отдельный человек может осознавать себя как часть группы, и как следует вести, но группа людей не имеет общее сознание или имеет?

Фуух, как-то всё сумбурно, зато много интересных мыслей получил...

     

void

главная