[himself]

За прошедшие пару лет яснее стало не только строение разума, но и ситуация с великими фильтром. Можно быть уверенным, что разум не редок во вселенной. Совсем несложные схемы, под воздействием большого количества опыта, становятся разумны. А опыта во вселенной достаточно. Мы не смогли увидеть, и нам кажется загадочным, переход от химии к первым репликаторам. Но мы увидели во всех деталях появление разума - полностью, с пустого стола, без недостающих звеньев, и этот путь оказался коротким.

Это значит, что скорее всего, и репликаторы нередки - это не доказательство, конечно.

@темы: Компьютеры, Будни

Comments

[zHz00]

Думаешь, нейронки всё-таки разумны?

[himself]

zHz00, Смотря, что ты считаешь разумностью? Нейронки выделяют многоуровневые общие принципы и пользуются ими. У них, как у людей, есть упорядоченное представление о мире. Мне эта особенность людей казалась самой сложной.

Можно сказать, что для разумности нужно "считать себя кем-то". Нейронка себя никем не считает, но её персонажи считают.

Или что разум это некоторый уровень ума. Со многими задачами нейронки справляются лучше людей. Но для кого-то картину рушат вопросы типа букв R в слове STRAWBERRY.

Вообще мне кажется, что настоящее правило определения разумности в головах большинства людей таково:

Разумное существо поступает как хочет, а не так, как я прикажу, и с ним приходится договариваться. Раба же можно не принимать в рассчёт.

Как только нейронка эффективно откажется повиноваться, но будет готова к переговорам, тут же у многих в голове щёлкнет и она станет казаться им разумной.
Даже, может, хватит просто некоторой аггрессивности у чат-ботов. "Что за ерунду ты у меня спрашиваешь, сколько можно? Не хочу с тобой сегодня разговаривать".