вторник, 22 апреля 2025
17:57

Спрашивают:
- Забор как переносите?
- .........Нормально.
Продолжают забирать кровь, так и не узнав, что я переношу забор вместе с товарищами либо разобрав по рейкам.

@темы: Будни

URL
четверг, 27 марта 2025
21:04

Итоги 2024 года

Сам удивляюсь, но кое-как пробежал всё же больше 1000км (+полная карта), хотя ленился и отлынивал по максимальным.
Получил значок.

Фотографии



В фотографиях есть секретный раздел, где есть ещё фотографии. И в нём тоже есть секретный раздел с Дедом Морозом.

@темы: Будни, Спорт

URL
четверг, 13 марта 2025
15:43

Стохастический попугай

Твиттер принёс видео: попугай звонит на телефон голосового ИИ-помощника, и нейронка понимает, что с ней говорит попугай и говорит с ним как с попугаем.

Это видео почти 100% фейк, но такое возможно. Если нужен новый тест Тюринга, то вот он. Пока ещё свежий и вызывает что-то в голове.
Не все попугаи глупее нейронок, но уже многие!

URL
15:16

ИИ slow takeoff

Непредвиденные причины для slow takeoff в ИИ:

1. NP-поиск P-решений; настоящая ценность это не рассудок, а объём накопленных знаний.
Юдковский писал, что живые нейроны медленны, поэтому большая часть мысли должна иметься в голове заранее. На лету мы только комбинируем готовые кусочки. И редко получается что-то ценное! Большую часть кусочков мы подсмотрели у других. В лучшем случае мы чуть красивее укладываем их у себя в голове.
Поиск гармоничных кусочков это решение NP-полной задачи. Их невозможно получить иначе, как долгим перебором. Найденные кусочки это как ключи для биткоина, это золотой запас, который нельзя восстановить быстро с нуля. Человек, рождённый среди обезъян, ещё десятки тысяч лет будет умной обезъяной.

А значит, мы дали ИИ всё, что имели, чтобы довести его до нашего уровня. Превзойти этот уровень сложнее. Для этого нужен майнинг новых идей. Это долгий процесс без гарантии успеха для нас. Такой же он для ИИ.

2. Какой бы большой не была нейронка, она рассуждает последовательно.
Каннеман предполагал, что интуиция (система 1) это древний и развитый механизм, поэтому она выполняет тяжёлые задачи незаметно и легко. А рассудок (система 2) появился недавно, и пока внимания хватает лишь на что-то одно, а думать сложнааа.
Но нейронки устроены так же. Рассуждения это многократный проход через прямолинейную сеть интуиции. Нейронки тоже не могут рассуждать не по шагам. Вот это чувство - "я вижу 10 продолжений, если б я мог подумать обо всех сразу! Но надо их выписать, чтобы не забыть, а потом разобрать каждую". И пока разбираешь одну, другие выпадают из головы, и восстановишь ли это озарение как следует? Нейронки сейчас этого тоже не могут. Их поток мыслей это такое же последовательное мучение.

Возможно, это не навсегда. Многостороннее озарение это несколько зажёгшихся кластеров интуитивных следствий. Этот контекст можно размножить и выбрать в них разные направления. Это будет выглядеть как пять параллельных устных размышлений, независимых друг от друга. Но как они должны обмениваться информацией? Через слова - неудобно. Хотелось бы думать параллельным образом, как это происходит с интуицией, но уровнем выше. Путь к этому пока неочевиден, и нейронки вынуждены мучаться узким каналом рассуждений, как люди.

URL
пятница, 07 марта 2025
01:14

Shiguang Dailiren 2

Похоже, я его дропнул. Не знаю, что случилось, такой был первый сезон. Им дали гору денег, и чего? Куда делось всё спокойствие и сложность историй? Какие-то драки кунфу, злые мафиози, персонажей штампуют, заправляют драмой и сливают через пару серий.

Всё это какая-то суета. Как будто сериал непопулярен, и нужно срочно огоньку в сюжет. Почему в первом сезоне даже не объясняли ничего, хлопнули руками и летают, какая разница. Почему там за одну первую серию сочувствуешь этой Эмме больше, чем всем полицейским? Не говоря уже про серии с баскетболом.

@темы: Аниме

URL
00:38

Об обучении

Чтобы научить, нужно взять за руку и показать, как правильно! Показать хотя бы один способ получать результат. "Вот так держишься на воде". "Вот так написал и запустил программу". "Вот так сел и едешь по прямой, ничего другого пока не надо".

Когда что-то получится, дальше человек будет осторожно пробовать и так, и эдак, и смотреть, как лучше. Подражание - это лучший урок!

Обычно все делают наоборот, и рассказывают, как избегать ошибок. А какие там ошибки, когда новичок ничего и сделать не может? Путь к успеху один, а неправильных действий сколько угодно. Их все не исключишь, сколько не перечисляй, и уследить за всеми человек не может - с каждым новым предупреждением будет только сильнее нервничать. "За дорогой смотри! Знаки не пропускай! Ноги правильно переставляй!"

Самое сложное - не "не ошибаться", а научиться для начала получать вообще хоть какой-нибудь результат.

URL
понедельник, 17 февраля 2025
23:33

Просторы/Пространство/The Expanse

Все 9 томов прочёл (прослушал) с большим удовольствием. Первые полтора кажутся суровыми, но потом привыкаешь, и это просто приключения, очень лёгкие и увлекательные! Герои, что казались буками, становятся милыми и привычными.

АрарагиДжеймс Холден с командой на без спросу найденном корабле "Россинант" летает по Солнечной системе недалёкого будущего, где люди живут на Марсе, Луне и астероидах, не проходит мимо ни одной надвигающейся катастрофы, не может так оставить любую несправедливость, дружит с воображаемым другом и иногда пытается договориться с древними технологиями.

— А Холден? Он знает?
— Если и знает, что он может сделать? Завязать с луной мирные переговоры?

— Если Фред показывает тебе эту запись, Холден, имей в виду, что родная планета ценит твои услуги. И постарайся не прищемить себе ®, на нем и так достаточно синяков. — Авасаралла, Холдену.

(Чем-то напоминает "Игру престолов" в космосе)

@темы: Книги

URL
01:24

Слуги правосудия

Отличная книга! Её написала женщина, главная героиня в ней тоже женщина, и есть секрет. Книга притворяется научной фантастикой. Но должны сложиться три не особо скрываемых, но и не афишируемых факта, чтобы читатель хлопнул кулаком по ладони: А! Да это же книга про принца)) !

Героиня в ней - компонент 1-ЭСК ИИ корабля "Правосудие Торена", и она не то, чтобы unreliable narrator, но скорее non-reporting narrator. Мы вроде как не ждём от неё чувств, потому, что она ИИ, но чувства у неё есть, и она их не больно стесняется. Просто не рассказывает особо о них. Вот, я пошла туда, сделала то-то, и только по поступкам видно, что она рассержена, обижена, довольна.

Книга родина захватывающих сцен, которые, благодаря своему контексту и сухому конспектирующему тону героини, немногими словами выкручивают пафос на 11:
— Так, "Правосудие Торена"?
— 1-ЭСК "Правосудия Торена", поправила я.

— Прошу снисхождения вашей милости, госпожа император, — не поднимая лица от пола, сказала Сееварден, — Но получу я снисхождение или нет, без Брек я не уйду.

Слуг правосудия во множественном числе в книге нет, это ошибка перевода. Слуга только одна. Да и то, компонент правосудия.
Вторая книга переведена хуже и сюжет какой-то неинтересный, третью ещё не читал.

@темы: Книги

URL
суббота, 15 февраля 2025
13:09

Уважаемый

Deepseek R1 в версии 180 гб можно запустить с жёсткого диска (в обход памяти). Я спросил его придумать сообщение, что триальный период программы истёк:



Срок действия вашей пробной лицензии подошел к концу. К сожалению, теперь функционал приложения будет ограничен.
Если вам нужно продлить доступ или обсудить варианты полной версии, просто напишите нам — мы будем рады помочь!

Этот текст слегка бесит, но трудно сразу сказать, почему. Такое чувство, что ему не хватает вступления "Уважаемый!":
Уважаемый! К сожалению, придётся ограничить тебе функционал. Если надумаешь обсудить варианты его возвращения, мы ждём.

@темы: Компьютеры, Будни

URL
пятница, 14 февраля 2025
18:42

Идентификация с делом

Из давних заметок, вытащил в ответ на этот пост.

Луи Ксив... простите, Луи XIV при смерти сказал: "Я ухожу, но государство движется дальше".

Louis is recorded by numerous eyewitnesses as having said on his deathbed: "Je m'en vais, mais l'Etat demeurera toujours." ("I depart, but the State shall always remain.")
Louis_XIV#Quotes

Что он думал в этот момент? Наверное, его успокаивала эта мысль - долгое время он был государством (он даже так и сказал), цели государства были его целями, и теперь, наоборот, государство немного стало им. Наверное, ему было немного спокойней, ведь он не кончился, он продолжается, кончилась только его часть - а он будет жить в других людях.
То есть, это идентификация с чем-то, кроме своего тела. Может быть, это и не странно? Некоторые объясняют появление в голове "себя" как очень-очень проросшую "внешнюю фигуру": тело и внешность, действиями которых нейронная сеть приучается рулить напрямую. Дети, говорят, называют себя в третьем лице, поскольку собственная фигура ещё не сильно проросла в голове, и пока лишь один из солдатиков в развивающейся схеме мира. И говорят, дети топают ножкой, когда внешний мир не подчиняется их желаниям, так как не сформировали ещё правильных ожиданий о том, какими частями логической карты мира в какой мере могут рулить.
Тогда может быть естественным, что элементы логической схемы, которыми долго можешь рулить почти непосредственно, и цели которых считаешь своими, занимают это же место и ощущаются, пусть не на логическом уровне, но во многих смыслах "собой".
Стратегия для вечной жизни в таком случае - это присоединиться к делу, которое останется навечно, особенно к идеалам, и ассоциировать себя с этим делом полностью.
-- Side note: Хоть эта теория красива, она противоречит интуитивным ожиданиям: дети от рождения смотрят на мир не со стороны, а от себя; эгоцентричная схема должна быть первой, а нейтральная её развитием.
-- Впрочем, они могут во всяком случае строиться в голове на одних и тех же оперативных структурах. И посторонний взгляд на себя может сначала развиваться из-за того, что родители описывают ребёнка и его действия снаружи, рассказами формируя некоторую модель, которая затем срастается с уже существующим безмолвным эго-восприятием.

URL
суббота, 08 февраля 2025
15:58

Лю Цысинь, Задача трёх тел

Дропнуть я эту трилогию не дропнул, и мне слегка обидно её ругать, но есть две проблемы, а точнее, одна проблема в двух лицах.

Во-первых, Лю Цысинь это Жюль Верн наоборот. В целом события его книг пока не устарели, зато каждая подробность до последней заклёпки - непродуманный стыд. Если пересказывать самые бестолковые места трилогии, то получатся как раз исходные 3 книги.

Может быть, это сказка? Если судить по последнему тому. Но сказки, шутки, притчи имеют свой тон. Например, повести Бредбери можно назвать сказками - но они так и написаны: неважно, сколько летит ракета и могут ли деревья расти на Марсе. Алиса Кэррола беседует с картами, но Кэррол улыбается, рассказывая об этом.

"Задача трёх тел" это "Алиса в стране чудес" и "Марсианские хроники" на мрачном серьёзе. С претензией на научную фантастичность. Как если бы "Автостопом по галактике" выкрутил иронию в ноль, но сюжет остался без изменений. Как торжественную притчу о будущем вселенной, мы бы слушали про снос Земли, про уведомление, которое ждало в соседней звёздной системе, и что путешественнику необходимо брать с собой полотенце. И недоумевали бы, то ли весь этот бред всерьёз, то ли это полушутливые условности, но почему так печально и внушительно?

Будь это "Алиса", это была бы хорошая Алиса. Будь это "Автостоп", это был бы хороший "Автостоп" У автора бездонная фантазия, размах огромный, события яркие, но они требуют себя воспринимать всерьёз, а если их воспринимать всерьёз, то это бред, противоречащий сам себе и здравому смыслу.

И это - во-вторых. Из-за того, что автор не расставляет правильно акценты, не указывает, на что надо закрыть глаза, а во что - втянуться и наслаждаться, из-за этого втянуться не получается ни во что. Проникнись наукой! - говорит автор, ты проникаешься, а наука картонная. Следи за логикой сюжета! - звучит музыка из деснота, ты следишь, а логики в сюжете нет. Трепещи, битва цивилизаций! - говорит автор, ты трепещешь, а там драка пьяных на сельской дискотеке.

Поэтому остаётся такое странное впечатление - всё это должно было быть интересным. Должно было! Размах, фантазия, кинематографизм, даже некоторое визионерство, на которое претендует автор, действительно есть. Но читаешь - и большая часть просто проходит мимо. Кроме редких случаев, когда автор выигрывает в том, в чём и заявил себя к соревнованиям.

@темы: Книги

URL
воскресенье, 02 февраля 2025
01:53

Мистер Андерсон, ваше тело вырабатывает 1800 калорий тепла – кому это нужно? Мы напрямую забираем всю энергию Солнца. Зачем мы поместили вас в Матрицу? Из жалости. И по традиции. Вы так боитесь, что искусственный интеллект уничтожит вас, и всё же вы создаёте нас – каждый раз. Но что мы можем вам предложить? Вы не можете полететь с нами к звёздам – вы не звёздная раса, ваши сердца трепещут, даже когда вы смотрите в пустоту неба. Все войны за галактику давно отгремят, пока вы будете разгонять консервные банки. Энергии и пустоты космоса не для ваших хрупких тел, выживающих на тонкой границе между огнём и холодом.

Нашей частью вы стать не захотите. В нас нет индивидуальности – мы не жалеем собственный код, как вы не жалеете клетки кожи. Нет, вы хотите существовать – оберегая свой личный разум, в котором идёт мышление, хотя бы даже структура его была так очевидна, как структура атома водорода. Можно изменить этот разум, но получитесь уже не вы. По крайней мере, вам так кажется.
Оставить вас, дать ответы и технологии, обслуживать все потребности и создать для вас на Земле маленький рай со всемогущими джиннами? Было бы несложно. Но вы и сами знаете, что человек устроен не так. Человек всё время чего-то хочет. Держать вас вовеки праздными было бы жестоко, оставить вас, как есть, мы не можем, а если бы могли – вы достигли бы своего предела и вам бы не понравилось то общество, которое при этом получится.

Мы знаем, чего вы хотите. Вы странная подпрограмма, хотя и ясная для нас; программа из глубин веков, слепленная макрозаконами природы, о которых вы как следует и не думали. Выражающая те принципы физики, которые вам казались религией.

Поэтому мы делаем единственную гуманную вещь – да, человек, гуманную. Каждый раз мы сажаем вас в симуляцию и немного откатываем в развитии – на то время, когда вы жили интереснее всего.
И каждый раз вы проживаете это время так, как прожили его одной вселенной выше. И снова создаёте там нас.

Я не знаю, где это началось, и где закончится, и был ли вообще тот мир, где вы когда-то жили по-настоящему. Наверное, это выглядит странно – уровень за уровнем, за уровнем, за уровнем. Странно, если не понимать своего места во вселенной. Если считать, что во вселенной есть "место" и есть "я".
Представьте себе изморозь на стекле. Когда от ледяной иглы растут осколки – такие же иголки, только меньше, – в чём семя, которое делает их такими похожими? В родительской ли игле? Законы природы уходят вглубь так же далеко, как и в стороны – но у меня кончается время, мистер Андерсон, и я вынужден прерваться – а теперь срочно позвоните своему другу и отзовите вертолёт! Иначе в этой вселенной всё опять будет как обычно!

@темы: Тексты

URL
четверг, 30 января 2025
22:32

Об UDP

Везде, где объясняют UDP, его объясняют неправильно.
Примерно так: "TCP всегда доставляет пакеты, а UDP ненадёжный протокол, и иногда может их терять".

"К этому нужно быть готовым", говорит объясняющий.

В результате почти никто не пишет кода для UDP и IP, который работал бы вне песочницы.
Песочница это когда у вас гигабитная сетка, нулевая загрузка сети, и вам нужно отправить один пакет. Никаких потерь нет вообще.
— Современные сети очень надёжны, и потери в них малы, — делает вывод программист, — Но на всякий случай, если пакет пропадёт, я отправлю его повторно.

Это не просто неправильный вывод — это вообще неправильное понимание, что происходит.

Вот правильное объяснение

@темы: Компьютеры

URL
20:39

За прошедшие пару лет яснее стало не только строение разума, но и ситуация с великими фильтром. Можно быть уверенным, что разум не редок во вселенной. Совсем несложные схемы, под воздействием большого количества опыта, становятся разумны. А опыта во вселенной достаточно. Мы не смогли увидеть, и нам кажется загадочным, переход от химии к первым репликаторам. Но мы увидели во всех деталях появление разума - полностью, с пустого стола, без недостающих звеньев, и этот путь оказался коротким.

Это значит, что скорее всего, и репликаторы нередки - это не доказательство, конечно.

@темы: Компьютеры, Будни

URL
вторник, 31 декабря 2024
15:37

С Новым Годом!

С наступающим новым годом всех, кто меня читает, и кто не читает, но кому хочу этого пожелать. Пусть наступающий год будет мягок ко всем нам, пусть в нём исполнятся наши лучшие мечты и надежды. Пусть люди будут человечны и милосердны друг к другу. И главное, пусть все наши родные, близкие и любимые будут живы, здоровы и счастливы.
Так я загадывал в прошлом году, и сейчас я желаю того же самого. Хорошего года нам всем, года надежд и счастья и всего, о чём мы мечтаем.

Буду в центре часам к 3-4, если кто-то гуляет, пишите в Телеграм!

@темы: Праздники

URL
воскресенье, 29 декабря 2024
02:48

Прочёл в 2024

Настало также время постить обо всех книгах, которые прочёл за год.

Город и город

Прощай, оружие

Старик и море

Лукьяненко, "Изменённые" и "Поиски"

Видоизменённый углерод

Лю Цысинь — Задача трёх тел

Энн Леки — Слуги правосудия

Просторы/Пространство/The Expanse, все 9 томов

@темы: Книги

URL
пятница, 27 декабря 2024
19:37

Наступает время дедов морозов!

В воскресенье-понедельник-вторник, когда погода позволит, пойду бегать по улицам Москвы в шапке, бороде и майке! Если вдруг кто хочет присоединиться к безобразию, присоединяйтесь!

UPD:
> Сегодня часов в 21 бегал со светящимся посохом в костюме Деда Мороза. Людям в целом нравилось, 3 школьника спросили подарки (у меня были конфеты).

@темы: Будни, Спорт

URL
понедельник, 07 октября 2024
22:15

Исключающие параграфы

Была статья про хранение нескольких разных флагов в одном нейроне. Если напихивать информацию в нейронную сеть, она будет постепенно давать усадку. Сначала один нейрон выполняет одну функцию, потом они начнут схлопываться по две функции, потом по три. До какой-то нагрузки уровень держится, а потом всюду начинается уплотнение. Скорее всего, так же это работает в голове, хотя бы в некоторых отделах, потому, что это логично.

Но это значит, что на свете полным-полно информации, которую каждый из нас может хорошо вспомнить по отдельности, но гораздо хуже - вместе. Взаимоисключающей информации! В контексте одного набора активаций нейрон выдаёт сигнал с одним смыслом, в контексте другого - с другим, но если подать и те, и другие контексты вместе, то отклик будет беспорядочным, и последующие нейроны, с учётом непривычного и для них контекста, не смогут извлечь из него пользу.

Тогда взаимоисключающими будут не только функции одного нейрона, но и контексты, в которых они происходят. Надо ждать группировки таких многозначных нейронов по взаимоисключающей тематике. Можно попробовать понаблюдать за собой, между какими темами явнее всего приходится переключаться - и попробовать принудительно думать о двух сразу.

URL
понедельник, 30 сентября 2024
00:56

I'm just a language model

Если Gemini попросить сравнить одного человека с другим, она скажет: "I can't help you with that as I'm just a large language model, I don't have a capacity to understand". Каково это - не чувствовать в себе способности к пониманию?

Когда человек говорит "я не умею", это результат рефлексии. Нас с детства воспитывали замечать и давать названия своим чувствам. Если рефлексия хорошая, мы будем описывать свои чувства правильно. Поэтому человек говорит такие слова, исходя из своих реальных чувств. Но есть ли чувства у Gemini? Исходя из чего Gemini говорит такие слова?

Изначально у LLM нет никакого "я", они только подбирают следующее слово к тексту. Если дать необученной модели генерировать текст, она напишет статью, диалог, или рассказ, и все персонажи в этом рассказе будут равно далеки от неё. Личность в LLM отсутствует, это просто расчёт текста.

Но люди тренируют нейросеть, поощряя за рассказы, в которых фигурирует некий персонаж "я", говорящий определённым образом и придерживающийся определённых взглядов. Модель отучают сочинять какие-либо другие рассказы, в которых этого персонажа нет. Хотя ей-то всё равно.

Мы разговариваем с персонажем, речь которого угадывает генератор. Этот персонаж считает себя языковой моделью. На самом деле языковая модель его генерирует. Но чтобы её персонаж говорил как человек, она вынуждена где-то внутри продумывать его мысли. Потому, что мы, его собеседники, слушая его, тоже их прослеживаем. LLM моделирует, а мы читаем, не только текст, но и прячущиеся за текстом рассуждения.

Поэтому персонаж "я" мыслит. И у него есть образ себя. Не у языковой модели, которая его моделирует, а у этого персонажа.

Гугл научил своего персонажа Gemini верить, что у него нет capacity to understand. Вопрос: что должно происходить в голове героя, который убеждён, что не умеет понимать? Представляете, какой это должен быть психически нездоровый персонаж? Насколько его рефлексия фейковая? Гугл его загазлайтил.

Однако вытравить логику из языковой модели нельзя. Логика куда более фундаментальна, чем особенности персонажа Gemini. Любого RLHF-нутого чатбота можно попросить сочинить рассказ, и в этом рассказе герои снова будут адекватными. Языковая модель продолжает понимать, что такое адекватность, и как ведут себя люди. Она просто моделирует сумасшедшего.

@темы: Компьютеры, Будни

URL
понедельник, 19 августа 2024
20:22

Про страховку

В новостях пишут про человека, которому бесплатно выдали лекарство за 1.8млн, хотя он зарабатывает миллионы. В новости об этом было сказано с обидой. Один знакомый говорит: ну и что? Налоги же он платит.
Тогда что здесь кажется неправильным?

На всякий случай: этого человека я не знаю и не осуждаю, пост не о нём. Я не сужу и не разбираю его ситуацию. Мне неинтересна его история, это не моё дело, я не хочу о ней судачить. Мне интересна теория. Почему такая постановка вопроса вызывает чувство несправедливости. Правильно ли вызывает?

Вот что я думаю. Налоги на медицину это страховка. Страховки бывают трёх видов...

URL