Нечеловеческая цивилизация. Версия первая: Общество программ

Финам.FM, Будущее где-то рядом 11/01/2009 20:05

Гость: АНАТОЛИЙ ЛЕВЕНЧУК - президент компании «TechInvestLab. Ru».

НЕКЛЕССА: Добрый вечер, господа! В эфире программа «Будущее где-то рядом» и ее ведущий Александр Неклесса. Ну, и вот будущее действительно где-то рядом; мы пересекли некоторую символическую линию, и попали в наше, назовем его так, ближайшее будущее, поскольку говорить мы сегодня, наверное, будем все-таки не об этом ближайшем будущем 2009 года, а о будущем несколько более объемном. И сегодня гость в студии – очень интересный человек, сразу скажу – Анатолий Игоревич Левенчук. Добрый вечер, Анатолий.

ЛЕВЕНЧУК: Добрый вечер!

НЕКЛЕССА: Рад вас видеть у нас.

ЛЕВЕНЧУК: Добрый вечер, слушатели! Добрый вечер, ведущий!

НЕКЛЕССА: А тема передачи – я ее вот как-то так сразу с содроганием попытаюсь  произнести – «Нечеловеческая цивилизация. Версия первая: общество программ». Попытаемся мы с вами поговорить о том, куда мы идем. Знаете, пойти туда – не знаю, куда, принести то – не знаю, что. И проблема: что нас ждет? Не при переходе к новому 2009 году, а к каким-то другим ориентирам. В разговоре можете принять участие также и вы, господа радиослушатели, если воспользуетесь телефоном прямого эфира, позвонив нам по телефону: 730-73-70. Или для тех, кому позвонить окажется сложно – телефон московский, а, как я знаю, нас уже слушают в других городах, и для некоторых других городов оказывается это время даже полуденным или утренним иногда, – вы можете воспользоваться сайтом finam.fm, если вы слушаете тем более нас по этому сайту: finam.fm. Пять букв finam.fm, никакого ru. Finam.fm, и fm – это Федерация Микронезии, место регистрации домена. Анатолий, позволю себе взять быка за рога. Давайте поговорим об этом самом будущем, которое не в 2009 году…

ЛЕВЕНЧУК: В год быка – сразу за рога.

НЕКЛЕССА: Да, совершенно верно. Так вот, я хотел спросить, какой ориентир вы видите для будущего, где наша цивилизация претерпит достаточно существенную трансформацию? Вот идут разговоры о некоей точке сингулярности, которая реет над человечеством. И интересно, что разговоры об этом ведутся в достаточно разных профессиональных сообществах: об этом говорят люди, профессионально занимающиеся информатикой; об этом говорят люди, занимающиеся демографическими процессами, социальными, политическими. И вот есть некоторая точка какая-то, она даже во временных параметрах… Вот, кстати, интересно, как вы видите эти временные параметры и какая у вас дата этой точки? Что это за точка и что это за цивилизация, которая развернется по ту сторону этой точки? Насколько она будет человеческой? Прошу.

ЛЕВЕНЧУК: Ну, во-первых, по определению сингулярность – это та самая точка, где уже непонятно, дальше будет человечество или не человечество. Во-вторых, ближайшая дата называется 2023 год. Дальше действительно идет дата 2032 год.

НЕКЛЕССА: Какая точность!

ЛЕВЕНЧУК: И последняя – 2056 год. А дело в том, что это все не я придумываю, это данные разных исследователей. Они называют разные такие цифры, и понятно, что это, конечно, примерные точки. Сингулярность не наступит так, что вот утром мы проснулись – вот уже все другое. А она, знаете, как водичка…

НЕКЛЕССА: За окном города уже нет.

ЛЕВЕНЧУК: Она как чай закипает: вроде бы еще не закипела, но вроде бы уже кипит ключом, но что произошло в середине, никто не понимает.

НЕКЛЕССА: Вы знаете, Анатолий, оборачиваешься на какое-то количество лет назад и тоже не понимаешь, как оно было и как оно стало. И вроде бы притом все происходило достаточно постепенно.

ЛЕВЕНЧУК: Я еще помню, когда девушек приглашали под городские часы, потому что встреча-то была под часами. И нельзя было опаздывать, и нельзя было ошибиться с местом встречи. Почему? Потому что ни у кого не было сотовых телефонов.

НЕКЛЕССА: Но были билеты в кино при этом и букет цветов.

ЛЕВЕНЧУК: Ну, букет цветов и сейчас остался. Замечу, что мы уже дарим и виртуальные цветы. Мы дарим нарисованные цветы во многих и многих социальных сервисах. Функция та же самая, только стоят дешевле – примерно один доллар штучка.

НЕКЛЕССА: Знаете, как? Здесь, боюсь, что достаточно грозная перспектива: девушка тоже может оказаться виртуальной, если продолжить эту логику.

ЛЕВЕНЧУК: Совершенно верно. Так время от времени и оказывается. И вообще не девушкой может оказаться. Лучшая на эту тему карикатура – это как собачка сидит, клацает по клавиатуре и говорит рядом стоящей кошечке: «Интернет – это великое изобретение, никто даже не догадывается, кто мы такие».

НЕКЛЕССА: Так вот, этот нечеловеческий аспект цивилизации. Года произнесены: 2023, 2032, 2056 годы, если я правильно запомнил. Но что они означают? Что все-таки изменится настолько существенно, что заставляет выделить эти временные точки, временные позиции?

ЛЕВЕНЧУК: Формально Вернер Виндж, который, собственно, и придумал всю эту сингулярность, назвал ее так и популяризовал в некоторой мере, - это писатель-фантаст. Но он сказал, что рано или поздно будет изобретен искусственный интеллект, то есть это практически программное обеспечение, которое будет работать на обычных компьютерах. «Но,- говорит он – точно так же, как любой человек, если была возможность, он бы улучшал себя, искусственный интеллект может улучшать себя. Но поскольку это программа, то фактически это сводится к переписке программы». И что происходит? Мы получаем программу, которая обладает интеллектом среднего человека, вот такого же, как мы, думает примерно так же. Это нетрудно. Конечно, калькулятор умножает числа много легче, чем мы, но с трудом распознает образы. Но уже компьютер и образы распознает. И вот дальше-дальше, больше-больше, и вот мы получаем уже программу, которая в среднем все информационные операции, которые мы делаем, включая логику, математику, делает примерно так же, как мы.

НЕКЛЕССА: Понимаете, это слово «примерно» немножко даже не настораживает, а пугает, потому что…

ЛЕВЕНЧУК: Пугает, потому что двух одинаковых людей нет, поэтому эту норму и не определишь.

НЕКЛЕССА: Я боюсь, что даже между австралийскими аборигеном и работником той сферы, в которой работаете вы, в силу разных психологических конструкций, но, тем не менее, может быть, можно найти намного больше общего, чем с теми субъектами действия, о которых вы ведете речь. Я позволю себе формализовать мое понимание того, что вы только что произнесли, то есть возникают беседующие программы, между собой общающиеся…

ЛЕВЕНЧУК: Это необязательно.

НЕКЛЕССА: Интеллектуальные… Общаясь с информационной средой.

ЛЕВЕНЧУК: Но на самом деле откуда-то эта программа должна черпать знания?

НЕКЛЕССА: Да, совершенно верно.

ЛЕВЕНЧУК: Например, прямо обращаться к Интернету и брать информацию, которая есть, залезать в книжный фонд…

НЕКЛЕССА: Совершенно верно, то есть общаясь.

ЛЕВЕНЧУК: Может быть, общающаяся, может быть, не общающаяся, только читающая, но, скорее всего, и общающаяся тоже.

НЕКЛЕССА: Чтение – это тоже род общения. Она читает, ее опознают.

ЛЕВЕНЧУК: Если читать может, то сказать точно может.

НЕКЛЕССА: Ее опознают в этот момент.

ЛЕВЕНЧУК: Сказать точно может. Почему? Сказать много труднее, чем говорить.

НЕКЛЕССА: Но она ведь не ограничивается чтением. Она из своего чтения или, может быть, знаете, как собачка, которую науськивает хозяин…

ЛЕВЕНЧУК: Она учится – совершенно верно.

НЕКЛЕССА: Она делает выводы.

ЛЕВЕНЧУК: Да, правильно.

НЕКЛЕССА: Выводы делает о характере работы, которую ей нужно делать, о характере своего хозяина. Вот те самые собачка и кошечка, которые играют, оказывается, в общем, действительно начинают приобретать если не антропоморфные, то какие-то зооморфные черты, то есть это некоторое существо, которое понимает хозяина, понимают свою задачу, приносит эту косточку. Но с какого-то момента ее начинает интересовать оптимизация этих действий, то есть она считает, что она…

ЛЕВЕНЧУК: С какого-то момента возникает рефлексия: кошечка задумывается, кто она, что она. И для того чтобы оптимизировать действия, она должна иметь свой собственный образ и его уметь изменить.

НЕКЛЕССА: Изменить и реализовать.

ЛЕВЕНЧУК: Изменить и реализовать. Если я решил научиться чему-то, то я меняю себя. Для этого у меня должна быть модель того я, которым я хочу стать, должен я понять, какими средствами это сделать и далее измениться. Вы знаете, что многие люди даже не в состоянии этого сделать. Тем не менее, они как-то выросли, как-то научились. Вот рефлексия – это то, что отличает меня как раз от австралийского аборигена, потому что рефлексия…

НЕКЛЕССА: Но у него, я думаю, своя рефлексия, своя формула рефлексии.

ЛЕВЕНЧУК: Своя формула рефлексии, да.

НЕКЛЕССА: Которая может быть очень оригинальной, поэтому мы ее в своей терминологии можем называть по-другому, но по большому счету это человеческое разнообразие. Здесь мы получаем, знаете, - я бы такой образ, пожалуй, выстроил – тварь, которую сотворила тварь. «Тварь, творящая тварь».

ЛЕВЕНЧУК: Да, только я все время пытаюсь рассказать одну линию. Меня просто так не сбить. И тварь, которая не просто сотворила тварь, а вот этой второй тварью, которую она творит, является он сам.

НЕКЛЕССА: Господа радиослушатели, мы сейчас прервемся на небольшую паузу, а после нее продолжим разговор вот об этих новых живых тварях в нашем окружающем мире. Телефон прямого эфира: 730-73-70.

Реклама.

НЕКЛЕССА: У микрофона Александр Неклесса. Гость в студии – Анатолий Левенчук. Тема нашего разговора: «Нечеловеческая цивилизация: Общество программ». И мы прервались на разговоре о сингулярности, о некотором субъекте, который активно действует в этом направлении, своего рода конкуренте матрицы, которую можно было бы назвать, наверное, живой сетью, поскольку она субъекта, активна и деятельностна. Анатолий, и все-таки вот по поводу сингулярности ваш монолог...

ЛЕВЕНЧУК: Мы как раз не дошли ни до матрицы, ни до сети. Ничего этого пока нет. Мы рассматриваем одну единственную возможность, как вы сказали, тварь, которая создает тварь, за мелким исключением. В качестве этой твари является она сама, то есть мы имеем какую-то программу, которая обладает какими-то интеллектуальными навыками. И эти навыки эта программа использует для того, чтобы себя улучшить и стать умнее, потому что если есть какая-то программа, достаточно умная, то так же, как и человек, первое, что она соображает, что ей надо учиться, ей надо становиться лучше, мощнее и эффективнее. И она делает этот маленький-маленький шаг и становится чуть-чуть лучше, умнее и эффективнее. Только делает она это в отличие от человека, которому довольно много времени надо, для того чтобы стать чуть-чуть лучше, быстрее и эффективнее, делает она это довольно-таки быстро. И следующий шаг, который делает эта уже более умная, более мощная программа – она становится еще чуть-чуть умнее, еще чуть-чуть быстрее. И этот цикл начинает крутиться быстрее, быстрее, быстрее и быстрее.

НЕКЛЕССА: Даже, наверное, слово «быстрее» оказывается относительным, мне кажется, потому что там просто другое время действует, чем в нашем мире.

ЛЕВЕНЧУК: Да, там начинает сразу действовать другое время, потому что интеллект этой программы сначала чуть-чуть умнее человека, потом интеллект этот становится сильно умнее, потом в какой-то момент, как говорит Вернер Виндж: «Вы неправильно думаете», сравнивая интеллект этой программы с интеллектом профессора, а интеллект обычного человека с интеллектом, например, семилетнего ребенка, который пришел к профессору и что-то спрашивает. Правильно думать о другом. Правильно думать, что подошла обезьянка. Может быть, даже к пока семилетнему ребенку. И пока она начала задавать свой вопрос, обезьянка, семилетний ребенок стал профессором. А когда она начала объяснять, то уже уровень профессора опять в другой лиге, и тот профессор, который бы начинал, - он сам уже обезьянка перед тем существом, которое заканчивает эту фразу.

НЕКЛЕССА: Анатолий, а мне хочется в этой точке разговора спросить. Не только ведь процесс повышения уровня интеллекта, но как бы так мне сформулировать?.. А появляется ли у этой программы характер? Не только высокий уровень интеллекта, но и характер?

ЛЕВЕНЧУК: Понимаете, это достаточно длинная такая линия, которая говорит, что все антропоморфное этой программе чуждо после двух-трех итераций, потому что, что такое характер?

НЕКЛЕССА: В данном случае я имею в виду целеполагание и реализацию этого целеполагания.

ЛЕВЕНЧУК: О да, конечно!

НЕКЛЕССА: Это ведь необязательно свойство интеллекта в привычном понимании?

ЛЕВЕНЧУК: Конечно, конечно. Автономность, свобода воли – все это в полной мере целеполагание. Только говорится следующее, что совершенно необязательно, что такая программа, которая себя осознала… Осознание в полной мере есть. А как же? Собственно, это и есть та точка, когда у программы появляется сознание, это сознание начинает быть направленным на себя, на этакую медитацию по самоумощнению. И просто говорится, что, во-первых, совершенно необязательно, что эта программа дружественна по отношению к людям. Совершенно необязательно, что она будет работать внутри себя на языке, совместимом с человеческим языком, поскольку и сейчас-то компьютер внутри себя-то не по-человечьи работает уже. И совершенно необязательно, что программа будет как-то склонна отвечать на вопросы. Ну, может быть, она, конечно, будет любить, как мы любим…

НЕКЛЕССА: То есть, она будет вырабатывать свои критерии поведения?

ЛЕВЕНЧУК: Да, мы любим каких-то там собачек, кошечек, морских свинок, но не очень любим паучков. Мы даже не знаем, будем ли мы для этой программы паучками или морскими свинками, то есть нас будут разводить, как в матрице, или на всякий случай…

НЕКЛЕССА: Своего рода версия нечеловеческой цивилизации, учитывая сложности.

ЛЕВЕНЧУК: Да. Видите ли, мы не задумываемся о том, что бактерии содержат значительную часть генокода нас самих. И когда мы дезинфицируем что-то, мы не думаем, что мы наших генетических предков убиваем.

Точно так же мы не можем сказать, будет ли такая программа. А кто сказал, что она будет одна, что она не размножится? Никто не сказал. И мы даже не знаем, программа ли это или сообщество программ. И что это будет вообще и откуда это появиться. И понятно, что речь идет не об одном экземпляре, который – ох, глазки открыл, стал разумным и пошел развиваться. Этот процесс такой плавный будет. Но с какого-то момента он идет с такой скоростью, что мы не можем сказать, какое будет наше будущее. Мы даже не можем сказать, кто такие мы, потому что мы – это включая эту программу или исключая эту программу. А ну-ка давайте сейчас у всех наших радиослушателей разобьем все телевизоры, радиоприемники, компьютеры…

НЕКЛЕССА: Виртуальное.

ЛЕВЕНЧУК: Да, виртуальное. Вот сделаем так, чтобы программ больше вокруг них не было. Это они или все-таки немножко не они? Или они почувствуют, что они стали немножко первобытными уже, не такими интеллектуальными?

НЕКЛЕССА: Смотрите, сейчас разговоры идут совершенно в другой сфере по поводу мирового правительства, мирового управления. Упомянем и отодвинем в сторону. А вопрос по теме разговора: вот это сообщество программ действительно способно к складыванию в некоторую единую целостность? Ну вот, слово мы употребили, знаменитое слово по кинофильму «Матрица». То есть, может ли быть субъектом действия не просто отдельная программа, а сама сеть как новый полноценный субъект? Ну вот, мы упомянули паучков, косвенно прошлись по насекомым, как своеобразной форме нечеловеческой цивилизации. Так вот, такая насекомоподобная, в каком-то только смысле, формула существования, когда существует некоторый целостный живой, по-своему живой организм сети, действующий в качестве своих членов – членов сообщества и членов тела – программ. Вот такой образ?

ЛЕВЕНЧУК: Ну, конечно. Но обратите внимание, что люди сами сейчас такие. Вот, например, если я обращаюсь к известной поисковой системе Yandex - я даже не беру Google, я даже беру Yandex, - то я и Yandex в этот момент одно или мы все-таки разные? А теперь обратите внимание, сколько вычислительной мощности я при этом задействую. Я задействую мощности отнюдь не одного компьютера, а я задействую мощности всего центра обработки данных Yandex потому, что неизвестно же, на каком компьютере лежит то, что я спрашиваю у Yandex.

НЕКЛЕССА: Ну, наверное, смысл моего вопроса чуть в другом.

ЛЕВЕНЧУК: Поэтому я и уже эти компьютеры Yandex, и те компьютеры, которые лежат между нами – ведь все-таки Интернет тоже кто-то обеспечивает, мой Интернет провайдер, Рунет в данном случае, он же тоже имеет компьютеры в больших количествах. Мы же тоже получается в одной сети.

НЕКЛЕССА: Но я имел в виду некоторое соотношение, некоторую аналогию с вот этой формулой движения человечества к созданию мирового правительства или мирового управления. Знаете, вот на русском языке…

ЛЕВЕНЧУК: Это все смешно, потому, что вы все думаете, что есть кто-то, кто governments… правительство.

НЕКЛЕССА: Вот я как раз говорю, что government и governments, больше governments, чем government.

ЛЕВЕНЧУК: Вот governments по-русски, как известно, не переводится, но все-таки у вас есть правители и управляемые и вот это вот правление, переведем его вот так. Почему вы считаете, что обязательно будут вот эти отношения?

НЕКЛЕССА: Нет, в данном случае политическую область я отодвинул в сторону. Меня интересует формула строительства самой сети.

ЛЕВЕНЧУК: Формула строительства самой сети?

НЕКЛЕССА: Да, появится ли в сети мировое правительство, сетевое правительство, не в смысле внесенное туда людьми, а программ? Управляющие программы…

ЛЕВЕНЧУК: Посмотрите, сетей-то много. И что такое – управляющие? Вот как нас учат разные люди, есть много разных кратий: демократия, автократия, онтократия, технократия и много-много разный кратий. Нет одной кратии, нет одного управления. И когда говорят о таком правительстве, я говорю: «Какое из тех пятисот пятидесяти тысяч правительств, которые будут по разным аспектам управлять, вы имеете в виду? Многие из них друг о друге знать-то не будут». Все-таки я бы централизованное мышление все-таки как-то сейчас снимал. Уже эпоха немножечко другая. Она в централизованных таких терминах, когда есть кто-то конкретно, кто правит, и кто-то конкретно, кто подчиняется… Даже если оно в сети и нечеловеческое, я бы все-таки это снимал.

НЕКЛЕССА: Общество программ у нас демократично, плюралистично и, как бы сказать, оно…

ЛЕВЕНЧУК: Демократично? Нет. Демократия – это всего-навсего смена власти без крови.

НЕКЛЕССА: Ну, там кровь опять-таки виртуальная.

ЛЕВЕНЧУК: Поэтому нельзя говорить, как. Обратите внимание, я все время подчеркиваю, что мы сейчас, так же, как в случае о боге – мы не можем познать бога и постичь его, мы не можем постичь, что там будет в той сети, которая вот такая вот разумная и мыслящая. Тем не менее, этот момент приближается и приближается. Почему? Например, создают ли компьютеры компьютеры, то есть умощняют ли компьютеры сами себя? А как же! При активном участии человека. Потому что первый компьютер был на несколько транзисторов. Сейчас счет идет уже о миллиардах, сотнях миллиардов транзисторов на одном кристалле, а этих кристаллов довольно-таки много может быть. А как вы считаете, кто может создать объект, в котором миллиард запчастей? Только другой компьютер, который потом заставят делать такой же.

НЕКЛЕССА: У меня образ человеческих возрастов: детство, юность, зрелый возраст и что-то там дальше. И как этот процесс проходит в обществе программ? Мы прервемся на несколько минут на краткий выпуск новостей и продолжим дальше наш разговор об Обществе программ: Web-1, Web-2, Web-3, Web-4, «Путь к коммунизму» программ.

Новости.

НЕКЛЕССА: У микрофона Александр Неклесса. Гость в студии – Анатолий Левенчук. Мы рассуждаем, пытаемся рассуждать, берем на себя смелость рассуждать о такой экзотической теме, как: «Нечеловеческая цивилизация: Общество программ». И мы пытаемся определить, все-таки вот эта тварь, творимая тварями-людьми, обладает какой-то самостоятельностью, каким-то своим не только интеллектом, но и характером, и обладает ли она каким-то жизненным горизонтом, проходит ли она какие-то стадии развития. Телефон прямого эфира: 730-73-70. Вы можете принять участие в нашем разговоре, задав вопрос или высказав реплику. И точка разговора, на которой мы остановились перед перерывом на новости, это то, что вот некоторая как бы информационная теория развития, если будет так позволено сформулировать, сети, это ее возраста: Web-1, Web-2, Web-3, ну, и Web-4, так, на горизонте, наполняют данные понятия все-таки достаточно различным смыслом. И вот мне хотелось бы услышать вашу точку зрения, как сугубо профессионала в данной сфере. Какой смысл вы придаете этим обозначениям Web-1, Web-2, Web-3, Web-4, если Web-4 тоже входит в горизонт? И какой смысл в этой цепочке?

ЛЕВЕНЧУК: Я бы вообще сейчас еще бы предыдущую линию немножечко протянул, вот линию с программой.

НЕКЛЕССА: А она различается?

ЛЕВЕНЧУК: Она различается. Я еще не все сказал про ту программу, которая себя улучшает.

НЕКЛЕССА: А это не входит вот в эту логику?

ЛЕВЕНЧУК: Входит, но тем легче. Давайте все-таки еще сделаем пару шагов, чтобы нам было легче представить то, что происходит.

НЕКЛЕССА: Давайте.

ЛЕВЕНЧУК: Итак, происходит следующее. Человек сделал маленький-маленький микропроцессор и использовал его, чтобы сделать микропроцессор побольше. Потом человек сделал при помощи этого микропроцессора и большого микропроцессора побольше современные компьютеры, такие, как сейчас. Потом он посадил много-много человек, которые, используя эти компьютеры, делают компьютеры следующего поколения. И так, используя компьютеры самые лучшие, которые есть, мы производим более и более хорошие компьютеры.

НЕКЛЕССА: Но это, так сказать, телесное такое…

ЛЕВЕНЧУК: Это телесное, да, это материальное.

НЕКЛЕССА: Аппаратное.

ЛЕВЕНЧУК: Но заметим, что, когда мы говорим про вот эту телесность, это очень интересный вопрос о телесности, потому что человек сам по себе телесен. Он не человек, если он не общается с окружающей средой, если он не тело в мире. И есть много гипотез, а может ли программа быть такой, как человек. А если она унаследует от него все чувства? А может ли слепоглухонемой человек быть человеком? И вы знаете, жизнь дает все более и более положительные ответы на это. Тем не менее, пока мы говорим о компьютере, но компьютер представляет собой кусок кремния, на который просто нанесена, буквально напечатана обычная компьютерная программа. И фактически получается так, что одна компьютерная программа при помощи такого же кремния, на который подали электричество, делает другую программу. Потом человек своими ногами относит на производственную линию, возвращает новую, более мощную программу, и немножко помогает этой программе стать лучше. И далее этот процесс повторяется. И вы видите, что у тех компьютеров, которые у нас сейчас в карманах, в телефонах, десять лет назад такие компьютеры не у всех на столе стояли, по мощности. И то, что даже разрешение экрана, которое сейчас на телефонах, это считалось о-го-го каким разрешением экрана, потому что я еще помню векторные дисплеи. Я еще помню, когда дисплеев не было. Это все быстрее, быстрее и быстрее. Сейчас заговорили о том, что вот такой цикл составляет, чуть ли не полгода. Вы видите, что там не все так, конечно, просто, но когда мы приходим в магазин, в обычный магазин, не в лабораторию ученых, а в обычном магазине мы более мощный компьютер покупаем – каждые полгода меняется поколение. Каждые полгода – телефон. Вопрос: а можно ли автоматизировать и вот этот процесс, когда человек должен взять выдачу программы и отнести ее на производственную линию? Вы знаете, как раз вот в этом году сделали первые – это европейский проект, у меня в блоге на эту тему довольного много разного написано, поэтому я всех сразу отсылаю к своему блогу ailev.ru – Анатолий Игоревич Левенчук. Так вот, две рабочие станции, которые друг друга не знают в момент изготовления. Вы ставите их рядом. Они начинают работать в едином сборочном конвейере. Они произведены в разное время, разными производителями. Более того, а рядом еще стоит компьютер, которые превращает старую станцию, которая была до этого момента выпущена, в полноправного члена этой сборочной линии.

НЕКЛЕССА: Анатолий, но ведь дело не только вот в таком вот развитии качеств, в некотором их усилении. Вот мне кажется, что все-таки более интересный процесс – это некоторые фазовые периоды, с одной стороны, который происходят в данной сфере, то есть не просто меньше, лучше, а когда появляются иные качества. Вот когда мы рассуждали не об аппаратной части, а о программной части, мы говорили о том, что программы начинают обладать определенными интеллектуальными свойствами, которыми они раньше не обладали. Не в смысле, что их интеллект повысился с вычислительной способностью или что-то подобное, а что они получают возможность в процессе своего, - что удивительно, - общения делать выводы, принимать решения, отстаивать эти решения, реализовывать эти решения. А вот в сфере гаджетов мне, пожалуй, более интересен не просто процесс превращения привычного телефона в более такой непривычный, маленький телефон, а появление совершенно новых устройств. Вот я помню, некоторое время назад обсуждалась проблема пятой мировой войны, не четвертой, а пятой. Это вызывало удивление. И что же? И вот эта вот пятая мировая война, ее новизна определялась тем, что она будет вестись совершенно иными средствами – средствами, как раз основанными на информационных технологиях, но, что еще более поразительно, персонализированными. Это будет такая автономно-суверенная война субъектов против субъектов, которая будет вестись перманентно, и которая в каком-то смысле велась человечеством. Мы все находимся в некотором конкурентном пространстве. Его можно назвать войной, можно назвать конкуренцией, но у нас не было технического обеспечения, то есть появление таких…

ЛЕВЕНЧУК: Эк наш разговор из стороны в сторону от мировой войны к гаджетам!.. Я замечу, что точно так же совершенно не интересуюсь гаджетами, потому что то, что я пытаюсь сказать, я пытаюсь сказать, что обратите внимание на телефон. На самом деле это не телефон. Это довольно мощный компьютер, который, вообще говоря, на следующем такте может сам себя улучшать. Многие люди это знают. Они покупают пустой телефон, выкачивают из Интернета игры – и это уже игровая приставка. Многие люди дальше начинают играть в игры больше, чем звонить. Некоторые люди выкачивают книги. Выясняется, что это одновременно и книжка. Через некоторое время выясняется, что вы можете выкачать следующую версию этого телефона, точно так же как музыкальные фирмы – я думаю, это никто еще не отследил – прекратили выпускать новое железо. И когда конкуренты выпускают новые музыкальные инструменты, то музыкальные фирмы выкладывают новый софт для своих старых музыкальных инструментов. Это великие фирмы, такие, как «Korg», такие как, «Roland». Все музыканты их знают. И вы уже можете не покупать новые инструменты, а просто заказать софт для старых инструментов. В какой-то момент все равно вам придется сделать новое железо. Это очень интересно, что в этот момент будет. В этом году, я уже рассказал про ту сборочную линию, которая сама, точно так же, как люди – собрали людей, они посмотрели друг на друга и сами организовали из себя конвейер, договорились. Вот, впервые в этом году удалось такое сделать. Замечу, что это не железо. Это новый тип программы, это агентское программное обеспечение – новая парадигма, как вы говорите, фазовый переход, которое позволяет, собрав рядом несколько роботов, сделать из них конвейер уникальный для выпуска чего-то.

НЕКЛЕССА: Или организм.

ЛЕВЕНЧУК: А вот дальше самое интересное. Последнее, что надо вот для той линии, которую я сейчас пытаюсь провести, это чтобы эти роботы могли сами себя собрать, потому что, конечно, они могут такой телефончик сделать, и внутри они фактически являются вот такими же телефончиками. Но надо, чтобы кто-то сделал вот этот более мощный телефон, чтобы он в мире был, чтобы это не чистая программа была, потому что хочется же большего. Фактически, в этом году опять-таки, в мае был реализован первый проект самореплицирующегося трехмерного принтера – это принтер, который печатает все детали.

НЕКЛЕССА: Для другого принтера.

ЛЕВЕНЧУК: Себя самого. Это проект шел очень много лет. Это было довольно сложно. Как вы знаете, тридцать пять тысяч долларов стоит вообще такой принтер трехмерный сейчас, чтобы купить, поэтому эксперименты тут довольно-таки были дорогие сначала. Но задача была, чтобы это было дешево; и такой трехмерный принтер сейчас, набор деталей для него стоит около двухсот долларов.

НЕКЛЕССА: Смотрите, а если мы совместим две линии, одна из которых невидимым образом висит над нами – человеческое общество, другая, которую мы активно обсуждаем в двух ипостасях, то есть программная и аппаратная часть развития некоторая.

ЛЕВЕНЧУК: Общество роботов, общество программ?

НЕКЛЕССА: Да.

ЛЕВЕНЧУК: Да, конечно, это общество. А как же?

НЕКЛЕССА: А вот теперь мне хотелось бы – у нас уже времени-то остается минут пятнадцать-двадцать – еще рассмотреть одну возможность: а что произойдет в случае объединения этих тенденций? Не в смысле их синтеза, - и первая может существовать самостоятельно, автономно и развиваться, то есть человеческое сообщество и Общество программ может выстраиваться со своей внутренней логикой и организацией, - а химеризация, то есть создание artificial abilities, киборгизация…

ЛЕВЕНЧУК: Да, киборгизация. Правильно слово – это киборги.

НЕКЛЕССА: Да, встраиваение в совместные проекты, в совместные организмы. И интересно, вот в этих совместных организмах как будут?.. Значит, какая-то очень интересная конструкция получается. Она мне напоминает дохалкедонские споры о природе человека.

ЛЕВЕНЧУК: Правильные споры, да.

НЕКЛЕССА: То есть чья логика будет в этом химеричном организме господствовать? Кто возьмет верх? И вообще развернется ли такая борьба между человеческой сущностью и этими artificial abilities в рамках киборга?

ЛЕВЕНЧУК: Вот вы как-то все про борьбу и про борьбу.

НЕКЛЕССА: Ну, сотрудничество, симбиоз, гармония.

ЛЕВЕНЧУК: Вот…

НЕКЛЕССА: Я, наверное, делаю акцент на борьбе, для того чтобы подчеркнуть различия.

ЛЕВЕНЧУК: Я очень не уверен, что те слова, которые сейчас вы используете, адекватны этой ситуации. Почему? Потому что…

НЕКЛЕССА: Давайте обсудим это после небольшого перерыва, на который мы уйдем.

ЛЕВЕНЧУК: Ну, конечно.

НЕКЛЕССА: И вы прямо изложите свое кредо по данному вопросу. Телефон прямого эфира: 730-73-70.

Реклама.

НЕКЛЕССА: У микрофона Александр Неклесса. Гость в студии – Анатолий Левенчук. Разговор идет о нечеловеческой цивилизации в виде Общества программ, но вы уже далеко ушли от…

ЛЕВЕНЧУК: Программ, роботов. На первом этапе – программ, роботов и людей.

НЕКЛЕССА: Мы даже уже перешли к киборгам к концу передачи нашей. Вот эта вот формула существования…

ЛЕВЕНЧУК: Итак, давайте мы все-таки, раз перешли к киборгам…

НЕКЛЕССА: Ваше кредо по этому вопросу?

ЛЕВЕНЧУК: Мы сначала без всякого кредо обсудим это. Вот я ношу очки. Я и очки – это киборг или нет? А вот некоторые люди в Африке даже читать не умеют, а автомат Калашникова с собой носят. Смотрите, какие они мощные. Они киборги, поскольку он – часть их системы, как человека: они с ним спят, едят? Это вот просто их часть. Так вот, это киборги или нет? Но идем дальше. Современное оружие – там же компьютер внутри.

НЕКЛЕССА: Я вас прерву на секунду.

ЛЕВЕНЧУК: Он сам думает.

НЕКЛЕССА: Вот! Вот я хотел обратить внимание на то, что когда мы говорим про очки или про автомат, мы говорим про предмет, которые не имеет своей субъектности. В предыдущей части разговора мы говорили о том, что создаются такие хитрые, умные предметы, у которых появляется собственное целеполагание. Вот совмещение этих…

ЛЕВЕНЧУК: Или заимствование.

НЕКЛЕССА: Или заимствование, но главное, что свое, автономное по отношению к человеку. А когда мы этот хитрый предмет, умный предмет совмещаем с человеком, у которого тоже свое целеполагание, то мы имеет весьма сложную конструкцию, конкурентную по-своему.

ЛЕВЕНЧУК: Она не конкурентная. Это самая обычная общественная конструкция. Агентские системы – есть название для таких систем. Потому что, когда мы рассматриваем двух человек, я послал кого-нибудь в магазин, и тот радостно побежал, потому что знает, что будет после этого, то, что получается? Примерно, то же самое, как я на автомате нажимаю на курок. А где же свобода воли, поскольку вроде бы послал?

НЕКЛЕССА: Вы нажали на курок – пуля полетела, если, конечно, осечки не произошло. Вы послали человека – человек ушел. И больше вы его не видите или наоборот вы его видите с автоматом, пришедшим к вам с автоматом, а не с продуктовым пакетом.

ЛЕВЕНЧУК: Да. Видите, вы говорите, что у автомата тоже и осечка бывает, и все такое. Я просто хочу сказать сейчас простой тезис, что рассматривать таких вот автономных существ, разумных, каждый раз говоря, что вот этот - разумный, а этот - еще нет, например, вот этот белый человек – он разумный, а вот это не совсем белый человек – он еще неразумный. Или вот ребенок. Ему шестнадцать лет – он неразумный: мы его лишим выборных прав.

НЕКЛЕССА: У нас в разговоре есть более еще экзотичные вещи. У нас есть вот эти программы разумные.

ЛЕВЕНЧУК: Да, а тут есть еще программы. И обсуждать, в состоянии эти программы принимать решения или не в состоянии… Они кого угодно могут интересовать. Вот так вот по радио можно поговорить. А есть конкретная совершенно задача, например, надо торговать ценными бумагами или надо торговать вот теми же самыми гаджетами. И если вы будете торговать сами, то вы будете торговать медленно, и принимая мало факторов во внимание. Вы поручите…

НЕКЛЕССА: Но вы знаете ту историю, которая произошла сейчас на фондовом рынке с использованием ботов? Система ботов оказалась недостаточно эффективной, потому что именно в ситуации системного кризиса, фазового перехода, алгоритмы, которые были заложены в работу ботов по торговле ценными бумагами, оказались дефектными.

ЛЕВЕНЧУК: Замечу, пока эти боты не получили свойства менять собственные алгоритмы, когда они находят, что их поведение неадекватно.

НЕКЛЕССА: Вот.

ЛЕВЕНЧУК: Замечу, что даже при этом речь не пойдет о сознании. А сейчас активно рассуждается, например, о генетических алгоритмах. И абсолютно такой генетический алгоритм будет туда положен. И что у нас будет? У нас будет возможность самовоспроизводить какие-то устройства, которые имеют в себе возможность принимать важные и интересные решения, грубо говоря, принимать команду «Сходить за хлебом» и делать это все лучше и лучше. Скорее всего, они будут достаточно умные, чтобы иметь сознание. И они будут достаточно умные, чтобы самовоспроизводиться. И где граница между биологической их составляющей? Что там делает человек? Что там делает конкретно один тип роботов, другой тип роботов? И где там граница в этом обществе? Мы не знаем.

НЕКЛЕССА: А давайте в это море…

ЛЕВЕНЧУК: Что я точно знаю, что человек через некоторое время, белковый, к которому мы привыкли, - я не знаю, может быть, человек будет все менее и менее белковым, - человек будет самым медленным и самым тупым элементом в этой системе. Точно так же, как в системе из человека, домашних животных и собаки, домашние животные и собаки являются самым тупым и медленным элементом. Поэтому вместо вола мы имеем трактор через некоторое время, а вместо собак – электронный «нос».

НЕКЛЕССА: Вы знаете, тупой-тупой, но свои… Я вспоминаю свою кошечку домашнюю. Она как бы в своей тупости производит такой эффект, который поражает меня до глубины души.

ЛЕВЕНЧУК: Наверное, как и ваш телевизор тоже. Он показывает…

НЕКЛЕССА: Телевизор? Телевизор – он больше как тот самый автомат, у которого осечка происходит.

ЛЕВЕНЧУК: Но показывает. Это чудо.

НЕКЛЕССА: Показывает, но ведь не все видят, что он показывает. И, скажем по-другому, некоторые видят то, что… О, кстати, по поводу показа. Давайте-ка примем телефонный звонок.

ЛЕВЕНЧУК: Давайте.

НЕКЛЕССА: А то мы увлеклись. Говорите, вы в прямом эфире. Представьтесь, пожалуйста.

СЛУШАТЕЛЬ: Аркадий *. У меня вот какой вопрос или направление вашей беседы. Можно ли рассматривать такие программы, так же, как и производство роботов, как запуск некоего неконтролируемого процесса? И в этом случае, в чем принципиальная разница запуска этого неконтролируемого процесса и, допустим, некоторой бактерии, которая меняет, так сказать, всю биосферу? Есть ли параллель между этими двумя неконтролируемыми процессами, которые человек может запустить?

НЕКЛЕССА: Спасибо.

ЛЕВЕНЧУК: Я замечу, что вы использовали тут специальный язык. Вы сказали, что есть какой-то агент, который что-то такое запускает и далее не может контролировать. Я же утверждаю, что такого одного агента нет. Все этим занимаются. Много-много тысяч людей этим занимаются. В Китае, когда выпускают какие-то корпуса компьютеров. Этим занимаются в Ирландии, когда выпускают кремниевую матрицу. Этим занимаются в Америке, когда делают ту самую программу, которая ляжет на эту матрицу. Этим занимаются в Норвегии, когда делают те самые реплицирующие принтеры, то есть, нет такого человека, который что-то бы запускал. Правильно говорить, что оно вот так становится само как-то, хотя у каждой отдельной детальки, конечно, есть фамилия, имя и отчество. С другой стороны, что такое контролировать? Кто вообще это дело может отконтролировать? Где тот агент, который такие мировые процессы может взять и поставить под контроль?

НЕКЛЕССА: Может быть, Аркадий имел в виду еще – по крайней мере, для меня это прозвучало в вопросе – некоторую аналоговость процессов, что процесс такого самотворчества, аутопоэтический процесс становления…

ЛЕВЕНЧУК: Да, это правильные слова. Совершенно верно, это самотворчество. Это творчество просто в какой-то момент, говорю я, эстафета этого творчества от человека, который запускает в лице этих десятков тысяч конкретных фамилий, которые этот процесс продвигают чуть вперед, в какой-то момент эта эстафета уйдет, точно так же – в десятках тысяч точек. И через некоторое время люди увидят, что в жизни много чего интересного происходит, а они вроде бы и ни при чем, как люди, вроде бы никто ничего не запускает. Но если раньше, я знаю, кто-то поставил на двери дома напротив почтовый ящик, то это, наверное, пришел какой-то человек, кто-то принял решение, а сейчас я не буду знать, приняла ли решение программа о том, чтобы поставить этот ящик, робот ли приехал и поставил. И через некоторое время выяснится, а люди-то тут при чем? Если я, конечно, к этому моменту захочу людей называть людьми. И тут я как раз и перешел бы к Web-1, Web-2, Web-3.

НЕКЛЕССА: Да, учитывая то, что у нас остается порядка четырех минут. Да, как раз.

ЛЕВЕНЧУК: Да. Web-1 - это когда у нас есть отдельные программы, которые работают где-то в Интернете и предназначены для того, чтобы их читали люди. А Интернет – это чистая сеть связи. Web-2 – это когда у нас есть некоторые программы, которые предназначены для того, чтобы люди общались друг с другом.

НЕКЛЕССА: Да, социальные сети.

ЛЕВЕНЧУК: Социальные сети. Web-3.0 – это когда у нас есть программы – тут уже много разных определений, но существенных, собственно, там два определения. Web-3.0 – это когда программы по Интернету могут общаться между собой и понимать друг друга.

НЕКЛЕССА: Собственно, вот оно и есть Общество программ.

ЛЕВЕНЧУК: Это означает, что если есть у меня мой программный ассистент, то он очень умный. Он отслеживает курсы акций, которые у меня есть, он отслеживает погоду и напоминает мне, что надо взять зонтик. И он договаривается с программным ассистентом, например, той девушки, к которой я сейчас иду, чтобы она была готова. И они улаживают, они договариваются, когда все свободны. Собственно, те же самые секретарские функции поначалу. Потом, это, собственно, и есть Web-3.0.

НЕКЛЕССА: А потом они дружат, как секретари между собой начинают дружить.

ЛЕВЕНЧУК: А потом они дружат, потому что им же без этого нельзя. А потом начинается процесс самоумощнения, потому что мой ассистент оказывается все время тупее ассистента-девушки. Я сначала покупаю себе новый, потом я покупаю себе обновление на всю жизнь. А потом я покупаю себе такого ассистента, где написано, что в нем внутри есть программа самообновления: он сам себя учит в свободное от обслуживания вас время. А далее – весь вопрос. Вот у меня развивающееся, разумное то ли существо, то ли не существо. Выясняется, что если надо, то он мне и пиво из холодильника приносит, потому что это же робот, там же есть и роботная часть.

НЕКЛЕССА: То есть уже не совсем виртуальные команды.

ЛЕВЕНЧУК: Вопрос, могу ли я выключить ему энергию или это будет уже, вообще говоря, убийство?

НЕКЛЕССА: Или он погрозит пальчиком еще к тому же.

ЛЕВЕНЧУК: Сначала это будет убийство, как *, а потом он может, вообще говоря, осознать себя и погрозить пальчиком. Понятно, что там будет все то же самое, что у нас сейчас: и вирусы, все это будет, и войны, и коалиции. Вопрос только в том, сколько времени это все будет. То, что у человечества было десять тысяч лет, тут может занять три-четыре года или три-четыре месяца, или двадцать миллисекунд.

НЕКЛЕССА: Кстати, к вопросу о сроках. У нас остается полторы минуты. А вот вы можете то, что вы сейчас сказали по поводу сроков, соотнести с теми тремя цифрами, которые вы назвали, 2023, 2032 и 2056 годами? Что можно ожидать в виде такого *?

ЛЕВЕНЧУК: Ожидается, что как раз это момент прихода сингулярности, условной, конечно. Все говорят, что это не точка, а как бы период такой времени. Это все, очень не спеша, произойдет в формах неизвестных. Вы прекратите понимать, что будет в будущем, то есть прошлое нельзя будет хоть как-то проложить в будущее.

НЕКЛЕССА: Будущее – это иное?

ЛЕВЕНЧУК: Да. Рассматривается как точка, знаете… Летит самолет, и видно на два километра вперед, а впереди – стенка тумана. А самолет приближается. И вы влетаете в этот туман, и уже ничего не видно: куда вы летите, что вы летите, на самолете ли вы летите, вниз или вверх.

НЕКЛЕССА: Просто детское любопытство у меня. А почему тогда разнесено на три даты, причем такие точные?

ЛЕВЕНЧУК: Просто разные сроки – разные оценки: консервативная оценка, оптимистическая оценка, пессимистическая оценка.

НЕКЛЕССА: Одного и того же, что произойдет – вот этого глобального тумана?

ЛЕВЕНЧУК: Это все одно и то же, да.

НЕКЛЕССА: Господа, на этой оптимистичной ноте я вынужден попрощаться с нашим гостем – Анатолием Игоревичем Левенчуком.

ЛЕВЕНЧУК: Да, всем до свидания.

НЕКЛЕССА: Поблагодарить его за этот разговор.

ЛЕВЕНЧУК: Да, и читайте мой блог ailev.ru – там довольно много письменного на эту тему.

НЕКЛЕССА: А мы имеем возможность послезавтра еще раз, второй раз вступить в ту же самую реку и встретить Новый год. Зачитаю все-таки по традиции очередную цитату, касающуюся будущего: «Будущее скрыто даже от тех, кто его делает». Это сказал Анатоль Франц. Встретимся на этот раз не через неделю, а как обычно в пятницу, шестнадцатого января, в восемь часов вечера, в 20.00. И на этом я с вами прощаюсь. До встречи!