Блог

    С моей точки зрения технологическая сингулярность и эволюционная сингулярность - это два ракурса одной и той же сингулярности. Как будет выглядеть мир в процессе сингулярности и после нее? Почему именно так? В какой момент можно увидеть своими глазами уже начавшиеся процессы, связанные с сингулярностью? Может быть, некоторые из них мы уже наблюдаем, но не понимаем их суть? На эти вопросы я попытаюсь ответить в данном блоге.
    Важно: Рекомендуется читать статьи данного блога последовательно, потому что в первых статьях содержатся важные выводы, на которые опираются последующие.

Последние записи


Теги

Информация

15. Контраргументы Роджера Пенроуза

добавлено: 05 апр 12
понравилось:0
просмотров: 3871
комментов: 13

теги:

Автор: Garya

- Давненько тебя не было, - заметил Андрей. - Где пропадал?
- Читал эту замечательную книгу, написанную умнейшим человеком, знаменитым ученым, Роджером Пенроузом, - Олег протянул книгу и хитро прищурился. - Можешь почитать. Тут приводятся аргументы, которые перечеркивают всё, о чем ты ранее рассказывал.
Андрей взглянул на обложку.
- "Тени разума"? Я читал.
- Читал? - удивился Олег. - И после этого продолжаешь утверждать, что искусственный интеллект может превзойти человеческий?!
- Пенроуз, конечно же, великий ученый и очень умный человек. Однако, к моему большому сожалению, он, как и многие другие умные люди, не смог избежать воздействия на него антропоцентризма. Тем не менее, он озвучил качественные аргументы против моей концепции. К тому же, надо отдать ему должное, он очень старался судить объективно.
- Я в его рассуждениях никакого антропоцентризма не обнаружил, - Олег присел. - Может быть, обсудим эту книгу более предметно?
- Не возражаю.

Олег открыл книгу и перелистнул несколько страниц:
- Пенроуз опирается на теорему Гёделя о неполноте. Не намерен ли ты ее оспаривать?
- Не намерен. По сути, она доказывает, что математическое знание в какой-то степени аксиоматично. Невозможно, оставаясь в рамках формальной системы, доказать одновременно и ее непротиворечивость, и полноту.
- Прекрасно. Далее Пенроуз пытается показать, что формальная система, в рамки которой вписан алгоритм работы ИИ-системы, не может выйти за рамки самой себя, не нарушив данную теорему.
- И в этом я с Пенроузом согласен. Вот только дело том, что ИИ-системам не требуется выходить за рамки самих себя. Пенроуз полагает ИИ-систему источником разума, я же не считаю источником разума ни ИИ-систему, ни человека. Я считаю их носителями разума. Ты же не станешь утверждать, что книга, которую ты держишь руках, является источником мыслей, которые в ней изложены?
- Что же по-твоему является источником разума?
- Природа.
- Это какая-то заумная философия, - поморщился Олег. - Давай вернемся к вещам более конкретным. Например, к проблеме вычислимости.
- Хорошо, давай обсудим вычислимость. Пенроуз ее формулирует с позиций Алана Тьюринга, который доказал, что средствами алгоритма, выполняющегося на машине Тьюринга, невозможно определить, завершится ли когда-либо произвольный алгоритм, который на ней исполняется. По сути, это еще один ракурс той же самой теоремы Гёделя о неполноте.
- Рад, что ты это понимаешь. Из этого следует, что при попытке решить алгоритмическим способом произвольную задачу, спонтанно возникшую перед ИИ-системой, алгоритм может банально зациклиться. Пенроуз также показывает, что если мы попытаемся перед запуском основного алгоритма запустить вспомогательную процедуру, чтобы проверить, а не зацикливается ли основной алгоритм, то при этом можем столкнуться с ситуацией, когда зациклиться может сама процедура проверки. Куда ни кинь - всюду клин.
- Всё так. Однако, проблема возникает только тогда, когда алгоритм появился "вдруг откуда ни возьмись", и его нужно "проверить". Тут мы сталкиваемся с одним из слабых мест в аргументации Пенроуза. Если алгоритм не возникает чудесным образом в готовом виде, а создается с соблюдением определенного набора правил, то на фазе его разработки его можно защитить от зацикливания, при этом в процедуре проверки алгоритма на зацикливание просто отпадет необходимость. Профессиональным программистам известны приемы, защищающие алгоритмы от зацикливания, и они их используют в повседневной практике. Например, в цикл можно добавить дополнительное условие, которое приводит к выходу из цикла после некоторого критического количества итераций - с контролем статуса, завершился расчет или нет. Можно также подписаться на события аппаратного таймера, который прервет вычисление через предварительно определенный критический интервал времени. Такой прием применяется не только в тех случаях, когда программа может зациклиться, но и когда может оказаться, что она просто слишком долго производит завершающийся расчет.
- И как этот прием поможет найти решение самой задачи? Ну да, от зацикливания мы защитились, но задачу-то мы так и не решили! Мы просто прервали цикл и узнали по выходу из него, что она так и не решена. А дальше-то что? Пенроуз приводит великое множество задач, которые приводят к проблеме останова.
- Я тоже могу привести подобный пример. Если попросить мышину Тьюринга вывести на устройство вывода десятичное число, являющееся результатом деления 1/3=?, то машина Тьюринга никогда не сможет остановиться. Она будет до бесконечности выводить тройку в периоде. Осталось вспомнить о том, что практика является критерием истины, взять обыкновенный калькулятор и попытаться разделить на нем 1 на 3. Мы увидим, что результат выводится, и при этом вовсе не за вечность.
- Неточный!
- Да, неточный. Но кому нужна абсолютная точность при решении практических задач? К примеру, ты пытаешься разделить 1 кг муки на 3 равные части для того, чтобы испечь три коржа примерно равного размера для пирога. Имеет ли смысл пытаться получить нулевую погрешность, если ты пользуешься весами, погрешность которых составляет 10 грамм, если всилу объективных причин при выпечке коржи получатся немного разных размеров и если на отличия в размерах никто не обратит внимания? В этом и заключается просчет Пенроуза. Он не учел, что для большинства практических задач нет никакого резона в точном результате. Он также не учел, что помимо точности результата имеются другие критерии его ценности - своевременность, например. Вспомним народную мудрость - "ложка хороша к обеду". Пулемет, например, не способен поражать цель настолько точно как снайперская винтовка, но зато его скорострельность позволяет достигать результата "более своевременно", и поэтому в боевых условиях пулемет оказывается зачастую ценнее снайперской винтовки.
- Возможно, есть и иные критерии. Но мне достаточно одного критерия - вычислимости.
- Которая определяется по способности остановиться? - Андрей прищурился.
- Да. И что?
- А тебе это не кажется странным? Мы пытаемся сравнить ИИ-системы с людьми по способности... остановиться! Вникни! Разве твой разум когда-нибудь останавлаивается? Может быть, он и должен быть... "зацикленным", изначально? И останавливаться только в результате смерти?.. Пенроуз почему-то считает, что ИИ-система на верхнем уровне своего функционирования должна выполнять примерно такой алгоритм: 1) Ждать получения задания 2) Получить задание 3) Поискать решение 4) Выдать ответ 5) Остановиться. И такое "поведение" Пенроуз считает источником разума! Разве человек разумный проявляет свой разум в подобном поведении? Разве он ждет, когда ему кто-нибудь поставит какую-нибудь задачу, чтобы занять себя ее решением? Он сам ставит перед собой задачи! Человеческая разумность в наибольшей степени проявляется не в способности решать задачи, а в способности их правильно ставить перед собой. Постановка задачи - вот главная компонента разумности, которую Пенроуз напрочь упустил из внимания! Задачи - способ движения к цели. А цель определяется "хотелками". Пенроуз же акцентирует внимание исключительно на решении задачи, уже сформулированной "кем-то" и "почему-то". Первая фаза - постановка задачи - уже успешно решается ИИ-системами, мы ранее рассматривали конкретные примеры существующих ИИ-систем.
- Ну и что? Если алгоритмически не может выполниться только вторая фаза, этого вполне достаточно. Пенроуз говорит об объективной невычислимости!
- Эпитет "объективная" в отношении невычислимости можно трактовать разными способами. К примеру, озвученная выше задача "распечатать десятичное число, являющееся результатом деления 1/3=?" - в соответствии с логикой Пенроуза тоже "объективно невычислима".Это означает, что невозможно вычислить такой результат, который годился бы для произвольной практической задачи, для которой допустимая точность вычисления заранее не определена. Однако, не для произвольной, не для абстрактной, а для конкретной практической задачи допустимая погрешность вычисления известна! И поэтому в каждом конкретном случае результат оказывается вычисляемым. Поэтому Пенроуз прав, когда утверждает, что подобная задача объективно невычислима, а я прав, когда утверждаю, что она вычисилима для каждого практического случая. И при этом мы оба одновременно правы.
- Ладно, я согласен, что некоторые задачи позволяют обойти проблему объективной невычислимости путем отказа от поиска абсолютно точного решения. Я также согласен, что неточный результат, может быть использован с пользой на практике. Однако, Пенроуз приводит также примеры математических задач, результат которых не может быть получен вычислительным путем в принципе, даже с какой-то погрешностью. К примеру, есть математические задачи, которые требуют ответа на вопрос, существует ли натуральное число, удовлетворяющее определенной совокупности условий. Ответ может быть одним из двух - либо "да", либо "нет". Ни о каких полу-да/полу-нет, получаемых с некоторой погрешностью, речи идти не может. Если решать такие задачи алгоритмически, перебором всей совокупности натуральных чисел, мы сталкиваемся с проблемой вычислимости. Когда натуральное число, удовлетворяющее совокупности условий существует, то есть, когда объективно ответом является "да", то перебором в цикле натуральных чисел удовлетворяющее условию число найти можно. Когда же объективно ответом является "нет", то мы просто не можем получить такой ответ ни через какое количество итераций, сколь бы большим оно ни было. Мы попадаем в цикл перебора бесконечного количества натуральных чисел, который никогда не завершится. И на какой бы фазе мы бы цикл ни прервали, мы не можем быть уверены, что если до сих пор мы не нашли натуральное число, удовлетворяющее совокупности заданных условий, то оно не найдется и в том множестве чисел, которые еще не успели пройти проверку.
- Да, эту проблему Пенроуз в своей книге описал живописно. Вот только люди тоже не всегда могут решить любую задачу. К примеру, из тех людей, которые волею судьбы оказались прикованными к электрическому стулу, за несколько минут до подачи на него электрического тока, многие ли смогли решить задачу "как выжить"?
- Тем не менее, целый класс математических задач, которые не могут быть решены вычислительными методами, человек все-таки решил! Пенроуз показывает, что понимание человека-математика, который оказывается способным применить метод математической индукции, имеет невычислительную природу!
- Может вычислительную, может невычислительную. Я точно не знаю. Я знаю лишь, что человек, не знакомый с методом математической индукции, наврядли догадается его применить. Если же метод математической индукции применяет тот человек, которого изначально ему научили, то его следует сравнивать с алгоритмом, в который также заранее заложена возможность использования данного метода. Алгоритм, в который изначально заложен такой метод, сможет им воспользоваться.
- А если он не заложен в алгоритм? Как может появиться новое знание в алгоритме, который изначально таким знанием не обладает?
- Так же, как оно появляется в человеке. В результате самообучения и синтеза новых образов, связывающих причины и следствия. В результате обобщения. Современные ИИ-системы вполне справляются с задачей синтеза новых знаний, которыми изначально не обладали.
- Но Пенроуз утверждает, что это не так. Что ИИ-системам недоступно понимание.
- Да, Пенроуз это утверждает. Но давай не будем забывать о том, что практика является критерием истины. Если практика вступает в противоречие с теорией, значит проблемы нужно искать в теории, а не игнорировать факты, которые в нее не вписываются. Дай-ка книгу, - Андрей полистал, выискивая нужное место. - Вот, излюбленная фраза Фейнмана, которую Пенроуз в своей книге приводит в нескольких местах: "Не слушайте, что я говорю, слушайте, что я имею в виду!". Пенроуз утверждает, что ИИ-системы не могут передавать понимание, то "что имеется в виду". Однако, давайте вспомним о роботах, которые сами придумали себе язык для общения. Я процитирую: "Когда два аппарата встречались в одном месте, первый из них, уже открывший этот участок, произносил его название вслух, а второй — понимал, что ему хотят сказать." При этом "понимать, что говорится", восприниающий робот не мог, потому что изначально не было единого языка, на котором роботы могли общаться. Он мог лишь "понимать, что имеется в виду". Или вот, например, на страницах 319-320 Пенроуз утверждает, что робот не может быть "генератором идей". Открываем в интернете другое информационное сообщение - о роботе Адаме, совершившем научное открытие, и внимательно читаем: "Машинное понимание результата — главное достижение этого проекта". А Пенроуз утверждал, что понимание роботу недоступно! Читаем дальше: "«Адам» же принимает от людей общую задачу (изучение работы генов в определённом организме, например), составляет план опытов, выстраивает гипотезы, проверяет их в деле, отбрасывает и выстраивает новые." Как может робот выстраивать гипотезы, если по утверждению Пенроуза он не может быть генератором идей? Или, к примеру, почитай информационное сообщение о роботе "морская звезда": "...робот решил задачу не по заложенным в него людьми алгоритмам, а самостоятельно создав эти алгоритмы". Как можно создавать новые алгоритмы, не будучи способным генерировать идеи? Подобных информационных сообщений можно привести великое множество.
- Возможно, это всего лишь красивые слова, попытка выдать желаемое за действительное.
- Ну, выбор, по большому счету, невелик. Воспринимать как попытку выдать желаемое за действительное либо слова Пенроуза, либо авторов сообщений о новых роботах. Каждый решает сам, чему верить больше, чему меньше.
- Я больше верю Пенроузу.
- А я стараюсь не "верить", а взвешивать доводы "за" и "против".
- Я тоже. И для меня аргументы Пенроуза звучат убедительно. Машина Тьюринга не может быть разумной!
- Я согласен, не может.
- Тогда ты должен признать, что и компьютер, пусть даже самый продвинутый, не может быть разумным.
- Дело в том, что компьютер - это не совсем машина Тьюринга.
- Если ты хочешь сказать, что у компьютера не бесконечная память, как у машины Тьюринга, то это ничего не меняет.
- Нет, я не это хочу сказать. Ограниченность памяти компьютера делает его чем-то меньше, чем машина Тьюринга, однако, есть нечто, что делает его больше, чем машина Тьюринга.
- Вот как? И что же это?
- Способность взаимодействовать с окружающим миром и управляться не только алгоритмом, заложенным в компьютер, но и тем, что находится снаружи.
- Не понял. Можешь пояснить?
- Ладно. Представь, что ты набираешь в текстовом процессоре некий текст. Каждое нажатие на клавишу вызывает аппаратное прерывание, которое обрабатывается заложенным в компьютер алгоритмом. В итоге некая фраза вставляется в определенное место текста, автоматически расставляются переносы, символы форматируются определенным шрифтом и размером и так далее. Компьютер при этом работает в соответствии с заложенным в него алгоритмом?
- Разумеется.
- Но скажи, разве заложенный в компьютер алгоритм формирует смысловую часть текста?
- Нет. Это делает человек! И это еще раз подтверждает, что компьютер без человека - просто груда железа!
- Не важно, без кого или чего. Важно, что компьютером управляет не только то, что находится внутри него, не только алгоритм. Но и то, что находится снаружи. Любые аппаратные прерывания приводят к вмешательству в управление компьютером чего-то, расположенного снаружи от классической "машины Тьюринга". Машина же Тьюринга - это исключительно "вещь в себе". Она взаимодействует исключительно сама с собой. К примеру, тривиальный аппаратный таймер, которым обладает любой компьютер, уже не является частью машины Тьюринга. Это устройство, позволяющее принимать участие в управлении Его Величеству Времени. Хроносу!
- Звучит громко. Тем не менее, я полагаю, ты ошибаешься. Существуют, например, недетерминированная машина Тьюринга и вероятностная машина Тьюринга. Добавлением в машину Тьюринга еще одной ленты, можно сымитировать воздействие на нее внешней среды.
- Это ошибка, которую ты допускаешь вслед за Пенроузом. На странице 250 Пенроуз заявляет, что у вычислительных процедур может формироваться результат "случайный по существу". Я не могу с этим согласиться. Тут следовало бы вспомнить наш разговор об источнике инициативы, потому что данный вопрос с ним очень тесно связан. Давай рассмотрим простенькую житейскую ситуацию. Мальчик незаметно подкрадывается к девочке сзади и дергает ее за косу. Девочка вскрикивает от боли, оборачивается и обиженно спрашивает: "Ну и зачем ты это сделал?". В данном примере мы имеем две взаимодействующие системы, каждая с собственной инициативой. Для девочки инициатива мальчика является внешней, и именно поэтому она содержит компоненту "случайную по существу", потому что дергание за косу для девочки непредсказуемо. Задавая вопрос, девочка пытается получить информацию, которой изначально не обладает. Это очень важный нюанс, потому что факт обладания или необладания информацией в значительной степени определяет линию поведения девочки. Ведь если бы она обладала информацией о том, что мальчик собирается ее дернуть за косу, она а) постаралась бы этого избежать и б) не стала бы задавать вопроса, ответ на который ей и так известен.
- К чему ты это рассказываешь?
- А теперь давай попробуем заменить внешнюю инициативу внутренней! Давай оставим лишь систему "девочка" и попытаемся сделать так, чтобы девочка сама к себе незаметно подкралась, сама себя дернула за косу и сама у себя спросила "ну и зачем ты это сделала?". Адекватной ли у нас получилась подмена совокупности внешней и внутренней инициативы одной лишь внутренней? Действительно ли девочка может подкрасться сама к себе незаметно? Действительно ли она не ожидает того, что сама себя дернет за косу?
- Ты хочешь сказать...
- Я хочу сказать, что никаким добавлением еще одной ленты в машину Тьюринга невозможно подменить внешнюю инициативу внутренней. Пенроуз же этот нюанс не учел. Он не учел, что компьютер в данном случае некорректно сравнивать с машиной Тьюринга, обладающий исключительно внутренней инициативой - инициативой заложенного в нее алгоритма. Компьютер не управляется одним лишь только алгоритмом, он управляется окружающей его реальностью, природой!
- Я полагал, что компьютер управляется человеком.
- Человек тоже не управляется исключительно внутренней логикой, он, так же как компьютер, управляется природой. Он управляется обстоятельствами, в которые попадает, он управляется "хотелками", которых не в силах изменить. Поэтому даже в тех случаях, когда человек управляет компьютером, компьютером управляет также то, что управляет самим человеком. Природа!
- В начале сегодняшнего разговора ты признал правоту Пенроуза в некоторых вещах, а теперь...
- И теперь готов признать! Машина Тьюринга действительно не может быть разумной - потому что она пытается разместить всё мироздание внутри себя, подменить критерии отбора, работающие в объективной реальности, на свои собственные критерии, заложенные в алгоритме. Машина Тьюринга - это компьютер, "больной" глубочайшей формой аутизма. Человек, больной аутизмом до такой же степени, также не способен взаимодействовать с окружающей средой. И не способен проявлять признаков разумности. Разумное существо не может быть единственным источником инициативы, оно должно управляться природой! Оно должно быть подчинено природе! ИИ-система должна взаимодействовать с природой и управляться по законам природы!
- И человек способен сделать такую ИИ-систему, которая управляется природой?
- Человек сам по себе - нет. Но человек, управляемый природой, может. Потому что это не совсем человек создает ИИ-системы, их создает природа руками человека. По сути, Пенроуз доказал, что носитель разума не может быть богом, вот и всё. И если бы он сформулировал свои выводы именно в такой форме, я бы с ним согласился. К примеру, в главе 3.23, Пенроуз приводит весьма показательный пример, в котором робот МИК возомнил себя "Мессией Иисусом КиберХристом". Проблема в том, что до того, как робот себя возомнил богом, сам Пенроуз посчитал, что робот обязан быть богом, чтобы сравняться с человеком. Потому что он решил, что человек идентичен богу. В этом и проявился его антропоцентризм. Он возвел человека в ранг бога, а далее стал доказывать, что ИИ-система никогда не сможет стать равной богу.
- Где ты увидел антропоцентризм у Пенроуза? В каком месте ты увидел, что он приравнял человека к богу?
- На страницах 235,508,574,582 ты можешь обнаружить его высказывания, подтвержадющие веру Пенроуза в наличие у человека свободы воли. Представление о том, что человек обладает свободой воли - одно из ключевых проявлений антропоцентризма. На странице 537 мы обнаруживаем, что Пенроуз отделяет "волю природы" от воли "человека-экспериментатора" и считает их разными "волями". Открываем страницу 243 и видим, что Пенроуз считает эволюционные процессы "слепыми". На странице 509 он предполагает, что «в нашей Вселенной сознание – феномен достаточно редкий». На странице 567 Пенроуз предполагает "случайные процессы подлинно случайными". Что это за "подлинно-случайные" процессы? Непреднамеренные? "Безвольные"? Вера в абсолютную и глобальную случайность - обратная сторона веры в свободу воли человека. Раз есть "бог", даже мелкопоместный, должно быть и материя второго сорта, которая свободой воли не обладает. При этом природа превращается в подобие той самой девочки, которая незаметно подкрадывается к самой себе, чтобы дернуть саму себя за косу незаметно для самой себя.
- Ты не веришь в случайность?
- Я полагаю, что случайность - это синоним "отсутствия информации". Случайность может иметь смысл только в рамках локальной системы, которая не владеет информацией о динамике систем с которыми взаимодействует. Природа не может не владеть информацией, которая находится в этой самой природе. Однако, мы отвлеклись. Ты спрашивал, в чем проявляется антропоцентризм Пенроуза. В главе 3.10 Пенроуз обсуждает возможность построения алгоритмической модели окружения (то есть, мироздания) и его "вычислимость". Построения модели КЕМ, вычислимость КЕМ или ЧЕМ? В главе 3.4 он задается вопросом, «не действуют ли математики, сами того не осознавая, в соответствии с необоснованным алгоритмом?». Обоснованными или необоснованными КЕМ? В разделе 3.5 вопрос опять с оттенком антропоцентризма «Может ли алгоритм быть непознаваемым?». Познаваемым или непознаваемым КЕМ? Не кажется ли тебе, что предлагаемая концепция "абстрактной познаваемости" и "абстрактной вычислимости" чем-то смахивает на "сферического коня в вакууме"? На странице 345 Пенроуз высказывает убеждение, что "неодушевленная материя не обладает компонентами сознания". Это кем-то когда-то каким-то образом проверено или доказано?
- Все эти высказывания Пенроуза мне не показались противоречивыми. Наверное, я тоже антропоцентрист.
- Можешь в этом не сомневаться, - улыбнулся Андрей. - Впрочем, я тоже антропоцентрист. Все люди антропоцентристы.
- И все-таки, ИИ-системы не справятся с решением некоторых задач, которые озвучил Пенроуз. В частности, с задачей замощения плоскости фигурами сложной формы.
- Откровенно говоря, я не вполне понимаю, почему Пенроуз пытается оценивать разумность по способности решить ту или иную математическую задачу, в частности, задачу замощения плоскости фигурами сложной формы. Люди существуют на Земле на протяжении примерно пяти миллионов лет. Всё это время росли их знания, но умственные способности оставались примерно на одном и том же уровне. Метод математической индукции был сформулирован в 19 веке, то есть, чуть более века назад. А всё предыдущее время люди разве не были разумными? И в наше время математические познания очень многих людей простираются не намного дальше таблицы умножения, а решать задачу замощения плоскости так как ее решил Пенроуз могут лишь единицы. Я вообще не думаю, что те строители, которым поставлена задачу замостить Красную Площадь многоугольниками сложной формы, проявят большой интеллект, если они сосредоточатся исключительно на математическом решении данной задачи. С моей точки зрения, разум проявляется не в способности поглощать сложные зависимости, а в способности избегать их, обходясь более простыми и более доступными методами. Мне кажется, разумный человек помимо математических способов решения задачи замощения плоскости рассмотрит также варианты 1) заполнить чем-нибудь щели между плитками; 2) расколоть плитки; 3) поискать другие плитки, более простой формы; 4) покрыть площадь не плиткой а чем-нибудь другим - булыжником, бетоном, асфальтом; и так далее. Для меня крайне странной выглядит попытка Пенроуза оценить "разумность" ИИ-системы по ее способности справиться с задачей "распечатать 2265536 единиц". По аналогии можно было бы попытаться оценить разумность человека по способности решить задачу "стукнуться головой о стену 2000000000000000 раз". Я полагаю, что тот, кто берется за решение подобных задач, демонстрирует не избыток разума, а его недостаток. Для разумного существа приоритетен не способ достижения цели, а сама цель. Мне очень трудно представить себе цель, достижение которой может быть как-нибудь связано с распечаткой 2265536 единиц. С моей точки зрения, разум должен иметь возможность найти какой-нибудь способ достижения цели. Чем больше способов он способен перебрать, чем более оптимальный вариант выбрать, тем более он разумен. Но цель ставится перед разумом извне. Природа задает направление, в котором он должен продвигаться. А не ИИ-система, не машина Тьюринга и даже не человек. На странице 245 Пенроуз говорит об "улучшении качества функционирования" машины Тьюринга, о том, как в саму машину Тьюринга можно было бы включить некие процедуры улучшения качества. В главах 3.18-3.21 Пенроуз обсуждает способность робота ошибаться и оценивать свои ошибки с помощью неких внутренних процедур проверки. Но, позвольте, а где объективно находятся критерии качества человеческого разума? Разве они расположены внутри человека? Разве не снаружи? Разве не законы природы определяют, кто должен выжить, а кто остаться? Кто более эффективен, конкурентоспособен, а кто нет? Критерии находятся снаружи, а не внутри! Силы природы определяют, что эффективно, а что нет, что более разумно, а что менее! Поэтому я и не понимаю попыток Пенроуза "впихнуть" цели мироздания внутрь машины Тьюринга. Конечно же, подобная попытка обречена на провал. Потому что, что бы люди о себе ни мнили, они все-таки не боги. Человеку свойственно ошибаться, и ИИ-системам тоже должно быть свойственно ошибаться. Я не понимаю, с чего Пенроуз решил, что ИИ-системы должны обязательно безошибочными и безгрешными.
- Вот именно! Люди - не боги! И поэтому они не смогут создать ИИ-систему, которая их превосходит! Пенроуз об этом и говорит. Он говорит о том, что в алгоритм робота должны быть с самого начала заложены все последующие его эволюции, все варианты поведения, в том числе, достигаемые в процессе его развития. И поэтому человеку требуется сначала вывести безупречную формулу ИИ-системы, включающую всё это в себя. А это нереально.
- Пенроуз исходит из того, что именно человек является творцом ИИ-систем. Но это не совсем так. А точнее, совсем не так. Творцом ИИ-систем является природа. К сожалению, в его книге не упоминается о том, как Пенроуз относится к концепции эволюции, то есть самоусложнения материи. А мне бы очень хотелось знать, как относится Пенроуз к эволюции материи. Как он себе представляет эволюцию, на одной фазе которой вся-вся-вся материя не обладает свободой воли, а на другой вдруг некоторая часть бац - и стала ею обладать. Каким образом в природе появился человеческий разум - понадобилось ли кому-нибудь выводить безупречную "формулу человека", или человек каким-то образом возник, не дожидаясь ее вывода? Если человеческий разум смог "появиться в природе", то почему в ней не может появиться разум ИИ-систем, не дожидаясь безупречной "формулы ИИ-систем"?
- Но каким образом тогда люди могут выполнить свою роль по созданию техногенного разума?
- Им достаточно перенести на ИИ-системы общие принципы, которые работают в природе и в соответствии которыми они появились сами. Им достаточно реализовать возможность распознавать образы, хранить их в памяти, синтезировать и управлять их жизнеспособностью.
- Извини, не понял. Кого "их"?
- Образов! Образы тоже "выживают", по общим правилам существования всего в природе. Более ценные остаются, менее ценные "погибают". Память - это дефицитный ресурс. Образы "борются за существование", за право "жить" в этой самой памяти. Они "рождаются" и "умирают", выстраиваются в "многоклеточные" и сложные иерархические системы. Всё как в жизни. Даже не "как". Образы - это и есть жизнь. Наш разум, либо разум ИИ-систем - лишь форма их существования. Если им не хватает ресурсов, они "переходят на новую платформу". Мне бы очень хотелось услышать мнение Пенроуза по вопросу, способны ли ИИ-системы распознавать образы. Если следовать его логике, которую он излагает в книге, наверное, он бы ответил "нет". Потому что образ никогда не сможет достигнуть полной и абсолютной идентичности с реальным объектом, который он отображает. Наверняка бы Пенроуз смог безупречно доказать, что при попытке достичь полной идентичности образа, мы получили бы всё ту же "проблему останова", алгоритм бы всенепременно должен зациклиться. Мне же известно, что современные ИИ-системы уже используются во многих системах распознавания образов. Образ не должен на 100% совпадать с объектом в реальности, и у человека тоже. Человеческое сознание и понимание базируется на образах, на "шаблонах". Если человек перенесет собственную модель обработки образов на ИИ-системы, они смогут развиваться дальше. Человек же может не иметь четкого представления о том, по какому пути пойдет их развитие. И ему не требуется выводить "формулу ИИ-систем".
- Пенроуз утверждает, что ИИ-системы никогда не достигнут особого ощущения - "понимания". Что такое ощущение доступно лишь человеку.
- Я не вижу никаких проблем с формированием сигнала "образ распознан". Если нужно, чтобы по этому сигналу получалась некая позитивная эмоция, выбрасывался адреналин на токоведущие дорожки или что-то в этом роде, то тоже не вижу никаких сложностей. Достижение понимания - это просто восприятие образа. Передача своего понимания другому человеку - это передача образа посредством сигналов, с ним связанных и способствующих его синтезу в мозге другого человека.
- Но Пенроуз говорит о понимании математических истин! Как такое понимание можно передать?
- Как образы, связывающие причины и следствия. Если они вписались в систему образов другого человека, значит удалось достичь еще и взаимопонимания.
- Но Пенроуз говорит о том, что математические истины абсолютны! Что человек способен каким-то образом "ощутить" эту истинность.
- Да, Пенроуз это утверждает. И, мне кажется, он делает это слишком смело. Он может верить в то, что математические истины абсолютны, но это будет не более чем разновидностью религии. Мне очень жаль, что когда Пенроуз говорит об абсолютности математических истин, он забывает о той самое теореме Гёделя о неполноте, на которой акцентирует внимание всё остальное время. Возможно, математические истины и абсолютны, но мы не можем быть в этом уверены на 100%. Потому что это невозможно доказать.
- Но ведь все математики едины в своем понимании математики, разве не так?
- Видишь, ли, вопрос абсолютности математических истин не может решаться голосованием, даже единогласным. Он требует доказательства. А Гёдель как раз доказал, что такое доказательство получено быть не может. Поэтому утверждение Пенроуза я расцениваю как чересчур смелое. На стр.166 Пенроуз делает любопытную оговорку: «в отношении бесконечных множеств математики и вправе придерживаться различных точек зрения, этих точек зрения вовсе не так много: по всей видимости, не более пяти». Пять исключений – это «не куча»? И поэтому к математическим истинам следует относиться как к абсолютным? По-моему, достаточно одного, чтобы обобщение в отношении абсолютности математических истин оказалось сомнительным.
- Все-таки, почему математические истины не подвергаются так часто пересмотру, как, например, физические? Почему в математике не была пересмотрена никакая концепция, например, как в физике концепция теплорода?
- Вполне возможно, образы, возникающие в нашем сознании, действительно очень близки к их реальному прототипу, когда речь идет о математических истинах. Это объективное совпадение образа с прототипом - и есть причина единства мнений.
- Так значит, они действительно могут быть абсолютными?
- Могут, но мы их воспринимаем посредством образного мышления. А образ имеет потенциальную способность искажать то, что он отображает. Пощупать математические истины непосредственно, "мимо образов" мы не можем. Поэтому мы не можем быть уверены на 100% в том, что наше восприятие полностью идентично абсолютной истине. Пенроуз же почему-то решил, что люди уже достигли понимания абсолютной истины, истины в конечной инстанции. И в этом я никак с ним согласиться не могу. Я не могу согласиться с тем, что человек "непогрешим".
- Разве он подобное утверждал?
- Да. На странице 216. Пенроуз посчитал, что человеком достигнута истина в конечной инстанции, а ИИ-системам она недоступна. На этом и построено всё его доказательство. Я могу согласиться с тем, что ИИ-системам истина в конечной инстанции недоступна. Но она недоступна также и для людей. Поэтому сравнение людей с ИИ-системами по этому параметру я считаю некорректным. Никто и ничто не может постичь истину в конечной инстанции. Она доступна исключительно одной лишь природе, которая ею оперирует. Мы можем лишь пытаться ассимптотически приближаться к ней, но достичь никогда не сможем, ни мы, ни ИИ-системы.
- Иными словами, Пенроуз тебя не убедил?
- Мне очень жаль, но... Не убедил. Хотя, мне бы очень хотелось, чтобы меня кто-нибудь переубедил. Такой человек как Пенроуз мог бы это сделать, если бы в его представлениях было чуточку поменьше антропоцентризма.
- Значит, ты полностью уверен в своей концепции?
- Не совсем.
- Так ты, все-таки, сомневаешься? - Олег оживился.
- Видишь ли, я полагаю, что даше самая большая очевидность у мыслящего человека должна оставлять хотя бы тень сомнения. Кроме того... - Андрей замялся.
- Есть еще какие-то причины для сомнения? Пенроуз заставил тебя сомневаться? Или, может быть, другой автор?
- Причины для сомнения есть. Но дело не в аргументах Пенроуза и не в другом авторе.
- Тогда в чем же?
- В том, что я, являясь человеком, каким-то образом, понял то, что понял. В соответствии с моей концепцией я не должен был это понять. Никто из людей не должен был это понять.
- И это самое слабое место в твоей концепции?
- Да. По крайней мере, я это так себе представляю. Это то, что хуже всего объясняется. Я не верю в случайности. Должны быть какие-то причины. Но я их не вижу.
- Мда... Забавно. Однако, поздно уже, пора набоковую. Выводы озвучишь?
- На этот раз никаких выводов. Мы просто приводили аргументы "за" и "против". Единственный вывод - Пенроуз меня не убедил.
- Ну, пока.
- Спокойной ночи.

Комментарии


  • Жаль Роджер Пенроуз Вам не ответит :-)
    А кого-то еще вряд ли интересуют его аргументы, контраргументы, и контраргументы к его контраргументам :-DDD

    Вообщем забавный сферический спор в вакууме.

  • > Жаль Роджер Пенроуз Вам не ответит :-)

    А вдруг ответит. Поживем - увидим. :)

  • Ньютоновы законы антропометричны ?
    Скорее да, чем нет. Теплород - наше все (в свои века). В Китае понимают, сказать не могут и мы тоже, только мычим. Хто зоздал первые кремниевые компилятры ? Философия - опркинутая черепаха, ИМХО, Жукс

  • Да, попробуйте препарировать себя сами, на досуге, как препарируете жука. Естество противится, не так-ли ?. Ваша треория, конечно войдет, надеюсь, в сравнимые анналы, как, например Заротустра Ницше. Ваш вклад в сердца людей НынеЖывущих отзовется, конечно, но КРИК О СВЕРХЧЕЛОВЕКЕ .. Я слишком наивен, чтобы вступать в полемику с Вами, Гаря ..
    ИИ должен быть чьим то ребенком, не иначе. А отсюда вся забота о родителях. Икру мечу.. Хохча рожаю ..

  • Извините, сотрите два коммента и этот. Оне такая чушь :(. "Гаря", по вашев ссылкам на "теорию поля" узнал , что Кариолисова сила в механие соотчетстует Лоренцевой в электродинамике, СПАСИБО :)

  • “...я, являясь человеком, каким-то образом, понял то, что понял. В соответствии с моей концепцией я не должен был это понять. Никто из людей не должен был это понять.”

    Элемент абсолютизации субъектной феноменологии, только и всего. Фишка - в «понимании». В природе не существует «понимания», равно как и «вопросов», «ответов» и прочих меток, которые наша система ассоциирует с определенными собственными состояниями. Состояния — существуют, как феноменальный коррелят какой-то части алгоритма, благодаря которому такое системное выделение стало возможным. «Понимание» — это квалиа, эпифеномен, но мы придаем ему значение из-за его предсказательной силы. Убираем субъектное поле из расуждений, вместе с рассуждениями, и в сухом остатке — природа, у которой все сходится. После этого можно рассуждать, сколько угодно :)

    PS Пенроуз очень слаб. Я полагаю, внимательно есть смысл изучать только тех авторов, кто в начале своего бла-бла-бла четко объясняет принцип сознания (квалиа).

  • > Я полагаю, внимательно есть смысл изучать только тех авторов, кто в начале своего бла-бла-бла четко объясняет принцип сознания (квалиа).

    Любопытно. Можно конкретизировать?

  • Конкретизирую.


    В приведенной мною цитате из вашего текста явно или неявно (кому как) содержится определенная смысловая фиксация собственных состояний системы, которые человек называет квалиа (в около-философском обиходе). Сознание — типичный представитель квалиа. То, как система психики третирует вопрос квалиа/сознания, налагает заметные ограничения на глубину абстрактного анализа вопросов, в которых ведущим является автореференция психики. Я называю это личным уровнем среза автореференции. В районе этого уровня человек перестает отдавать критический отчет о мотивационной базе своего мышления. Это касается абсолютно всех людей, идиотов и гениев, это будет так же касаться программных продуктов, эмулирующих функции психики.
    Условно, шкала этого порога нелинейная. «Верхнюю» часть шкалы можно назвать семантической, «нижняя» - структурно-функциональная. Это значит, что в «верхней» части понижение уровня осуществляется за счет усвоения приемов мышления, культивирующих все более изощренную технику автореференции. Между «верхней» и «нижней» частью шкалы уровней находится пороговый уровень, преодоление которого происходит скачком, но это представляет некоторую трудность. Преодоление порогового уровня соответствует выработке понимания сущности квалиа (и вместе с тем — сознания). В этот момент система психики перестает оперировать функцией «я» как нередуцируемой единицей. Наиболее качественное рассмотрение этого вопроса предложено Р.Рорти в «Философия и зеркало природы». Далее вниз лежит зона, глубина проникновения в которую ограничивается структурно-функциональными особенностями индивидуума, и может быть форсирована с помощью когнитивных усилителей следующего поколения (в точности, как форсируеся мотор автомобиля перед тем, как врезаться в бетонную стенку :).

    Так вот, что именно я имел в виду. Выяснение того, взят ли пороговый квалиа-демонтирующий уровень вашим собеседником помогает съэкономить массу времени и усилий. Выясняется это по качеству дискурса, в котором должна явно присутствовать логика квалиа-независимых рассуждений.

  • Я лишь хотел узнать фамилии тех авторов, которые "объясняют принцип сознания (квалиа)". :)
    Насколько я понял, это Роберт Рорти. Пенроуз честно признается, что до конца не понимает природу qualia (в первой части книги), а во второй высказывает предположение, что qualia имеет квантовую природу, и, может быть, загадки сознания смогут найти объяснение после того как получат объяснение парадоксы квантовой механики.

    Я полагаю, что qualia в нейросетевой модели разума связана со способностью нейросети распознавать и синтезировать образы, являющиеся отображением реальности, либо абстракциями, способными принимать участие в иерархии семантик, которые в конечном итоге все равно отображают реальность. Способность образа быть "в чем-то похожим" на то, что он обозначает, обусловлена объективными причинами, которые и делают разумными субъектов. Иными словами, источник разума и носитель разума - это совершенно разные вещи.

    Хотелось бы узнать побольше различных интерпретаций и трактовок qualia.

  • Ричард Рорти.

  • Интересный взгляд на вещи. Но мне кажется автор наступает на свои же грабли. ИМХО, если немножко поразмвслить, то приходим к выводу, что невозможно отделить "исскуственный" обьект от "естественного". Ну например: муравейник- это искусственный или естественный обьект? Птичье гнездо? Некоторые птицы используют камень для разбивания чужих яиц? Про высших приматов- вообще без вопросов. там и палки и прутики используются. А вот полипы которые рифы создают?
    Ну ладно вернёмся к человеку. Ложечка для ковыряния в ухе- искусственный обьект, а специально выращенный ноготь на мизинце? А длинные волосы зимой, чтоб теплее было. То есть я хочу сказать, что невозможно провести грань между искусственными и естественными обьектами. Невозможно сделать дефиницию особенно с учётом того, вышесказанного, что человеческий интеллект ничем особенным не отличается от интеллекта полипа или даже часов, за исключением более сложного алгоритма поведения. А раз нету разницы между "искусственным" и "естественным", то нет и антагонизма. И противопоставление техносферы и "естественной сферы" является надуманным. Собственно говоря техносфера является естественным эволюционным продолжением "естественной сферы" обитания. Кроме того в истории были примеры когда биологические обьекты (не говоря о космических) кардинально меняли природу. Например травоядные ящеры понизили долю кислорода в атмосфере изза пардон "пердежа".

  • > ИМХО, если немножко поразмвслить, то приходим к выводу, что невозможно отделить "исскуственный" обьект от "естественного". ... я хочу сказать, что невозможно провести грань между искусственными и естественными обьектами.

    Автор не только ничего не имеет против этого тезиса, автор сам его озвучил в статье 4 "В поисках источника инициативы". И не только озвучил, но и сделал не нем особый акцент, включив его в резюмирующую часть этой статьи под пунктом 3). И в данной статье я (автор) пытаюсь показать, что ту деятельность по созданию ИИ-систем, которую люди считают исключительно собственной заслугой и результатом собственной инициативы, является одновременно результатом работы законов природы, которые работали задолго до появления в ней человека.

    > А раз нету разницы между "искусственным" и "естественным", то нет и антагонизма.

    Антагонизм есть между тем что "было" и тем, что "будет". То, что "было" исчезает, а то, что "будет" появляется. Я пытаюсь озвучить закономерности этого процесса. Динозавров, к примеру уже "нет". Мой блог - предупреждение о том, что человечество может кануть в лету вслед за динозаврами, причем не в отдаленном будущем, исчисляемом астрономическими величинами, а в ближайшем обозримом - то есть в течение нынешнего поколения.
    Антагонизма абсолютного - действительно нет. Есть "единство и борьба противоположностей" - то есть, антагонизм, объединенный с единством. Ключевой принцип диалектики.

    > Собственно говоря техносфера является естественным эволюционным продолжением "естественной сферы" обитания.

    Можно рассматривать техносферу как естественную среду обитания людей. А можно рассматривать человечество как ествественную среду обитания И РАЗВИТИЯ техногенных устройств. Вся разница между ними лишь в том, что первая точка зрения опирается на антропоцентризм, а вторая на техноцентризм. По сути же, обе точки зрения объективно совершенно равнозначны. Об этом говорилось в конце статьи 3 "Разум и интеллект". Те, кто способны видеть только с первого ракурса, ослеплены антропоцентризмом.

    Witewut, я настоятельно не рекомендую читать статьи данного блога "с конца". Об этом сказано в аннотации к блогу и во вступлении к нему. Для подавляющего большинства людей это почти неизбежно приведет к намерению оспорить многое, апеллируя доводами, которые были детально рассмотрены в предыдущих статьях. Судя по всему, Вы проигнорировали это предупреждение и стали читать сразу последние статьи блога, не прочитав первые - в результате мне пришлось отсылать Вас к 3-й и 4-й статьям. Если Вам действительно интересна рассматриваемая здесь тема, прошу запастись терпением и внимательно прочитать все статьи по порядку, то есть, начиная с первой, и не пропуская ни одной, а затем уже высказывать мнение по совокупности. Я уверен, что на многие Ваши вопросы Вы найдете ответы в других статьях этого блога.

  • Читал и не один раз, с середины и потом с начала.
    Думаю нету не техносферы ни антропосферы, есть неумолимый алгоритм природы (вселеннских законов, порядка вещей) - эволюции согласно которому произойдёт то, что и должно произойти. Можно предупреждать сколько угодно, особенно учитывая что это тоже является запрограмированным природой. И если человечество окажется устаревшим оно будет безжалостно выкинутым природой на свалку эволюции.
    Вот например про тех же динозавров- то что они изменили состав атмосферы - это результат деятельности техносферы или "динозавросферы"? Или кораллами созданные Барьерные рифы? Или залежи угля и нефти? Я Поэтому я не считаю техносферу чем-то отличным, она такое-же порождение природы как человечество и не обязательно должна сопровождать человечество, с тем- же успехом она может сопровождать простейшие черви, примитивный одноклеточные и т.д.



Необходимо войти на сайт, чтобы оставлять комментарии