Блог

    С моей точки зрения технологическая сингулярность и эволюционная сингулярность - это два ракурса одной и той же сингулярности. Как будет выглядеть мир в процессе сингулярности и после нее? Почему именно так? В какой момент можно увидеть своими глазами уже начавшиеся процессы, связанные с сингулярностью? Может быть, некоторые из них мы уже наблюдаем, но не понимаем их суть? На эти вопросы я попытаюсь ответить в данном блоге.
    Важно: Рекомендуется читать статьи данного блога последовательно, потому что в первых статьях содержатся важные выводы, на которые опираются последующие.

Последние записи


Теги

Информация

3. Разум и интеллект

добавлено: 16 окт 11
понравилось:0
просмотров: 3918
комментов: 3

теги:

Автор: Garya

- Заглядывая в различные источники по такой теме, неизбежно наступаешь в лепехи антропоцентризма, - усмехнулся Андрей. - К примеру, заглянув в википедию, выясняешь, что интеллект - это способность "индивидов", то есть исключительно людей. Понятно, что с таким определением выявить интеллект у какого-нибудь Соляриса уже можно и не пытаться.
- Что же такое по-твоему интеллект, разум, мышление? - спросил Олег. - Насколько мне известно, мышление - это функция человеческого мозга.
- Такое утверждение несколько двусмысленно, - заметил Андрей. - И один из смыслов подменяет содержание формой, чего мне бы хотелось избежать. Вот, к примеру, венерина мухоловка - хищное растение. У него нет нервных рецепторов, но оно воспринимает прикосновение насекомого, причем весьма избирательно, потому что на падение отдельной капли воды оно не реагирует. У него нет мышц, но при прикосновении насекомого оно схлопывает створки так быстро, словно они у нее есть. У него нет пищеварительной системы, но оно "переваривает" насекомое. У него нет нервной системы, но весь комплекс ее поведения очень похож на совокупность рефлексов организмов, имеющих нервную систему. Если подменить содержание формой, то утверждение "движение - функция мышц" станет выглядеть как "движение - функция исключительно мышц", и мы откажемся признавать, что венерина мухоловка способна двигаться только на том основании, что у нее нет мышц. Аналогичную ошибку можно допустить, полагая, что мышление - это функция исключительно мозга.
Картинка с другого сайта.

- Мне трудно представить, как можно мыслить без мозга. И как можно быть разумным без него.
Андрей хитро улыбнулся:
- А ты вглядись в ту же венерину мухоловку. Ведь в целом это растение ведет себя весьма последовательно и логично. Оно "догадывается" раскрыть створки после того как "переварило" очередное насекомое, а не оставляет их схлопнутыми. Схлопывает створки оно быстро, за пятую долю секунды, иначе насекомое успеет улететь, а раскрывает створки медленно, потому что торопиться уже некуда. Замечу, что выполнить настолько быстрое движение, чтобы опередить реакцию мухи, для традиционно-медлительных растений задача нетривиальная. Если насекомое попалось настолько мелкое, что смогло выбраться в щель между зубцами, оно раскрывает створки, не выполняя цикла "переваривания" вхолостую.
- Ты хочешь сказать, что оно разумно?
- Да. Как и все остальные растения. Когда цветы сворачиваются перед дождем, когда вьюн обшаривает усиками пространство вокруг себя, чтобы произвести "привязку к местности", когда листья поворачиваются вслед за солнцем, растения каждый раз демонстрируют владение информацией о взаимосвязях между причинами и следствиями. Они используют эту информацию для достижения собственных целей, прогнозируя наступление тех или иных событий в будущем. Мы не можем представить ощущения или "ход мыслей" растений, но мы можем наблюдать их способность к упреждающему поведению. Наблюдать, правда, недостаточно, необходимо еще и видеть то, что наблюдаешь, что очень непросто сделать тому, кто ослеплен антропоцентризмом.
- Возможно. Однако, я не совсем понимаю, как всё сказанное соотносится с человеческим разумом.
- Человеческий разум также проявляется в умении выявлять взаимосвязи между причинами и следствиями и использовать это знание в интересах человека. Разве нет?
- Однако, степень охвата причин и следствий растением на многие порядки меньше, чем у человека.
- Совершенно верно. Поэтому разделять объекты природы на "разумные" и "неразумные" - неразумно, - скаламбурил Андрей. - Такая классификация исходит из намерения ограничить своё восприятие лишь двумя монохромными градациями степени разумности и объявить "неразумным" всё, что имеет степень разумности более низкую, чем у человека. Я же полагаю, что более правильно говорить о степени разумности растений, насекомых, животных, человека, сравнивая их между собой... Муха, например, ни за что не догадается поискать пути в обход стекла и может долбиться в него до полного одурения. Кошка уже догадается его обойти, потому что просчитает связи между причинами и следствиями глубже мухи. Грубо говоря, степень разумности мухи заметно меньше степени разумности кошки, а степень разумности кошки заметно меньше степени разумности человека. Однако, ни у растений, ни у мухи, ни у кошки она не равна абсолютному нулю.
- Ты ставишь знак равенства между логичностью поведения и разумностью?
- Нет, это было бы ошибкой. Если поставить знак равенства, то получится, что программа "Дип Блю", выигравшая в шахматы у Каспарова, более разумна, нежели Каспаров. Конечно, программа смогла более глубоко и более точно выявить связи между причинами и следствиями, но только в локальной сфере - в шахматах. В других сферах, таких как политика, литературная деятельность, предпринимательство она не сможет с ним сравниться.
- И как же тогда сравнивать?
- В этом и заключается одна из серьезных проблем. Разум проявляет себя в разных сферах деятельности. В том числе человеческий. Одни люди преуспевают в математике, другие в информационных технологиях, третьи в кулинарии, четвертые в бизнесе... Как можно сравнить степень логичности математика со степенью логичности хотя бы шахматиста? Это совсем не просто.
- Поэтому?
- Поэтому я предлагаю ввести промежуточное понятие "ареал-логичность", которая поддается сравнению в пределах одной сферы деятельности, в которой они себя совместно могут проявлять. Ареал-логичность двух шахматистов в сфере "шахматы" вполне поддается сравнению путем их конкуренции. Тот, кто выигрывает в шахматы чаще, у того она и выше. У программы "Дип Блю" ареал-логичность в сфере "шахматы" выше, чем у Каспарова, не на много, на самую малость. Но у Каспарова ареал-логичность в политике, в бизнесе, в литературе и в иных сферах ареал-логичности на порядки выше, чем у программы "Дип Блю". Поэтому "совокупная логичность", которая является объединением всех ареал-логичностей оцениваемой системы, у Каспарова существенно выше, чем у программы "Дип Блю". Совокупная логичность, по моему, и может являться характеристикой степени разумности. Однако, при этом мы приходим к пониманию, что достоверно ее оценить для систем, проявляющих себя в разных сферах, невозможно.
- Что же тогда делать?
- Можно попытаться найти совокупность показателей, влияющих на степень произвольной ареал-логичности. Что на нее влияет? Во-первых, количество причинно-следственных связей, уже известных системе. Грубо говоря, это объем памяти, который де-факто занимают знания. Во-вторых, скорость и точность сопоставления базовых причин с выявленными событиями. Грубо говоря, скорость распознавания сигналов сенсорной системы, учитывающая также скорость самой сенсороной системы. В-третьих, скорость анализа. Грубо говоря, скорость выявления следствий по цепочке уже известных базовых причин и принятия решения, то есть выявление образа будущего действия. В-четвертых, глубина анализа, то есть, предельная длина цепочки причин и следствий. В-пятых, скорость физической реализации принятого решения. В-шестых, скорость выявления новых зависимостей между причинами и следствиями, то есть синтеза.
- Не многовато ли параметров?
- Увы, но все они влияют на результат.
- Что же является результатом?
- Выигрыш в конкуренции, в соревновании, в диалектическом противостоянии, в максимизации полученной выгоды при минимальных затратах ресурсов, в более быстром достижении цели. Если один шахматист знает много дебютов, а другой мало, то победу определит объем знаний, хранящийся в памяти. Если один шахматист плохо видит доску, он потратит много времени на разглядывание фигур на доске, может ошибиться, перепутав пешку с ферзем или белую фигуру с черной - и проиграет по второму параметру. Если один шахматист думает медленно, а другой быстро, и игра идет на время, то победу может решить третий параметр. Если один шахматист способен просчитать позиции на глубину 2 хода, а другой на 4, то победу определит четвертый параметр. Если один шахматист тратит на реализацию принятого решения пол-секунды, а другой, страдая параличом конечностей, расходует по пять минут на перенос фигуры с одной клетки на другую, то ему меньше времени остается на обдумывание ходов, и он проиграет по пятому параметру. Если оба шахматиста не знают, что такое "вилка", но один из них может в процессе игры догадаться применить ход, который реализует "вилку", он выиграет по шестому параметру, увеличив свой объем знаний с помощью синтеза и получив за счет этого преимущество. В общем случае все факторы имеют значение. Один шахматист может очень медленно думать, но при этом просчитывает ходы на большую глубину, второй думает быстро, но "мелко". В такой ситуации трудно сказать, кто именно победит, но именно результат, победа, определяет, какой из параметров перевесил. В итоге результат выражается в фактически обработанном количестве причинно-следственных связей за фактическое время принятия решения, которое, наиболее вероятно, было ограниченным.
- То есть, кроме того, что мы испытываем сложности не только в сравнении степени разумности профессиональных футболистов и профессиональных кулинаров, - улыбнулся Олег. - Мы еще испытываем сложности при сравнении степени разумности глубокомысленных тугодумов с мелкомысленными быстродумами?
- Совершенно верно. Но это еще не все сложности, - заметил Андрей. - Еще об одной проблеме мы вскользь упомянули вчера, когда говорили о том, что муравей не способен воспринять разумность человека. Сравнивать степень ареал-логичности двух систем может только такая измерительная система, которая имеет собственный уровень ареал-логичности не ниже уровней ареал-логичностей обеих сравниваемых систем. Степень разумности человека выше, чем степень разумности муравья или кошки, но не бесконечна. В природе может существовать нечто еще более разумное, чем человек, не в далеком космосе, а прямо под носом у человека, но человек не сможет воспринять его логичность, потому что поведение со степенью логичности, выходящей за пределы собственной логичности человека, будет оценено человеком как просто нелогичное.
- Какой ужас, что мы не можем обнаружить того, чего нет, - усмехнулся Олег. - Возможно, я закоренелый антропоцентрист, но я не могу себе представить, чтобы венерина мухоловка мыслила наподобие меня.
- Вообще-то, я тоже полагаю, что венерина мухоловка не мыслит подобно человеку.
- Тогда откуда у нее разум? Я полагаю, что разум неотделим от мышления.
- Термин "мышление" имеет слишком много смыслов. Одни полагают, что мышление - это вся совокупность процессов, с помощью которых носитель разума реализует свою разумность. Причем, не всегда между собой взаимосвязанными. И тогда в понятие "мышление" входят, в том числе, процессы управления волосяной кутикулой, которые мало связаны с деятельностью человеческого мозга. И тогда венерина мухоловка тоже мыслит. Другие полагают, что мышление - это вся совокупность процессов, но протекающих исключительно в мозге, которые включают и сознательное, и подсознательное, и те процессы, которые мало коррелируют друг с другом. Например, человек может идти и думать - это два разных процесса. И тогда венерина мухоловка не мыслит, но разумна, и реализует свою разумность с помощью чего-то иного, нежели мышление. Третьи считают, что мышление - это не вся совокупность процессов обработки информации даже мозгом , а только та из них, которая проходит через некую "точку внимания". И тогда венерина мухоловка тем более не мыслит. А у человека мышление в этом, третьем, смысле, в существенной степени связано с речевой функцией, поскольку представляет собой процесс беззвучного проговаривания логических конструкций на одном из языков человеческого общения. Британцы мыслят на английском языке, русские на русском, немцы на немецком и так далее. Поскольку язык предполагает последовательное произнесение слов и фраз, процесс мышления также последователен. И по этой причине он не может быть распараллелен. В то же время нейросеть, на модели которой реализован человеческий разум, по своей сути нацелена именно на параллельную обработку информации. Именно за счет параллельной обработки мы очень быстро распознаем границы предметов, их форму, цвет, консистенцию, положение в пространстве, сопоставляем их с ранее виденными образами. Такая обработка информации происходит с задействованием значительных участков мозга, но за пределами точки внимания. Можно сказать, что человеческий разум - это многоступенчатая иерархическая система распознавания образов. Микрообразы определения границ объектов позволяют распознать визуальные границы, микрообразы цвета - цвет. Далее совокупность микрообразов подается на систему распознавания образов более высокой иерархии, которые выделяют предметы из окружающей среды, к ним добавляются микрообразы их движения, соотнесения с издаваемыми ими звуками, запахами и тактильными ощущениями. Эти образы подаются на вход системы распознавания образов еще более высокой иерархии, и мы видим и воспринимаем некий комплекс объектов как некой системы с прогнозируемым поведением - это происходит еще до процесса мышления, это происходит у животных, обладающих мозгом, и у людей, которые так и не научились говорить, в частности, маугли. Маугли тоже разумны, хотя и не умеют мыслить речью, потому что не умеют говорить. Процесс мышления тоже построен на иерархии систем распознавания образов, только базируется она на звуках. Система нижнего уровня иерархии позволяет отделить одни звуки от других, более высокой иерархии распознает образы фонем, еще более высокой иерархии - слов, еще более высокой иерархии соотносит слова со смыслом, который в них может содержаться, еще более высокой иерархии распознает общий смысл фразы с учетом правил грамматики языка. То есть, для работы с образами более высокой иерархии используется что-то вроде "словаря" из образов более низкой иерархии, распознанных ранее. Внешние сигналы, которые доходят до нашего сознания, вызывают проговаривание образов-причин речевой, высокой иерархии, в соответствие которым распознаются образы-следствия, тоже уровня проговаривания. Но сам процесс мышления - последовательный, потому что последовательна наша речь. Поэтому в один момент времени человек способен думать только одну мысль. А было бы, наверное, здорово, если бы человек мог бы мыслить множество мыслей одновременно.
- Почему же он этого не может?
- Не хватает "вычислительной мощности" мозга - она вся используется для распознавания образов большого количества иерархий.
- Я слышал о том, что ресурсы человеческого мозга задействуются на очень малый процент.
- Для процессов, проходящих через точку внимания - да. Но кроме таких процессов, последовательных, мозг обрабатывает массу другой параллельной информации, эта обработка проходит за пределами точки внимания. Он не осознает, какие "вычислительные ресурсы" задействует в параллельных процессах, а они колоссальны. Ресурсы мозга в высшей степени дефицитны - их никогда не может быть достаточно.
- Как денег?
- Вроде того. Когда человек просто идет и о чем-то думает, его мозг на полном автомате обрабатывает образы моторики и вестибулярного аппарата, синтезированные в его мозгу в раннем детстве, пока он учился ходить. Он не мыслит на тему "а теперь я должен поднять левую ногу, перенести ее вперед и поставить на землю" - этот процесс работает за пределами точки внимания. Но этот процесс - тоже компонента человеческого разума. Ходьба человека демонстрирует упреждающее поведение, в котором скрыт точный расчет динамики вертикально расположенного тела, находящегося в состоянии циклического падения вперед с балансом в положении неустойчивого равновесия, с взаимодействием множества сочленений, с расчетом усилия толчка, наклона, положения тех или иных частей тела. Мышление, если понимать его как процессы, проходящие у человека через "точку внимания" - это один из видов проявления разума, но не единственный, хотя и весьма продвинутый.
- Не могу сказать, что твоя интерпретация терминов "разум" и "мышление" меня полностью устроила, но она, по крайней мере, мне понятна. А что такое, по-твоему, интеллект?
- Интеллект - это потенциал максимально возможной разумности, определяемый физическими свойствами системы - размером памяти, быстродействиями разного вида, моделью реализации разума, особенностями используемой им "платформы". Точнее, его можно рассматривать и как "потенциал" разумности, и как "ограничение" разумности. Это смотря с какой стороны смотреть - оценивая еще нераскрытые потенциальные возможности, либо оценивая ограничения, в которые мы уже уперлись. Однояйцевые близнецы-братья обычно имеют очень близкие потенциалы разумности, то есть, схожий интеллект, но если один из них попадет на воспитание к волкам и станет маугли, его потенциал разумности будет реализован лишь в малой степени по сравнению с другим братом. Интеллект у них один, а разумность в итоге получается существенно разная.
- Почему же маугли не полностью реализует свой потенциал разумности?
- Потому что нейросистема, на которой реализована модель человеческого разума, в одном случае проходит обучение "с учителем", в другом случае реализует механизм "самообучения". Самообучение на протяжении одной человеческой жизни не может привести к синтезу всех знаний, выявлению большого количества связей между причинами и следствиями, которое было накоплено за всё время существования человечества. "Обучение с учителем" происходит не только когда человек идет в школу, но и тогда, когда он учится ходить, разговаривать, пользоваться туалетом. В это время в его памяти фиксируются образы, выстраиваются новые системы распознавания, одни семантические системы опираются на другие. Фиксация связей между причинами и следствиями происходит на базе семантических моделей все более и более сложных, они выстраиваются в иерархию систем распознавания образов. Каждая система занимает какую-то часть памяти. У новорожденного ребенка они пишутся на "чистый лист", практически вся информация поступает в кратковременную память. Но память рано или поздно исчерпывается, и приходится решать, что делать со вновь поступающей информацией, которую некуда поместить.
- И как с этой проблемой справляется мозг?
- Он разграничивает память по срокам хранения в ней информации. Иными словами, хранящимся в памяти образам присваивается что-то вроде "коэффициента значимости". Каждый раз, когда образ распознается, происходит цикл его перезаписи с новым коэффициентом значимости, более весомым, что можно расценивать как помещение его в память более длительного хранения. Образы с малыми коэффициентами значимости, хранящиеся в памяти длительное время, удаляются из памяти - так освобождается место для новых образов. Маугли уже имеет сформированную в памяти систему образов "звериного быта" и "звериной системы ценностей", множество образов уже многократно подтвердило свою ценность и закрепилось в долговременной памяти. Поэтому маугли не может научиться говорить - его память уже занята образами, которые не могут быть вытеснены, потому что им поставлен высокий "коэффициент ценности".
- Ты всерьез полагаешь, что человеческой памяти может не хватать?
- Да. Ее не просто "может не хватать", ее катастрофически не хватает. Один синапс хранит информацию об одной элементарной причинно-следственной связи. У человека порядка 1015 синапсов, соответственно, он способен воспринять примерно такое количество элементарных причинно-следственных связей. Сравнивать предельную степень разумности различных нейросистем можно как раз по количеству синапсов в нейросети. То есть, максимальным количеством синапсов для модели разума, реализуемой нейросетью, приблизительно оценивается потенциал разумности, то есть, интеллект. Даже нейросеть с одним нейроном уже обладает каким-то мизерным интеллектом.
- Значит, ты используешь термин "интеллект" в смысле "потенциал разумности"? Получается, что можно одновременно быть разумным как дуб и интеллектуальным как Альберт Эйнштейн?
- Вот именно. И поскольку сама разумность не является бинарной величиной "есть/нет", а имеет степень, то и интеллект также не является бинарной величиной, а имеет степень. С тех пор как были созданы первые искусственные нейросети, способные к самообучению и к "обучению с учителем", был создан и искусственный интеллект, базирующейся на модели нейросети. Просто степень его интеллектуальности была несоизмерима со степенью интеллектуальности человеческого интеллекта. Однако, технологии и модели искусственных нейросетей стремительно прогрессируют. Соответственно, растет и их степень интеллектуальности.
- Ты полагаешь, что искуственный интеллект уже создан?
- Да, ИИ создан довольно давно. Правда, потенциал интеллектальности ИИ пока не может сравниться с человеческим. ИИ - это очень интересная тема, ее мы обсудим более обстоятельно как-нибудь в следующий раз.
- В следующий, так в следующий. Но чуть раньше мы пришли к выводу о том, что сравнить степени разумности очень непросто. Как же мы можем сравнить степень разумности ИИ и человека?
- Если разум различных систем или объектов реализован на одной и той же модели нейросети, то по количеству синапсов. Конечно же, это грубая оценка, потому что для совокупной оценки ареал-логичности требуется еще и несколько параметров, связанных со скоростью обработки информации, однако, в первом приближении можно считать, что степень разумности нейросистем можно определить по количеству причинно-следственных связей, обрабатываемых в единицу времени, то есть, по количеству синапсов, по которым за единицу времени проходит один сигнал.
- Но как работает нейросеть?
- Это мы подробнее рассмотрим в следующий раз. Сейчас же скажу, что в нейросети отдельно взятый нейрон выполняет функцию распознавания одного "микрообраза", устанавливает взаимосвязь между совокупностью причин, закодированной в сигналах на его многих входных отростках дендритах, и преобразовывает ее в следствие в виде сигнала на единственном выходном отростке - аксоне. А степень соотнесения факторов, связанных с одним отростком, определяется свойствами информационного контакта между отростками - синапса. Именно поэтому, степень совокупных ареал-логичностей, реализуемых нейросетью, лучше всего оценивать по количеству синапсов, то есть, межнейронных связей. Количество нейронов при этом может дать оценку общего числа видов образов на всех иерархических уровнях систем их распознавания, но эта величина мало о чем говорит. Скорость прохождения сигналов по синапсам и скорость формирования "отклика" нейроном на аксоне определяют общее быстродействие нейросети. Динамический диапазон сигнала для аналоговых нейросетей, либо разрядность сигнала на синапсах для цифровых определяет "степень размытости" образа, то есть, его качество на входе нейрона и количество вариаций образов одного вида на выходе нейрона. Скорость синтеза новых образов определяется скоростью изменения передаточных коэффициентов синапсов в процессе обучения либо самообучения нейросети.
- То есть, какой-то вменяемый набор критериев для сравнения степени интеллектуальности искусственных и естественных нейросетей возможен?
- Для сравнения нейросетей с нейросетями - да. Для сравнения нейросетей и других моделей реализации разума - нет.
- Например, с моделью разума венериной мухоловки?
- Например, с ней. Можно попытаться оценить непосредственно по ареал-логичности, если есть уверенность в том, что все ареалы охвачены. На сегодня, пожалуй, хватит. В слудующий раз более подробно остановимся на истории развития систем искусственного интеллекта. Из сказанного зафиксируем главную мысль. Разделение систем на разумные и неразумные, обладающие интеллектом и не обладающие - некорректно. Разум и интеллект имеют степень.
- Я понял. Ну, пока.
- До завтра.

Комментарии


  • Интересный философский диалог. Стоит учесть, что мы люди сами же и придумали эти критерии: разумность и интелектуальность, а ведь не исключено, что у тех же растений есть иная форма взаимодействия, нежели понятна нам на физиологическом уровне.

  • прочитал понравилось)

  • Сделал уточняющую правку того места, где говорится про "мышление". Исправленное место выделено курсивом.



Необходимо войти на сайт, чтобы оставлять комментарии