Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / Сравнение СУБД Новый топик    Ответить
 Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
shuklin
Member

Откуда: Харьков
Сообщений: 799
Опубликовано Занятие "Objects-01" http://www.shuklin.com/ai/ht/ru/cerebrum/lessons/Cerebrum.Samples.Objects-01.aspx в котором описана реализация автоматной грамматики на основе нейронной сети. Данное занятие показывает как использовать рекурсивные вызовы методов объектов для обхода дерева объектов, расположенного в СООБЗ Cerebrum. В занятии создается новая таблица Neurons в которой хранятся экземпляры класса SymbolNeuron.
10 ноя 05, 18:03    [2057332]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
Naug
Member

Откуда:
Сообщений: 663
Ура!
10 ноя 05, 18:28    [2057435]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
SergSuper
Member

Откуда: SPb
Сообщений: 5488
А вот интересно

Это кусок из одной из ссылок про распознавание слов
В упрощённом синхронизированном линейном дереве, извлекающем отдельные слова из входного потока символов, все нейроны выполняют синхронизированную функцию конъюнкции. Линейное дерево состоит из подслоев. Каждому подслою соответствует фронт волны обработки. Нейроны первого подслоя соответствуют первой букве слова, второго - второй и так далее. Общее количество подслоев равно максимальному количеству букв в одном слове. Первый подслой состоит из нейронов, распознающих первую букву, второй слой состоит из нейронов распознающих первые две буквы, третий - первые три буквы
Т.е. получается что слово распознаётся последовательно по одной букве и никакого распараллеливания нет? И ради чего тогда это НС?
10 ноя 05, 18:42    [2057478]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
shuklin
Member

Откуда: Харьков
Сообщений: 799
SergSuper
А вот интересно

Это кусок из одной из ссылок про распознавание слов
В упрощённом синхронизированном линейном дереве, извлекающем отдельные слова из входного потока символов, все нейроны выполняют синхронизированную функцию конъюнкции. Линейное дерево состоит из подслоев. Каждому подслою соответствует фронт волны обработки. Нейроны первого подслоя соответствуют первой букве слова, второго - второй и так далее. Общее количество подслоев равно максимальному количеству букв в одном слове. Первый подслой состоит из нейронов, распознающих первую букву, второй слой состоит из нейронов распознающих первые две буквы, третий - первые три буквы
Т.е. получается что слово распознаётся последовательно по одной букве и никакого распараллеливания нет? И ради чего тогда это НС?


Слово распознается последовательно, по одной букве - так же как и в слуховом тракте последовательно. Это так.

"Распараллеливания нет" - это не совсем так. Собственно в этом новизна СНС по сравнению с автоматной грамматикой и заключается - распараллеливание есть.

Если расмотреть классический случай автоматной грамматики, то там действительно распараллеливание не нужно и в случае распознавания чистого автоматного языка его не будет и в нейронной сети. В каждый момент времени активным будет только один нейрон во всей нейронной сети.

Тем не менее это отсутствие распараллеливания в ИНС очень полезно и хорошо на практике, так как позволяет оптимизировать алгоритмы распространения волны и обрабатывать на каждом такте только нейроны, изменившие свое состояние и кандидаты на изменение своего состояния. Это позволяет обрабатывать в каждом такте еденицы нейронов, несмотря на наличие в БД миллионов нейронов. Это достоинство исключительно колличественное. Более интересное дальше.

Если рассматривать распознавание естественного языка, то как известно он обладает многозначностью - омонимией и синонимией. Реализация грамматического разбора, учитывающего это явление до сих пор является научной проблемой (в том числе я эту пролему тоже не решил полностью, хотя имхо продвинулся). Распараллеливание возникает в условиях синонимии и омонимии - в этом случае параллельно обрабатываются конкурирующие варианты разбора символьной последовательности. Это позволяет находить все возможные в данном контексте варианты разбора фразы. Причем, так как колличество нейронов-кандидатов на возбуждение остается невелико, не теряются достоинства описанные предыдущим пунктом. Наличие параллельного распознавания позовляет строить распространение волны возбуджения в зависимости от всех, возможных в данном контексте вариантов разборов. Тоесть при распознавании некторого варианта разбора многозначной фразы возможно учесть существование конкурирующих вариантов разбора.

Дальше больше. Здесь рассматривался морфологический разбор. Эту же структуру ИНС можно применять для синтаксического разбора. Параллельная обработка в синтаксическом разборе будет возникать даже без наличия классических случаев омонимии и синонимии. Например словоформа "машины" является существительным множественного числа именительного падежа, либо существительным единственного числа родительного падежа. При подаче на вход подсети морфологического разбора такой словоформы будут активированы нейроны, отвечающие за все варианты интерпретации этой словоформы. Слой синтаксического разбора получит на вход несколько конкурирующих вариантов и будет их обрабатывать параллельно.

Действительно интересная реализация разбора моего изготовления находится здесь http://contest2005.gotdotnet.ru/Request/Apps/Entertainment/226002.aspx а приведенное занятие, на то и занятие, чтоб на его примере объяснить устройство СООБЗ Cerebrum. Кстати, тормозить (с точки зрения самого Cerebrum) будет изрядно - в реальном проекте я бы рекомендовал использовать инкапсуляцию объекта и интерфейсы IPersistent + IDiscovery для сохранения аттрибутов - без использования эмуляции РБД и выдиления аттрибутов в дочерние объекты вовсе, ибо РБД есть сакз ))))) Однако такой пример не будет наглядным для демонстрации модели данных СООБЗ Cerebrum.
10 ноя 05, 19:16    [2057548]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
Пьяный Лох
Member

Откуда:
Сообщений: 3652
Хотелось бы узнать - о чем говорил иностранец???
10 ноя 05, 19:49    [2057603]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
vadiminfo
Member

Откуда: Обнинск
Сообщений: 4802
shuklin

РБД есть сакз ))))) Однако такой пример не будет наглядным для демонстрации модели данных СООБЗ Cerebrum.

Не хотите же Вы сказать, что СООБЗ Cerebrum по сравнению РБД не так уж и жалко выглядит? Все-таки ей же до РБД как до луны. По крайней, мере такое мнение должно быть все еще наиболее наиболее распространенным.
10 ноя 05, 20:41    [2057703]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
SergSuper
Member

Откуда: SPb
Сообщений: 5488
shuklin
Распараллеливание возникает в условиях синонимии и омонимии - в этом случае параллельно обрабатываются конкурирующие варианты разбора символьной последовательности.

Ну это примерно как одна и таже буква может быть в разных словах, а при разборе слов распараллеливания нет.

Общее ощущение - с виду обычный граф, городить там какие-то НС - выгдялит мягко говоря тяжеловато - при всём уважении я не смог внимательно всё просмотреть и постичь, сомневаюсь что кто-то сможет(а ведь еще и захотель надо).
Одно из друх: либо пример неудачный, либо одно из двух... Если Вы на 3-4-х страницах не сможете показать преимуществ - значит их и нет.
11 ноя 05, 09:59    [2058457]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
Лингвист-любитель
Guest
Маленькое замечание по этому поводу
shuklin


Слово распознается последовательно, по одной букве - так же как и в слуховом тракте последовательно. Это так.



Даже если некорректный в данном контекстве термин "буква" заменить на (ну не говорю "фонема"), а пусть даже "звук", то неужели автор полагает, что слово распознается человеком (если автор, конечно, про человеческий слуховой тракт) ПО ЗВУКАМ? Звуки действительно поступают последовательно, но простым доказательством, что анализ (в устной речи) не происходит "позвучно" является общеизвестный факт, что даже люди, владеющие иностранным языком на уровне чтения, не всегда могут распознавать обычную речь носителя чужого языка. Звуки поступили, анализа нет - потому что речь воспринимается готовыми блоками фраз, слов, привычных оборотов речи. Или если человек говорит глотая звуки или с дефектами, понимание возможно, несмотря на "неправильные" звуки.
11 ноя 05, 11:48    [2059141]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
shuklin
Member

Откуда: Харьков
Сообщений: 799
vadiminfo
Не хотите же Вы сказать, что СООБЗ Cerebrum по сравнению РБД не так уж и жалко выглядит?

Ващето мне казалось, что мое мнение уже достаточно популяризовано в http://www.membrana.ru/articles/readers/2005/09/02/200800.html - это РБД выглядят жалко по сравнению с Cerebrum, особенно при решении задач которые меня волнуют.

vadiminfo
По крайней, мере такое мнение должно быть все еще наиболее наиболее распространенным.

Хм, неужели видно что меня волнует распространенное мнение? Тем хуже для тех кто его придерживается, знаете, у меня нет комплекса по осчастливливанию всего человечества моим Cerebrum ))) Скажем так, я решил любезно поделится своими результатами с теми кто захочет их взять даром )))
11 ноя 05, 12:10    [2059342]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
shuklin
Member

Откуда: Харьков
Сообщений: 799
SergSuper
Одно из друх: либо пример неудачный, либо одно из двух... Если Вы на 3-4-х страницах не сможете показать преимуществ - значит их и нет.


Для тех кто в танке, пример демонстрирует работу с объектами в среде Cerebrum а вовсе не последние достижения в области мат-лингвистики. Автоматная грамматика выбрана как одна из простейших возможных грамматик. Как видно из примера и объема кода, реализация нейронной сети и автоматной грамматики средствами Cerebrum занимает около 3-х часов рабочего времени.
11 ноя 05, 12:15    [2059383]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
SergSuper
Member

Откуда: SPb
Сообщений: 5488
shuklin
SergSuper
Одно из друх: либо пример неудачный, либо одно из двух... Если Вы на 3-4-х страницах не сможете показать преимуществ - значит их и нет.


Для тех кто в танке, пример демонстрирует работу с объектами в среде Cerebrum а вовсе не последние достижения в области мат-лингвистики. Автоматная грамматика выбрана как одна из простейших возможных грамматик. Как видно из примера и объема кода, реализация нейронной сети и автоматной грамматики средствами Cerebrum занимает около 3-х часов рабочего времени.

Дык я и пишу, что хреново демонстрирует и не понять как такое можно за 3 часа сляпать
11 ноя 05, 13:54    [2060151]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
shuklin
Member

Откуда: Харьков
Сообщений: 799
SergSuper
и не понять как такое можно за 3 часа сляпать


Дык, а взять прочесть статью и реально сляпать слабо? Или крутых программеров пол тыщи строк кода приводит в ужас ? Методом кут анд паст задача отсилы на час тянет.
11 ноя 05, 15:30    [2060770]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
vadiminfo
Member

Откуда: Обнинск
Сообщений: 4802
shuklin

Ващето мне казалось, что мое мнение уже достаточно популяризовано

Нет еще недостаточно. Все-таки есть и другие мнения все еще более популярные. С РБД связывают реляционную эпоху. А с Cerebrum пока ничего.
11 ноя 05, 15:43    [2060887]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
shuklin
Member

Откуда: Харьков
Сообщений: 799
vadiminfo
Нет еще недостаточно. Все-таки есть и другие мнения все еще более популярные. С РБД связывают реляционную эпоху. А с Cerebrum пока ничего.


И как данное утверждение влияет на пример использования СООБЗ Cerebrum описанный в обсуждаемой статье? Ну есть другие мнения, и хорошо что есть, свое мнение я уже изложил.
11 ноя 05, 16:27    [2061202]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
vadiminfo
Member

Откуда: Обнинск
Сообщений: 4802
shuklin

И как данное утверждение влияет на пример использования СООБЗ Cerebrum описанный в обсуждаемой статье?

Наверное, пессимистично.
11 ноя 05, 18:40    [2061735]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
shuklin
Member

Откуда: Харьков
Сообщений: 799
vadiminfo
shuklin

И как данное утверждение влияет на пример использования СООБЗ Cerebrum описанный в обсуждаемой статье?

Наверное, пессимистично.


Ну это Ваше личное мнение, а мое личное мнение полностью противоположно - у РБД мало шансов на выживание в перспективе. Выживут системы близкие к Cerebrum (ООСУБЗ).
11 ноя 05, 18:46    [2061755]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
Cerebrum is For Buggers
Guest
shuklin

Ну это Ваше личное мнение, а мое личное мнение полностью противоположно - у РБД мало шансов на выживание в перспективе. Выживут системы близкие к Cerebrum (ООСУБЗ).

Шо, даже Yukon не выживет, если не станет ООСУБЗ???
11 ноя 05, 19:05    [2061805]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
shuklin
Member

Откуда: Харьков
Сообщений: 799
Cerebrum is For Buggers
shuklin

Ну это Ваше личное мнение, а мое личное мнение полностью противоположно - у РБД мало шансов на выживание в перспективе. Выживут системы близкие к Cerebrum (ООСУБЗ).

Шо, даже Yukon не выживет, если не станет ООСУБЗ???


Если не станет - не выживет, хотя вся текущая ситуация говорит о том, что станет. DLINQ тот же еще один шаг в этом направлении. WinFS - туда же. Единственное что меня в этом грустит - герои из Microsoft уш очень в обход пошли - долго будут бродить. Каждая организация должна иметь свою миссию. У Microsoft & Yukon миссия - отобрать рынок у Oracle - слабовато. С такой миссией придется больше догонять чем быть лидером. Вот если бы ребята из Microsoft в качестве миссии своей СУБД выбрали ту же миссию что и Cerebrum - опустили б всех конкурентов адназначна.
11 ноя 05, 19:18    [2061842]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
vadiminfo
Member

Откуда: Обнинск
Сообщений: 4802
shuklin

Ну это Ваше личное мнение, а мое личное мнение полностью противоположно - у РБД мало шансов на выживание в перспективе. Выживут системы близкие к Cerebrum (ООСУБЗ).

Не тока мое.
Близкие системы к Cerebrum (ООСУБЗ) и к другим нереальным системам не могут сравниваться с реальными системами. Тем более Вы сами не смогли обосновать почему она СУБЗ. А как ОО, она в лучшем случае - библиотека каких-то классов, не имеющих реальное обоснование. На С#, наверное. И до реальной ООСУБД типа Версант ей все равно не дотянуть. Может для распознования речи она что-то сможет, так есть и посильнее системы для этого. Слава Богу, нейронным сетям пол века.
Не понятно почему Вы сами верите в то, что говорите. (или все-таки не верите?). Неужели не ясно, что если было бы что-то стоящее РБД то, оно бы уже себя проявило? Об этом бы все знали, а не тока Вы. Есть типы приложений где РБД не очень, ну там могут ОРСУБД все захватить, но не так эффективно как РБД там где они сильны.
Не знаю. Вы, наверное, просто все время шутите. Разыгрываете аудиторию. Типа - продам лысому расческу.
11 ноя 05, 20:48    [2062068]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
shuklin
Member

Откуда: Харьков
Сообщений: 799
vadiminfo
Не понятно почему Вы сами верите в то, что говорите.

Верю всего лишь потому что твердо намерен исправить все имеющиеся у Cerebrum недоработки и развить ее в полноценную клиент-серверную СУБЗ. Мало того я уверен, что ресурсов у меня для этого достаточно. Разумеется такая работа займет гораздо больше времени чем один год. Ну то не страшно - тот же юкон за пят лет толком не смогли до WinFS доточить. 5-10 лет это более чем нормально и приемлемо для продукта такого масштаба.
13 ноя 05, 15:08    [2063827]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
"Cerebrum" is
Guest
shuklin
5-10 лет это более чем нормально и приемлемо для продукта такого масштаба.

ну да, "...или ишак умрет, или эмир умрет, или я умру" (c) Ходжа Насреддин
13 ноя 05, 15:41    [2063843]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
SergSuper
Member

Откуда: SPb
Сообщений: 5488
shuklin
Слово распознается последовательно, по одной букве - так же как и в слуховом тракте последовательно. Это так.


Кстати вспомнилось
вот опровержение:

По рзелульаттам илссеовадний одонго анлигйсокго унвиертисета, не иеемт занчнеия, в кокам пряокде рсапожолены бкувы в солве. Галвоне, чотбы преавя и пслоендяя бквуы блыи на мсете. Осатьлыне бкувы мгоут селдовтаь в плоонм бсепордяке, все-рвано ткест чтаитсея без побрелм. Пичрионй эгото ялвятеся то, что мы не чиатем кдаужю бкуву по отдльенотси, а все солво цликеом
14 ноя 05, 10:27    [2064914]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
mir
Member

Откуда: Томск
Сообщений: 1027
shuklin
тот же юкон за пят лет толком не смогли до WinFS доточить
Мне Юкон, в общем-то, пока по барабану, но вы уже не впервые упоминаете WinFS, причем явно не понимая, что это такое. Что же вы понимаете под WinFS и что, по-вашему, нужно в Юконе "доточить"?
14 ноя 05, 11:00    [2065099]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
shuklin
Member

Откуда: Харьков
Сообщений: 799
mir
shuklin
тот же юкон за пят лет толком не смогли до WinFS доточить
Мне Юкон, в общем-то, пока по барабану, но вы уже не впервые упоминаете WinFS, причем явно не понимая, что это такое. Что же вы понимаете под WinFS и что, по-вашему, нужно в Юконе "доточить"?


Очередной раз напоминаю, что попытки увода меня в сторону от обсуждения внутренностей Cerebrum мне неинтересны.
14 ноя 05, 13:33    [2065979]     Ответить | Цитировать Сообщить модератору
 Re: Нейронная сеть реализующая автоматную грамматику на основе Cerebrum  [new]
Мимо пробегал...
Guest
shuklin
Очередной раз напоминаю, что попытки увода меня в сторону от обсуждения внутренностей Cerebrum мне неинтересны


Ну нифига себе! Нас значица за нос уводить можно, а наоборот низяяяяя.....
14 ноя 05, 16:16    [2066763]     Ответить | Цитировать Сообщить модератору
Все форумы / Сравнение СУБД Ответить