Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / Программирование Новый топик    Ответить
Топик располагается на нескольких страницах: 1 2 3      [все]
 Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
Мы несколько лет проходили в университете динамические системы, дифф уравнения, стохастические процессы - и все это казалось каким-то адовым бредом.

А оказывается - дифф ур - если выкинуть всю заумь из учебников - это весьма простая и прикольная вещь - это штуки которые описывают процессы которые меняются маленькими шажками, например по времени, как курс акций. Например вот стохастический процесс. Формула одна строчка, пара линий чтобы создать на программе. А попробуй отличи что это не настоящий курс акций.

Картинка с другого сайта.

Картинка с другого сайта.

Картинка с другого сайта.

Сейчас пересматриваю университетскую программу, но уже с другой точки зрения.

Одна из задач - найти компактную аппроксимацию курса акций за 30 лет. Я не знаю как это точно сказать - базис функций, представить это как какую-то систему и т.п. Но - она должна учитывать что у курса акций бывают тренды, повторяющиеся сезонные моменты типа дивидендов или налогов, и т.п. В качестве меры ошибки - можно использовать максимум разницы за 30 лет между аппроксимацией и реальным курсом (максимум, не суму квадратов L2).

Т.е. получается какая-то сложная функция которую не представить ни полиномами, ни синусоидами по отдельности.

Эту аппроксимацию можно будет использовать во-первых чтобы компактно и просто представить скажем топ 100 акций sp500 за последние 30 лет. И в дальнейшем генерировать всевозможные случайные реализации с такими-же параметрами. Получится что-то типа автоэнкодера.
18 май 19, 18:01    [21887894]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
Что-то типа автоэнкодера - в смысле попытаться найти компактное представление, с хорошей точностью описывающее процесс.
18 май 19, 18:03    [21887895]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
Например - у компаний бывает квартальная отчетность, она добровольная, кто-то ее делает кто-то нет, даты тоже точно нет, плюс-минус десять дней туда сюда каждый квартал. И часто по результатам этих отчетов, после публикации - цены либо падают, либо вырастают, либо не меняются.

По идее - алгоритму надо будет скормить СП500 - и он должен каким-то боком определить что существует событие случающееся (не всегда) 4 раза в году, определить примерный диапазон дат которые бывают и т.п.

Или скажем компания репу выращивает, садит весной, копает летом, продает осенью - прибыль осенью, каждый осень рост акций - алгоритм должен как-то понять что у компании есть сезонность.
18 май 19, 18:10    [21887899]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
Dima T
Member

Откуда:
Сообщений: 13936
Есть такое выражение "рынок живет ожиданиями", т.е. текущий курс включает в себя все публичные обещания руководства компании и веру покупателей в это. Например компания Тесла: пока верили в обещания Илона Маска - курс рос, перестали верить - начался спад, а компания все время была убыточная.
Поэтому история курса незначительно определяет его будущее, т.е. математически не предсказать какой будет курс.

PS Забавная статья на эту тему.
19 май 19, 09:54    [21888058]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
alex55555
Member

Откуда:
Сообщений: 2129
private
Что-то типа автоэнкодера - в смысле попытаться найти компактное представление, с хорошей точностью описывающее процесс.

Это не для тебя. В том смысле, что математика там немного посложнее, чем ты навспоминал из института.

В целом анализом рядов (включая котировки) занимались долго и упорно, сезонности всякие давно научились выявлять, но прогнозы дают с большой погрешностью, поэтому если тебе пришла в голову гениальная мысль, мол вот я такой умный (единственный из всех) спрогнозирую рынок и стану богатым, то знай, что таких умных до тебя было миллионы. И все они не очень удачно прогнозировали. Тем более если мы учтём твой крайне низкий уровень в математике...

В общем для выявления сезонности анализ рядов подойдёт, но для этого тебе надо гуглить по фразе "анализ рядов", а потом читать много математики. Не уверен, что справишься.

Хотя может есть какая статистическая софтина, которую можно скачать и скормить ей твои данные, что бы она показала периодические процессы. Но там тоже надо понимать, что, куда и как подавать и откуда результат получать.
19 май 19, 12:23    [21888130]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
fkthat
Member

Откуда:
Сообщений: 1164
Dima T
Есть такое выражение "рынок живет ожиданиями"


Это называется "теория приведенной (дисконтированной) стоимости". Текущая стоимость компании с акционерным капиталом это просто приведенная стоимость её ожидаемых будующих доходов.
19 май 19, 13:22    [21888159]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
автор
...Поэтому история курса незначительно определяет его будущее


Не согласен. Можно сравнить стабильный Макдональдс, либо быстро-растущий Нвидиа (уже быстро падающий, но год назад он был растущим). Сделать предсказание t+1 значения за последние лет 10 - посчитать ошибку - почти наверняка будет хорошее предсказание по макдональдсу, он даже в кризисы не проваливался. И хуже по Нвидиа. Т.е. по истории одной только волатильности можно сделать некие вывод о будущем компании.

Вобщем изучал материалы несколько дней, пока буду заниматься цепями Маркова и Монте-Карло, оказывается это популярная тема, очень много информации по ним. посмотрю что получается на простых экспериментах, и затем перейду к CNN для числовых рядов.

Нашел классный курс, если кому нужно https://lectures.quantecon.org/jl/

Автоэнкодер - я могу его собрать, но это пока действительно слишком сложно. Математику - боль менее осваиваюсь, я не говорил что плохо знал ее, просто в университете это была какая-то совершенно бессмысленная ерунда - ты собрал какую-то конструкцию, все сдал, и благополучно забыл и выкинул ее не понимая ни что это за конструкция ни какая от нее польза.
20 май 19, 06:15    [21888488]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
kealon(Ruslan)
Member

Откуда: Нижневартовск
Сообщений: 5108
private
Эту аппроксимацию можно будет использовать во-первых чтобы компактно и просто представить скажем топ 100 акций sp500 за последние 30 лет. И в дальнейшем генерировать всевозможные случайные реализации с такими-же параметрами. Получится что-то типа автоэнкодера.
Что-то типа автоэнкодера - в смысле попытаться найти компактное представление, с хорошей точностью описывающее процесс.
в общем виде нельзя, не все функции апроксимируются
что бы функция апроксимировалась она должа иметь производную
и если вы хотите сделать симулятор, выдавая значения на основе каких-то апроксимаций, то это заведомо будет нереалистичная фигня
20 май 19, 16:26    [21889014]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1712
private, диффуры - это не только "маленькими шажками", а стохастикоподобность - не только вероятность. Про бифуркации слышал? или действительно, только сдал - и сразу забыл и забил?
Товары,ТПС - по природе своей более устойчивая штука. Даже уже ТНП более чувствительны к скачкАм цен.
В своих предсказаниях ты почему-то не учитывешь такую значимую переменную, как "административное воздействие на цену". Вот щас там презик ввёл пошлины Китаю, так весь юговосточноазиатский валютный рынок просел. А если вспомнишь предысторию нашего 1998-го ...
20 май 19, 16:55    [21889034]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
kealon(Ruslan)
Member

Откуда: Нижневартовск
Сообщений: 5108
Вейерштрасс тихо ухмыляется
20 май 19, 19:39    [21889174]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
автор
В своих предсказаниях ты почему-то не учитывешь такую значимую переменную, как "административное воздействие на цену". Вот щас там презик ввёл пошлины Китаю, так весь юговосточноазиатский валютный рынок просел.


Учитываю. Я поклонник Торпа и Талеба. Предсказать их я не смогу, поэтому буду учитываю за счет допущения таких событий и потерь по ним и ограничения этих потерь.
21 май 19, 09:45    [21889429]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1712
Стартовый вопрос не ясен. Неясна связь дифуров с одномерной регрессией 1-го порядка (что на рисунке). Просто объявить, что возникли такие мысли? Ну, лучше поздно, чем никогда. Судя по всему такие мысли возникают не от хорошей зарплаты. Коли есть время, попробуй - чему-нить научишься.
21 май 19, 11:05    [21889514]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
mayton
Member

Откуда: loopback
Сообщений: 41902
Рискну предположить что автору нужна не аппроксимация а прогнозирование. Это другая задача ИМХО.
21 май 19, 17:18    [21889935]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
vikkiv
Member

Откуда: London
Сообщений: 2410
mayton
искну предположить что...
про прогнозы это только домыслы,
в постановке задачи явно упоминаются аппроксимация (исторических данных),
генерация (компактная) похожих данных, но ничего не говорится о будущем
(временные ряды, марковские цепи, факторный анализ и пр.)

кроме всего прочего посыл у ТСа - чисто математический,
без всяких намёков на собственно функционирование рынка в его бизнес-смысле.
21 май 19, 18:08    [21889980]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
автор
Стартовый вопрос не ясен. Неясна связь дифуров с одномерной регрессией 1-го порядка (что на рисунке).


автор
A stochastic differential equation (SDE) is a differential equation in which one or more of the terms is a stochastic process, resulting in a solution which is also a stochastic process. SDEs are used to model various phenomena such as unstable stock prices or physical systems subject to thermal fluctuations.


автор
Рискну предположить что автору нужна не аппроксимация а прогнозирование. Это другая задача ИМХО.


Это связанные задачи. Чтобы прогнозировать процесс - нужно понимать его природу. Например сделать декомпозицию - выявить тренды, периодичности, и случайную составляющую временного ряда.

Затем ты можешь использовать эту модель для разных задач, например чтобы сгенерировать всевозможные варианты и проверить какие риски - какие потери могут быть в наихудшем случае. Можешь использовать для поиска интересных закономерностей, похожих вариантов - когда у тебя компактное представление - гораздо проще найти похожие компании. И да, можешь еще использовать для прогноза.

Прогноз - лишь малая часть того что нужно. Как верно заметил товарищ выше - проблема которую не решает прогноз - это невозможно учесть редкие непредсказуемые события, они будут. И что хуже - эти события нелинейны, можно выиграть 9 раз из 10 и проиграв лишь раз все потерять. Поэтому прогноз тоже будет, но это не главное. Главное - создать простую модель того что происходит на рынке, чтобы была возможность прогнать симуляции, оценить риски, проверить модель на поведение в непредсказуемых ситуациях.

автор
без всяких намёков на собственно функционирование рынка в его бизнес-смысле.

Да, задача математическая, без бизнес смысла. Интересны только показатели которые можно измерить в цифрах и скормить модели. Никаких других входных данных не интересны.
21 май 19, 23:06    [21890112]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
автор
Стартовый вопрос не ясен. Неясна связь дифуров с одномерной регрессией 1-го порядка (что на рисунке). Просто объявить, что возникли такие мысли? Ну, лучше поздно, чем никогда. Судя по всему такие мысли возникают не от хорошей зарплаты. Коли есть время, попробуй - чему-нить научишься.

Про диффуры я ответил в сообшении выше. Что такое одномерная регрессия 1 порядка? Линейная регрессия? Если так - то как ты собираешься аппроксимировать график истории 20 лет цен акций микрософта линейной регрессией, особенно периодические и сезонные события?
21 май 19, 23:10    [21890113]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
Есть еще один момент - прогноз, его хоть и можно измерить ошибку, это как-то не так наглядно, да у тебя есть ошибка - число, но оно не дает ощущения что там происходит.

Совсем другое дело когда ты пытаешься повторить весь график, всю форму - сразу видно получается что-то или нет.
21 май 19, 23:19    [21890116]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
Еще момент почему интересно именно повторение прошлого, а не будущего. Например - работа с текстом - имея предыдущие N букв - надо предсказывать N+1 букву.

Их можно анализировать по ошибке, но это не дает понимания что там происходит, их потом все-равно анализирует человек чтобы понять - реально получилось что-то близкое к реальности или нет. Дают такой нейросети кусок предложения и просят продолжить - и смотрят что получилось, какой-то шум или реально похоже на нормальный текст.

Но с графиками цен - у нас нет такой возможности, мы смотрим на прогноз цены - и не понимаем это что-то осмысленное или просто шум. Поэтому прогноз цены сложно оценивать, а так - ты попытался повторить всю историю - и либо смог либо нет, по форме сразу видно как получилось.
21 май 19, 23:26    [21890121]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
kealon(Ruslan)
Member

Откуда: Нижневартовск
Сообщений: 5108
private
Еще момент почему интересно именно повторение прошлого, а не будущего. Например - работа с текстом - имея предыдущие N букв - надо предсказывать N+1 букву.

Их можно анализировать по ошибке, но это не дает понимания что там происходит, их потом все-равно анализирует человек чтобы понять - реально получилось что-то близкое к реальности или нет. Дают такой нейросети кусок предложения и просят продолжить - и смотрят что получилось, какой-то шум или реально похоже на нормальный текст.

Но с графиками цен - у нас нет такой возможности, мы смотрим на прогноз цены - и не понимаем это что-то осмысленное или просто шум. Поэтому прогноз цены сложно оценивать, а так - ты попытался повторить всю историю - и либо смог либо нет, по форме сразу видно как получилось.
прогноз собственно и тестят на исторических данных
берут начальный кусок - строят модель и оценивают как сходятся продолжение данных и прогноз из модели
22 май 19, 09:03    [21890271]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
mayton
Member

Откуда: loopback
Сообщений: 41902
Мне была интересная такая тема как генерация тестовых баз на основе реальных данных.
Ну... что-то типа отбеливания бизнес информации.
22 май 19, 10:22    [21890344]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1712
Пусть. Пусть с отсутствием связи стох.дифура с регрессией я поспешил. Но всё остальное ...
private
Что такое одномерная регрессия 1 порядка? Линейная регрессия? Если так - то как ты собираешься аппроксимировать график истории 20 лет цен акций микрософта линейной регрессией, особенно периодические и сезонные события?
То есть это я собираюсь? Извини, дружище, буду прям: у тебя в голове имеется каша mix, кони, люди.
Хучь мы университетов не кончали в отличии от некоторых, но кое-что понимаем фундаментально, академически и в прикладных областях.
Линейная = sum(ki*хi**1)
1-й порядок (ну м.б. термин другой, шаг, стадия ...) = зависимость только от предыдущего значения.
одномерная = F(x1) или F(x2) или ...
Вроде так.

Далее.
private
...выявить тренды, периодичности, и случайную составляющую временного ряда
- это только одна модель, в аддитивном либо мультипликативном представлении, разработанная сугубо для экономических целей.
Для биржевых торгов более полезны другие модели - специализированные.
Все сезонности давно известны, значит это лишь учебная часть задачи.

А насчёт численных прогнозов в конкретной области ... как бы сказать, до сих пор храню бутыль лично от гендира, однако выигранную, можно сказать, у всего населения холдинга.

Примерно так же можно пройтись и по обучению на примерах как частном случае задачи распознавания образов, но не буду. Просто повторно желаю тебе, дружище, успехов в дальнейшей учёбе, по мере которой будут открываться всё более объёмные области незнания. А вот такого, что яйца курицу учат - здесь это лишнее.
22 май 19, 13:21    [21890664]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1712
kealon(Ruslan)
прогноз собственно и тестят на исторических данных
kealon, строго не судите, это ведь личное открытие ТСа.
22 май 19, 13:29    [21890676]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
автор
автор
Но с графиками цен - у нас нет такой возможности, мы смотрим на прогноз цены - и не понимаем это что-то осмысленное или просто шум. Поэтому прогноз цены сложно оценивать, а так - ты попытался повторить всю историю - и либо смог либо нет, по форме сразу видно как получилось.

прогноз собственно и тестят на исторических данных
берут начальный кусок - строят модель и оценивают как сходятся продолжение данных и прогноз из модели


Это понятно - я же написал - мы прогоним по историческим данным и получим некое число - ошибку прогноза. Проблема в том что мы не можем как "эксперт" оценить его.

Например - в обработке текста - при моделировании используется прогноз следующей буквы по предыдущим. И ты тоже можешь посчитать ошибку - будет некое число. Но, еще ты можешь оценить результат как "эксперт" - сгенерировать текст - и прочитать его - и сразу будет видно получилось что-то похожее на осмысленный текст или максимум три-четыре символа предсказываются а дальше идет шум. Прогноз-же числовых рядов мы не можем так проверить, поскольку мы не "эксперты" в этом, мы сами их не понимаем, поэтому как вариант можно попытаться попробовать апроксимировать график за все время и посмотреть похоже или нет.
22 май 19, 16:34    [21890963]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
автор
Линейная = sum(ki*хi**1)
1-й порядок (ну м.б. термин другой, шаг, стадия ...) = зависимость только от предыдущего значения.
одномерная = F(x1) или F(x2) или ...

То что ты написал это некая рекурсия, а не линейная регрессия, посмотри что такое линейная регрессия и сравни со своими формулами. В формуле линейной регрессии нет предыдущих значений, там есть лишь коэффициенты для текущей переменной. Ты вероятно использовал что-то, что внешне похоже на линейную регрессию`sum(ki*хi**1)` - формально выглядит так-же, но в линейной регрессии - xi - будет не предыдущими значениями а элементами вектора текущего значения. У тебя скорей что-то типа движущегося окна с линейной аппроксимацией будущих значений.
22 май 19, 17:08    [21891021]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
Никто не вкурсе - как-то можно сделать чтобы нейросеть выдавала распределение для прогноза? Нейросеть обычно выдает одно число, но хотелось бы получить не одно число а распределение, это как-то можно сделать?

Как один из вариантов - Нашел что у нейросетей есть "температура" - ее можно "нагреть" и добавить случайностей. По идее на такой "нагретой" сети можно затем сделать 1000 немного отличающихся прогнозов и построить по ним гистограмму. Вопрос - это будет что-то реально похожее на распределение, или просто некий случайный артефакт, имеющий похожий вид?

Картинка с другого сайта.
22 май 19, 17:17    [21891039]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
Апдейт, знающие люди подсказали что с температурой не получится, надо как-то по другому.
22 май 19, 17:24    [21891047]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
mayton
Member

Откуда: loopback
Сообщений: 41902
private, это какая-то фейерия мыслей.

Ты знаешь что нейросеть это - конструктор Lego. Как ты ее соберешь - она всегда рабоать будет.
Как детишки балуются с современными играми-трансформерами. Что не соберут - бабушка и мама хвалят.

Вот как дать смысл этой конструкции. Как выбрать ей подходящие входные данные. И как наполнить
смыслом ее выход - вот это настоящий экспертный вопрос.

P.S. Про температуру не слышал. Возможно имеется в виду скорость обучения?
22 май 19, 17:28    [21891053]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
автор
Линейная = sum(ki*хi**1)
1-й порядок (ну м.б. термин другой, шаг, стадия ...) = зависимость только от предыдущего значения.
одномерная = F(x1) или F(x2) или ...
Вроде так.


Посмотрел регрессии - то что ты написал судя по всему называется непараметрическая регрессия, да тоже вариант, не знал про нее, спасибо.
22 май 19, 18:11    [21891101]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
P.S. Про температуру не слышал. Возможно имеется в виду скорость обучения?

Нет, это какой-то параметр функции активации нейросети, он как-то случайно чуть меняет ее форму и из-за этого немного меняется результат.
22 май 19, 18:41    [21891119]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1712
Мэйтон, его температура - в смысле добавить хаоса к поведению. Видимо у него мысль, чтобы не оказаться в 1-й попавшейся локальной яме.
private
По идее на такой "нагретой" сети можно затем сделать 1000 немного отличающихся прогнозов и построить по ним гистограмму. Вопрос - это будет что-то реально похожее на распределение
А как ты понимамешь "распределением"?
Да, какое-то ср.арифметическое у них будет - зуб даю. Будет также и какая-то дисперсия и даже вариации высших порядков. Зависит от того в какие ямы попадёт сетка, нам отсюда не видно.
Вообще же, я впервые на форуме даю совет что-то изучить. В данном случае "плотность распределения", "функцию распределения", их св-ва, и остальной тервер впридачу ихотя бы часть матстатистики. (Например, что сумма независимых событий не должна превосходить 1 ......)
П.С. Что, хоть, за универ, где такого качества знания дают за несколько лет изучения математики?
22 май 19, 19:02    [21891142]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
mayton
Member

Откуда: loopback
Сообщений: 41902
exp98, я понял. Тогда к классической двухслойной сети. Можно добавить что температура это разброс начальных
значений матриц W1, W2 на картинке.

Картинка с другого сайта.
22 май 19, 19:18    [21891163]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
vikkiv
Member

Откуда: London
Сообщений: 2410
22 май 19, 19:38    [21891178]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
exp98 - ты молодец что подсказал про регрессии, но давай ближе к делу все-таки.

Что такое температура нейросети https://cs.stackexchange.com/questions/79241/what-is-temperature-in-lstm-and-neural-networks-generally
Распределение строится так-же как любое распределение по некому сэмплу, например нормализовав гистограмму так чтобы площадь была 1.
22 май 19, 20:17    [21891216]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1712
Прикольный ролик. Мне это напоминает многих водил, желающих сделать разворот через левый пунктир. Так же тупо первая баба тормозит у начала пунктира, остальные также тупо становятся за ней, а потом стой и жди, когда встречка освободится последовательно для каждого из них. Хотя пунктир дальше ещё метров на 10, да и по правилам у тех, что позади, будет помеха справа,а ты - в приоритете. Но в отличии от НС эти водилы не обучаемы.

А ещё я видел распределение типа пуассона в натуре, когда ещё не разогнали ресторан-дебаркадер около моста ещё до минобороны. я тогда часто вечером возвращался по набережной из Лужников. И картина повторялась постоянно. До моста стоят тачки, почему-то в основном чёрные. Дебаркадер после моста. Чем ближе к мосту, тем тачки плотнее, затем в 2 ряда, потом в 3 ряда. За рестораном рядность и плотность быстро спадали. Повторялось из года в год. Видимо энтропия всё-таки убывает.
22 май 19, 20:25    [21891221]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1712
private
Распределение строится так-же как любое распределение по некому сэмплу, например нормализовав гистограмму так чтобы площадь была 1.
Правильно наверное сказали в умном месте, что вместо 1 числа получишь нечто в стиле нечётких значений. И что с того? Постановка задачи есть грамотная?
И всё же, что за универ такой? ЛГУ знаю, МГУ знаю, НГУ, даже МГТУ знаю, ОГУ, ТГУ ... тоже знаю.
Универ? Не слышал.
22 май 19, 20:34    [21891225]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1712
private, забыл добавить, что мгновенный срез (из 1000 точек) ты можешь назвать хоть и распределением. Будет ли оно стационарным, чтобы им пользоваться? Гипотезы надо уметь проверять. Статистика.
22 май 19, 20:37    [21891228]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
Зачем ему быть стационарным? Оно будет считаться заново в каждой точке прогноза.
22 май 19, 20:54    [21891246]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
x1ca4064
Member

Откуда:
Сообщений: 1003
private
Никто не вкурсе - как-то можно сделать чтобы нейросеть выдавала распределение для прогноза? Нейросеть обычно выдает одно число, но хотелось бы получить не одно число а распределение, это как-то можно сделать?


Можно попробовать ансамбль сетей, возможно, разной архитектуры: обученные на одинаковых данных, они дадут разные значения (если не переучить).
22 май 19, 21:24    [21891271]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
kealon(Ruslan)
Member

Откуда: Нижневартовск
Сообщений: 5108
private
автор
пропущено...

прогноз собственно и тестят на исторических данных
берут начальный кусок - строят модель и оценивают как сходятся продолжение данных и прогноз из модели


Это понятно - я же написал - мы прогоним по историческим данным и получим некое число - ошибку прогноза. Проблема в том что мы не можем как "эксперт" оценить его.
...
у всех получается, а у вас нет...
если не можешь оценить как эксперт, т.е. не понимаешь процесса, то и апроксимация у тебя будет - г....
Можно конечно из пушки по воробьям нейросети, но там тоже нужно понимание где что лажает

Нейросети это хайп, и лезущее туда замотивированное необразованное большинство вообще не представляет с чем имеет дело. Тынц по матану к этому делу. Если лень читать ищем "теорема Колмогорова", ключевое "возможно" поностью около неё прыгает.

private
Распределение строится так-же как любое распределение по некому сэмплу, например нормализовав гистограмму так чтобы площадь была 1.
Оно так не строится, а задаётся, например, для моделирования, если нет аналитического представления - называется "интегральный метод"
23 май 19, 00:06    [21891376]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1760
Подытожим:

1 Классика - представить числовой ряд как композицию неких функций. Я так понял это не работает, функция слишком сложная, а даже если и работает то нужно вручную проверять и подбирать параметры, загрузить туда ТОП500 чтобы все автоматом получилось скорей всего не удастся. Не подходит.

2 Классика - представить числовой ряд в виде рекурсии, непараметрическая регрессия, имеет еще романтическое название "ядерное сглаживание". Судя по всему хороший вариант, можно представить цифровой ряд в компактной хоть и рекурсивной форме. И можно получить распределение (не понял пока как именно, но примеры есть).

3 Монте Карло на Цепях Маркова - MCMC, тоже вроде работает, по идее тоже можно получить компактное представление - в виде весов цепи. Можно получить распределение.

4 Нейросети - универсальны. Напрямую распределение на них получить нельзя, но вроде-как таки можно если специально добавить кусок который будет заниматься именно прогнозом вероятностей. Проблемы - LSTM работают плохо, поскольку требуют больших мощностей для обучения и сложной правильной настройки, скорей всего нужно будет экспериментировать с обычными CNN. Минус - нет компактного представления.

5 Вейвлеты - по идее это разновидность 1 подхода, представить числовой ряд как композицию вейвлетов. Но что-то по ним маловато движухи последнее время. Также непонятно как на них считать распределение.

Итого осталось: непараметрическая регрессия, цепи маркова и нейросети.

Далее - хорошо-бы иметь возможность учитывать внешние факторы, как например процентную ставку. Для нейросети она добавляется естественным образом, в регрессию судя по всему тоже ее можно добавить в виде дополнительных слагаемых, с цепи маркова пока непонятно но вроде тоже это как-то можно добавить.

автор
Оно так не строится, а задаётся, например, для моделирования, если нет аналитического представления - называется "интегральный метод"


Наверно так, но мне не нужно аналитическое представление. Оно будет эмпирическое в виде нормализованной гистограммы, его можно будет нарисовать чтобы оценить визуально, и использовать для генерации случайной выборки, мне этого достаточно, получать распределение в каком-то аналитическом виде не нужно.

Мне и нужно только для моделирования что такое интегральный метод - как я себе это представляю - на гистограмме мы считаем ширину столбца и считаем его площадь. Затем суммируем все столбцы и нормализуем их высоту так чтобы в сумме была единица.

П.С.

Зачем нужно распределение - чтобы просчитать все возможные варианты и оценить риски. Прогноз - первый шаг, затем нужно еще посмотреть что именно надо делать с этим прогнозом - посмотреть какие варианты есть что получается, какие могут быт убытки в наихудшем случае и выбрать оптимальное действие.
23 май 19, 08:36    [21891451]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
kealon(Ruslan)
Member

Откуда: Нижневартовск
Сообщений: 5108
private,

всё намешали

Монте Карло - это методы моделирования, которые позволяют оценить распределение какой-то "сложной" функции f(x1,x2,...) от независимых параметров

4-е это упрощение 1-го, обычно берётся векторное произведение
2-е куда-то к фракталам уходит - хз как его применять на реальности

т.е. ваш алгоритм
  • построить апроксимацию от ряда параметров f(x1,x2,...), т.е. построить чёрный ящик, чем вы это будете делать - 1| 2 | 4| 5
  • оценить распределение f(x1,x2,...) , моделируя входные параметры, - это М-К

    теперь вопрос, каким образом исходя из вышеизложженного можно сделать нижеописанное?
    private
    Зачем нужно распределение - чтобы просчитать все возможные варианты и оценить риски. Прогноз - первый шаг, затем нужно еще посмотреть что именно надо делать с этим прогнозом - посмотреть какие варианты есть что получается, какие могут быт убытки в наихудшем случае и выбрать оптимальное действие.
  • 23 май 19, 09:04    [21891476]     Ответить | Цитировать Сообщить модератору
     Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
    mayton
    Member

    Откуда: loopback
    Сообщений: 41902
    private
    5 Вейвлеты - по идее это разновидность 1 подхода, представить числовой ряд как композицию вейвлетов. Но что-то по ним маловато движухи последнее время. Также непонятно как на них считать распределение.

    Слабак. Какая тебе нужна движуха?

    Анализ не любит суеты. Сиди себе и анализируй.
    23 май 19, 09:23    [21891497]     Ответить | Цитировать Сообщить модератору
     Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
    private
    Member

    Откуда:
    Сообщений: 1760
    автор
    оценить распределение f(x1,x2,...) , моделируя входные параметры, - это М-К


    Нет, будет следующее. Делаем прогноз для Микрософта, у нас есть цена на сегодня - 100$, мы прогоняем Монте-Карло на завтра, и получаем следующее распределение, где всего один параметр - цена. Функция распределения задана эмпирически и имеет следущий вид (если на вход функции подать цен в указанном диапазоне - функция вернет значение по стрелке)

    Ptomorrow(price) = 96-98$ -> .03 | 99-101$ -> .06  | 102-104$ -> .03 | else -> 0
    


    Теперь, нам нужно определить - стоит покупать акцию или нет, мы берем эмпирическое распределение цены Микрософт на завтра - генерируем по нему сэмпл на 100 значений, и делаем 100 раз расчет прибыли - затем суммируем все - и смотрим если сумма больше нуля - покупаем, если меньше - не покупаем.

    (вообще мы можем принять решение даже без распределения, я привел этот способ использования распределения просто как пример, реальный расчет будет сложнее и там будут нужны вероятности, но сама идея та-же).
    23 май 19, 10:00    [21891540]     Ответить | Цитировать Сообщить модератору
     Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
    mayton
    Member

    Откуда: loopback
    Сообщений: 41902
    vikkiv

    На верхнем видео не видно факторов которые влияют на обучение.

    Вот на следующем видео есть тачка. Она - абсолютно слепая. Кроме трёх датчиков расстояния. Они меняют статус
    с зеленого на красный когда есть помеха и влияют на обучение двухслойной сети которая приведена вверху.

    Жалко только что не обозначили связь с рулем и акселератором. Но это видео более познавательно с точки зрения
    того откуда берутся данные для обучения.

    23 май 19, 10:21    [21891572]     Ответить | Цитировать Сообщить модератору
     Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
    alex55555
    Member

    Откуда:
    Сообщений: 2129
    private
    Зачем нужно распределение - чтобы просчитать все возможные варианты и оценить риски.

    Тебе-ж говорено - нереально. Хотя бабло твоё, тебе его и просирать.

    Все возможные варианты включают диапазон от падения на 50% до роста на 50%. Вот и считай риски. А наиболее вероятный вариант, это размазанный диапазон, в сравнении с которым простейший тренд даёт лучший прогноз.
    23 май 19, 12:44    [21891800]     Ответить | Цитировать Сообщить модератору
     Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
    mayton
    Member

    Откуда: loopback
    Сообщений: 41902
    Можно трейдера посадить и платить ему. Пускай предсказывает.
    23 май 19, 12:57    [21891822]     Ответить | Цитировать Сообщить модератору
     Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
    vikkiv
    Member

    Откуда: London
    Сообщений: 2410
    У Intel кстати целые линейки под такие расчёты есть, на любой вкус
    скалярные (xeon/платинум) векторные: (Xe), матричные: {Nervana, Movidus
    , Mobileye} и т.д. {Stratix, AgileX, Arria'10} ..
    не говоря уже о со-процессорах для DataScience под PCIe слоты на 60 ядер
    Xeon Phi Coprocessor 5110P

    Вот к примеру под NN
    http://software.intel.com/en-us/movidius-ncs
    http://www.intel.ai/nervana-nnp/
    23 май 19, 20:40    [21892492]     Ответить | Цитировать Сообщить модератору
     Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
    vikkiv
    Member

    Откуда: London
    Сообщений: 2410
    у нас на R много расчётов (решили что пока встроенного Machine Learning Services хватает в SQL Server 2017/2019)
    так использование оптимизированных под Intel MKL библиотек ускорило производительность в 20 раз,
    вместе с переписыванием кода под RevoScaleR функции - сняло кучу проблем и граблей,
    даже теперь со Spark/DataBricks не приходится заморачиваться (отказались)
    23 май 19, 20:46    [21892495]     Ответить | Цитировать Сообщить модератору
     Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
    private
    Member

    Откуда:
    Сообщений: 1760
    автор
    автор
    Зачем нужно распределение - чтобы просчитать все возможные варианты и оценить риски.

    Тебе-ж говорено - нереально. Хотя бабло твоё, тебе его и просирать.
    Все возможные варианты включают диапазон от падения на 50% до роста на 50%. Вот и считай риски. А наиболее вероятный вариант, это размазанный диапазон, в сравнении с которым простейший тренд даёт лучший прогноз.


    Ты ошибаешься. Целый раздел трейдинга - опционы - основан именно на оценке будущей волатильности. Плюс - есть классические регрессионные модели которые считают это распределение в том или ином виде. Неясно точно как именно ее считать на нейросетях, но там тоже есть варианты.

    В интернете куча таких графиков

    Картинка с другого сайта.

    автор
    так использование оптимизированных под Intel MKL библиотек ускорило производительность в 20 раз


    Интересный подход, буду иметь в виду если нужна будет больше мощности.
    24 май 19, 01:54    [21892591]     Ответить | Цитировать Сообщить модератору
     Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
    private
    Member

    Откуда:
    Сообщений: 1760
    Фейсбук сделал Пророка

    https://github.com/facebook/prophet
    Интересное чтиво как он работает https://peerj.com/preprints/3190.pdf

    Пока читал обнаружил что оказывается, есть вероятностные языки программирования, и пророк реализован на одном из таких языков Stan
    Детали про такие языки
    24 май 19, 10:17    [21892799]     Ответить | Цитировать Сообщить модератору
     Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
    vikkiv
    Member

    Откуда: London
    Сообщений: 2410
    private
    ....есть классические регрессионные модели которые считают это распределение в том или ином виде. Неясно точно как именно ее считать на нейросетях, но там тоже есть варианты....
    смешались в кучу люди, кони, мухи, котлеты, ещё CI на Decision Tree посчитай..
    это ведь сеть, там путь/состояние сети по нодам будет исход выбрасывать,
    так что скорее подойдёт таблица возможных результатов, или тот график
    который у maython на видео в правом верхнем углу,
    если уж так охота - оцифруй его на диапазон,
    но там запросто может получится +/- бесконечность
    это к тому что не надо страдать одержимостью натянуть сову на глобус,
    и пытаться применить концепцию в чистом виде туда где она не подходит,
    какая-то форма идеи может в результате получится - но очень модифицировано
    (напр. множество регионов/диапазонов исходов,
    причём с пробелами между ними, т.е. мультимодальное распр.)
    24 май 19, 11:58    [21892991]     Ответить | Цитировать Сообщить модератору
    Топик располагается на нескольких страницах: 1 2 3      [все]
    Все форумы / Программирование Ответить