Добро пожаловать в форум, Guest  >>   Войти | Регистрация | Поиск | Правила | В избранное | Подписаться
Все форумы / Программирование Новый топик    Ответить
Топик располагается на нескольких страницах: [1] 2 3   вперед  Ctrl      все
 Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
Мы несколько лет проходили в университете динамические системы, дифф уравнения, стохастические процессы - и все это казалось каким-то адовым бредом.

А оказывается - дифф ур - если выкинуть всю заумь из учебников - это весьма простая и прикольная вещь - это штуки которые описывают процессы которые меняются маленькими шажками, например по времени, как курс акций. Например вот стохастический процесс. Формула одна строчка, пара линий чтобы создать на программе. А попробуй отличи что это не настоящий курс акций.

Картинка с другого сайта.

Картинка с другого сайта.

Картинка с другого сайта.

Сейчас пересматриваю университетскую программу, но уже с другой точки зрения.

Одна из задач - найти компактную аппроксимацию курса акций за 30 лет. Я не знаю как это точно сказать - базис функций, представить это как какую-то систему и т.п. Но - она должна учитывать что у курса акций бывают тренды, повторяющиеся сезонные моменты типа дивидендов или налогов, и т.п. В качестве меры ошибки - можно использовать максимум разницы за 30 лет между аппроксимацией и реальным курсом (максимум, не суму квадратов L2).

Т.е. получается какая-то сложная функция которую не представить ни полиномами, ни синусоидами по отдельности.

Эту аппроксимацию можно будет использовать во-первых чтобы компактно и просто представить скажем топ 100 акций sp500 за последние 30 лет. И в дальнейшем генерировать всевозможные случайные реализации с такими-же параметрами. Получится что-то типа автоэнкодера.
18 май 19, 18:01    [21887894]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
Что-то типа автоэнкодера - в смысле попытаться найти компактное представление, с хорошей точностью описывающее процесс.
18 май 19, 18:03    [21887895]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
Например - у компаний бывает квартальная отчетность, она добровольная, кто-то ее делает кто-то нет, даты тоже точно нет, плюс-минус десять дней туда сюда каждый квартал. И часто по результатам этих отчетов, после публикации - цены либо падают, либо вырастают, либо не меняются.

По идее - алгоритму надо будет скормить СП500 - и он должен каким-то боком определить что существует событие случающееся (не всегда) 4 раза в году, определить примерный диапазон дат которые бывают и т.п.

Или скажем компания репу выращивает, садит весной, копает летом, продает осенью - прибыль осенью, каждый осень рост акций - алгоритм должен как-то понять что у компании есть сезонность.
18 май 19, 18:10    [21887899]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
Dima T
Member

Откуда:
Сообщений: 13915
Есть такое выражение "рынок живет ожиданиями", т.е. текущий курс включает в себя все публичные обещания руководства компании и веру покупателей в это. Например компания Тесла: пока верили в обещания Илона Маска - курс рос, перестали верить - начался спад, а компания все время была убыточная.
Поэтому история курса незначительно определяет его будущее, т.е. математически не предсказать какой будет курс.

PS Забавная статья на эту тему.
19 май 19, 09:54    [21888058]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
alex55555
Member

Откуда:
Сообщений: 2129
private
Что-то типа автоэнкодера - в смысле попытаться найти компактное представление, с хорошей точностью описывающее процесс.

Это не для тебя. В том смысле, что математика там немного посложнее, чем ты навспоминал из института.

В целом анализом рядов (включая котировки) занимались долго и упорно, сезонности всякие давно научились выявлять, но прогнозы дают с большой погрешностью, поэтому если тебе пришла в голову гениальная мысль, мол вот я такой умный (единственный из всех) спрогнозирую рынок и стану богатым, то знай, что таких умных до тебя было миллионы. И все они не очень удачно прогнозировали. Тем более если мы учтём твой крайне низкий уровень в математике...

В общем для выявления сезонности анализ рядов подойдёт, но для этого тебе надо гуглить по фразе "анализ рядов", а потом читать много математики. Не уверен, что справишься.

Хотя может есть какая статистическая софтина, которую можно скачать и скормить ей твои данные, что бы она показала периодические процессы. Но там тоже надо понимать, что, куда и как подавать и откуда результат получать.
19 май 19, 12:23    [21888130]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
fkthat
Member

Откуда:
Сообщений: 1163
Dima T
Есть такое выражение "рынок живет ожиданиями"


Это называется "теория приведенной (дисконтированной) стоимости". Текущая стоимость компании с акционерным капиталом это просто приведенная стоимость её ожидаемых будующих доходов.
19 май 19, 13:22    [21888159]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
автор
...Поэтому история курса незначительно определяет его будущее


Не согласен. Можно сравнить стабильный Макдональдс, либо быстро-растущий Нвидиа (уже быстро падающий, но год назад он был растущим). Сделать предсказание t+1 значения за последние лет 10 - посчитать ошибку - почти наверняка будет хорошее предсказание по макдональдсу, он даже в кризисы не проваливался. И хуже по Нвидиа. Т.е. по истории одной только волатильности можно сделать некие вывод о будущем компании.

Вобщем изучал материалы несколько дней, пока буду заниматься цепями Маркова и Монте-Карло, оказывается это популярная тема, очень много информации по ним. посмотрю что получается на простых экспериментах, и затем перейду к CNN для числовых рядов.

Нашел классный курс, если кому нужно https://lectures.quantecon.org/jl/

Автоэнкодер - я могу его собрать, но это пока действительно слишком сложно. Математику - боль менее осваиваюсь, я не говорил что плохо знал ее, просто в университете это была какая-то совершенно бессмысленная ерунда - ты собрал какую-то конструкцию, все сдал, и благополучно забыл и выкинул ее не понимая ни что это за конструкция ни какая от нее польза.
20 май 19, 06:15    [21888488]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
kealon(Ruslan)
Member

Откуда: Нижневартовск
Сообщений: 5107
private
Эту аппроксимацию можно будет использовать во-первых чтобы компактно и просто представить скажем топ 100 акций sp500 за последние 30 лет. И в дальнейшем генерировать всевозможные случайные реализации с такими-же параметрами. Получится что-то типа автоэнкодера.
Что-то типа автоэнкодера - в смысле попытаться найти компактное представление, с хорошей точностью описывающее процесс.
в общем виде нельзя, не все функции апроксимируются
что бы функция апроксимировалась она должа иметь производную
и если вы хотите сделать симулятор, выдавая значения на основе каких-то апроксимаций, то это заведомо будет нереалистичная фигня
20 май 19, 16:26    [21889014]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1674
private, диффуры - это не только "маленькими шажками", а стохастикоподобность - не только вероятность. Про бифуркации слышал? или действительно, только сдал - и сразу забыл и забил?
Товары,ТПС - по природе своей более устойчивая штука. Даже уже ТНП более чувствительны к скачкАм цен.
В своих предсказаниях ты почему-то не учитывешь такую значимую переменную, как "административное воздействие на цену". Вот щас там презик ввёл пошлины Китаю, так весь юговосточноазиатский валютный рынок просел. А если вспомнишь предысторию нашего 1998-го ...
20 май 19, 16:55    [21889034]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
kealon(Ruslan)
Member

Откуда: Нижневартовск
Сообщений: 5107
Вейерштрасс тихо ухмыляется
20 май 19, 19:39    [21889174]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
автор
В своих предсказаниях ты почему-то не учитывешь такую значимую переменную, как "административное воздействие на цену". Вот щас там презик ввёл пошлины Китаю, так весь юговосточноазиатский валютный рынок просел.


Учитываю. Я поклонник Торпа и Талеба. Предсказать их я не смогу, поэтому буду учитываю за счет допущения таких событий и потерь по ним и ограничения этих потерь.
21 май 19, 09:45    [21889429]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1674
Стартовый вопрос не ясен. Неясна связь дифуров с одномерной регрессией 1-го порядка (что на рисунке). Просто объявить, что возникли такие мысли? Ну, лучше поздно, чем никогда. Судя по всему такие мысли возникают не от хорошей зарплаты. Коли есть время, попробуй - чему-нить научишься.
21 май 19, 11:05    [21889514]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
mayton
Member

Откуда: loopback
Сообщений: 41808
Рискну предположить что автору нужна не аппроксимация а прогнозирование. Это другая задача ИМХО.
21 май 19, 17:18    [21889935]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
vikkiv
Member

Откуда: London
Сообщений: 2399
mayton
искну предположить что...
про прогнозы это только домыслы,
в постановке задачи явно упоминаются аппроксимация (исторических данных),
генерация (компактная) похожих данных, но ничего не говорится о будущем
(временные ряды, марковские цепи, факторный анализ и пр.)

кроме всего прочего посыл у ТСа - чисто математический,
без всяких намёков на собственно функционирование рынка в его бизнес-смысле.
21 май 19, 18:08    [21889980]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
автор
Стартовый вопрос не ясен. Неясна связь дифуров с одномерной регрессией 1-го порядка (что на рисунке).


автор
A stochastic differential equation (SDE) is a differential equation in which one or more of the terms is a stochastic process, resulting in a solution which is also a stochastic process. SDEs are used to model various phenomena such as unstable stock prices or physical systems subject to thermal fluctuations.


автор
Рискну предположить что автору нужна не аппроксимация а прогнозирование. Это другая задача ИМХО.


Это связанные задачи. Чтобы прогнозировать процесс - нужно понимать его природу. Например сделать декомпозицию - выявить тренды, периодичности, и случайную составляющую временного ряда.

Затем ты можешь использовать эту модель для разных задач, например чтобы сгенерировать всевозможные варианты и проверить какие риски - какие потери могут быть в наихудшем случае. Можешь использовать для поиска интересных закономерностей, похожих вариантов - когда у тебя компактное представление - гораздо проще найти похожие компании. И да, можешь еще использовать для прогноза.

Прогноз - лишь малая часть того что нужно. Как верно заметил товарищ выше - проблема которую не решает прогноз - это невозможно учесть редкие непредсказуемые события, они будут. И что хуже - эти события нелинейны, можно выиграть 9 раз из 10 и проиграв лишь раз все потерять. Поэтому прогноз тоже будет, но это не главное. Главное - создать простую модель того что происходит на рынке, чтобы была возможность прогнать симуляции, оценить риски, проверить модель на поведение в непредсказуемых ситуациях.

автор
без всяких намёков на собственно функционирование рынка в его бизнес-смысле.

Да, задача математическая, без бизнес смысла. Интересны только показатели которые можно измерить в цифрах и скормить модели. Никаких других входных данных не интересны.
21 май 19, 23:06    [21890112]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
автор
Стартовый вопрос не ясен. Неясна связь дифуров с одномерной регрессией 1-го порядка (что на рисунке). Просто объявить, что возникли такие мысли? Ну, лучше поздно, чем никогда. Судя по всему такие мысли возникают не от хорошей зарплаты. Коли есть время, попробуй - чему-нить научишься.

Про диффуры я ответил в сообшении выше. Что такое одномерная регрессия 1 порядка? Линейная регрессия? Если так - то как ты собираешься аппроксимировать график истории 20 лет цен акций микрософта линейной регрессией, особенно периодические и сезонные события?
21 май 19, 23:10    [21890113]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
Есть еще один момент - прогноз, его хоть и можно измерить ошибку, это как-то не так наглядно, да у тебя есть ошибка - число, но оно не дает ощущения что там происходит.

Совсем другое дело когда ты пытаешься повторить весь график, всю форму - сразу видно получается что-то или нет.
21 май 19, 23:19    [21890116]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
Еще момент почему интересно именно повторение прошлого, а не будущего. Например - работа с текстом - имея предыдущие N букв - надо предсказывать N+1 букву.

Их можно анализировать по ошибке, но это не дает понимания что там происходит, их потом все-равно анализирует человек чтобы понять - реально получилось что-то близкое к реальности или нет. Дают такой нейросети кусок предложения и просят продолжить - и смотрят что получилось, какой-то шум или реально похоже на нормальный текст.

Но с графиками цен - у нас нет такой возможности, мы смотрим на прогноз цены - и не понимаем это что-то осмысленное или просто шум. Поэтому прогноз цены сложно оценивать, а так - ты попытался повторить всю историю - и либо смог либо нет, по форме сразу видно как получилось.
21 май 19, 23:26    [21890121]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
kealon(Ruslan)
Member

Откуда: Нижневартовск
Сообщений: 5107
private
Еще момент почему интересно именно повторение прошлого, а не будущего. Например - работа с текстом - имея предыдущие N букв - надо предсказывать N+1 букву.

Их можно анализировать по ошибке, но это не дает понимания что там происходит, их потом все-равно анализирует человек чтобы понять - реально получилось что-то близкое к реальности или нет. Дают такой нейросети кусок предложения и просят продолжить - и смотрят что получилось, какой-то шум или реально похоже на нормальный текст.

Но с графиками цен - у нас нет такой возможности, мы смотрим на прогноз цены - и не понимаем это что-то осмысленное или просто шум. Поэтому прогноз цены сложно оценивать, а так - ты попытался повторить всю историю - и либо смог либо нет, по форме сразу видно как получилось.
прогноз собственно и тестят на исторических данных
берут начальный кусок - строят модель и оценивают как сходятся продолжение данных и прогноз из модели
22 май 19, 09:03    [21890271]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
mayton
Member

Откуда: loopback
Сообщений: 41808
Мне была интересная такая тема как генерация тестовых баз на основе реальных данных.
Ну... что-то типа отбеливания бизнес информации.
22 май 19, 10:22    [21890344]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1674
Пусть. Пусть с отсутствием связи стох.дифура с регрессией я поспешил. Но всё остальное ...
private
Что такое одномерная регрессия 1 порядка? Линейная регрессия? Если так - то как ты собираешься аппроксимировать график истории 20 лет цен акций микрософта линейной регрессией, особенно периодические и сезонные события?
То есть это я собираюсь? Извини, дружище, буду прям: у тебя в голове имеется каша mix, кони, люди.
Хучь мы университетов не кончали в отличии от некоторых, но кое-что понимаем фундаментально, академически и в прикладных областях.
Линейная = sum(ki*хi**1)
1-й порядок (ну м.б. термин другой, шаг, стадия ...) = зависимость только от предыдущего значения.
одномерная = F(x1) или F(x2) или ...
Вроде так.

Далее.
private
...выявить тренды, периодичности, и случайную составляющую временного ряда
- это только одна модель, в аддитивном либо мультипликативном представлении, разработанная сугубо для экономических целей.
Для биржевых торгов более полезны другие модели - специализированные.
Все сезонности давно известны, значит это лишь учебная часть задачи.

А насчёт численных прогнозов в конкретной области ... как бы сказать, до сих пор храню бутыль лично от гендира, однако выигранную, можно сказать, у всего населения холдинга.

Примерно так же можно пройтись и по обучению на примерах как частном случае задачи распознавания образов, но не буду. Просто повторно желаю тебе, дружище, успехов в дальнейшей учёбе, по мере которой будут открываться всё более объёмные области незнания. А вот такого, что яйца курицу учат - здесь это лишнее.
22 май 19, 13:21    [21890664]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
exp98
Member

Откуда:
Сообщений: 1674
kealon(Ruslan)
прогноз собственно и тестят на исторических данных
kealon, строго не судите, это ведь личное открытие ТСа.
22 май 19, 13:29    [21890676]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
автор
автор
Но с графиками цен - у нас нет такой возможности, мы смотрим на прогноз цены - и не понимаем это что-то осмысленное или просто шум. Поэтому прогноз цены сложно оценивать, а так - ты попытался повторить всю историю - и либо смог либо нет, по форме сразу видно как получилось.

прогноз собственно и тестят на исторических данных
берут начальный кусок - строят модель и оценивают как сходятся продолжение данных и прогноз из модели


Это понятно - я же написал - мы прогоним по историческим данным и получим некое число - ошибку прогноза. Проблема в том что мы не можем как "эксперт" оценить его.

Например - в обработке текста - при моделировании используется прогноз следующей буквы по предыдущим. И ты тоже можешь посчитать ошибку - будет некое число. Но, еще ты можешь оценить результат как "эксперт" - сгенерировать текст - и прочитать его - и сразу будет видно получилось что-то похожее на осмысленный текст или максимум три-четыре символа предсказываются а дальше идет шум. Прогноз-же числовых рядов мы не можем так проверить, поскольку мы не "эксперты" в этом, мы сами их не понимаем, поэтому как вариант можно попытаться попробовать апроксимировать график за все время и посмотреть похоже или нет.
22 май 19, 16:34    [21890963]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
автор
Линейная = sum(ki*хi**1)
1-й порядок (ну м.б. термин другой, шаг, стадия ...) = зависимость только от предыдущего значения.
одномерная = F(x1) или F(x2) или ...

То что ты написал это некая рекурсия, а не линейная регрессия, посмотри что такое линейная регрессия и сравни со своими формулами. В формуле линейной регрессии нет предыдущих значений, там есть лишь коэффициенты для текущей переменной. Ты вероятно использовал что-то, что внешне похоже на линейную регрессию`sum(ki*хi**1)` - формально выглядит так-же, но в линейной регрессии - xi - будет не предыдущими значениями а элементами вектора текущего значения. У тебя скорей что-то типа движущегося окна с линейной аппроксимацией будущих значений.
22 май 19, 17:08    [21891021]     Ответить | Цитировать Сообщить модератору
 Re: Аппроксимация цен на акции, базис функций, фракталы, стохастические дифф-ур, autoencoder  [new]
private
Member

Откуда:
Сообщений: 1758
Никто не вкурсе - как-то можно сделать чтобы нейросеть выдавала распределение для прогноза? Нейросеть обычно выдает одно число, но хотелось бы получить не одно число а распределение, это как-то можно сделать?

Как один из вариантов - Нашел что у нейросетей есть "температура" - ее можно "нагреть" и добавить случайностей. По идее на такой "нагретой" сети можно затем сделать 1000 немного отличающихся прогнозов и построить по ним гистограмму. Вопрос - это будет что-то реально похожее на распределение, или просто некий случайный артефакт, имеющий похожий вид?

Картинка с другого сайта.
22 май 19, 17:17    [21891039]     Ответить | Цитировать Сообщить модератору
Топик располагается на нескольких страницах: [1] 2 3   вперед  Ctrl      все
Все форумы / Программирование Ответить