Блог об Интернет-Трейдинге

В данной публикации «Прогнозирование финансовых рынков. Нейросети. Однослойный персептрон.» хочу продемонстрировать работу самой простой нейронной сети — однослойный персептрон к прогнозирование финансовых рынков. Что такое однослойный персептрон (есть мнение, что правильнее перцептрон)?
Автор персептрона (F.Rosenblatt, 1957) рассматривал своё изобретение, как некоторую модель работы мозга. Но не будем останавливаться на биологических особенностях нейросетей.
Итак, однослойный персептрон. Схема персептрона представлена ниже.

x[k] — входные элементы (если говорить о теме прогнозирование финансовых рынков ими могут выступать цены, значения индикаторов, макроэкономические показатели и т.д.);
w[k] — веса (это те элементы, которые необходимо определить);
S=x[1]*w[1]+x[2]*w[2]+…+x[n]*w[n];
f — это функция активации (видов функций активации очень много, самый простой пример: если z>0, то f(z)=1, если z<0, то f(z)=0);
Y=f(S), это выход сети (если говорить о теме прогнозирование финансовых рынков, то выходами могут выступать как и в случае входов — цены, значения индикаторов, макроэкономические показатели и т.д.);
b — это сдвиг (во многих случаях его принимают равным 0, сделаем так и мы).
Теперь о том, как использовать эту схему для прогнозирование финансовых рынков. Замечу, что это не совсем статистическое прогнозирование цен. В данной публикации рассматриваются котировки форекс (forex) — дневные цены закрытия EURUSD.
1. Берем данные и нормируем. В нашем случае (с EURUSD) цены закрытия обрабатывались функцией g(Close[j])=1/(1+e^(-Close[j]))=x[j]. Это нужно для того, чтобы данные были в интервале [-1;1].
2. Разбиваем полученные значения на 2 части — обучающую выборку и проверочную (в случае с EURUSD обучающая выборка составила 29 значений). Определяемся с количеством элементов, подаваемых на вход сети, то есть с количеством иксов (в примере выбрано 10 иксов). Количество весов равно количеству иксов.
3. Присваиваем весам случайные значения (по своему скромному опыту — лучше брать сначала 0).
4. Считаем S.
5. Считаем Y. Как писалось выше Y=f(S). Для EURUSD в качестве f выступала уже известная функция g(S)=1/(1+e^(-S)). Получили некоторое значение Y. Так как нас интересует значение Y, которое является нормированной ценой закрытия, на 11-м шаге (наш прогноз), то мы сравниваем полученное Y на 11-м шаге с реальной (известной нам) нормированной ценой закрытия на 11-м шаге. Безусловно, что вначале они не совпадают. Поэтому мы берём и считаем ошибку путём вычитания из реального значения полученного. Дальше с теми же весами «смещаемся вправо» на один шаг и рассчитываем S=x[2]*w[1]+x[3]*w[2]+…+x[11]*w[10], дальше Y. Потом снова считаем ошибку прогноза на 12 шаге. И так продолжаем до конца обучающей выборки (то есть до 30 элемента). Получили 19 ошибок, которые необходимо просуммировать и поделить на 19 (эта «конечная» ошибка запоминается).
6. Дальше, по формуле w[p+1]=w[p]+h*e(p)*x(p) происходит коррекция весов.
e(p) — нам известно (это «конечная» ошибка, посчитанная на предыдущем шаге), w — это веса (нужно отметить, что порядковые номера остаются неизменными, то есть от 1 до 10, тут показано, что p+1 — это значит все 10 значений изменились, то есть p — это счётчик итераций), x[p] — это те же иксы с порядковыми номерами от 1 до 10 в случае если прогноз на 11-м шаге не совпал с реальным значением (если произошло совпадение, то иксы сдвигаются «вправо» на один шаг), h — число, которое влияет на скорость обучения (выбирается произвольно в зависимости от ситуации — в случае с EURUSD h=0,4). Итерация завершена.
7. Переходим на шаг 4. Если на шаге 5, полученная «конечная» ошибка больше чем ошибка на предыдущей итерации, то процесс обучения заканчивается и искомыми весами будут веса, полученные на предыдущей итерации. Таким образом получаем 10 весов и нам известно 10 иксов, считаем S, а потом считаем Y — это и будет наш прогноз на один шаг.
Вернёмся к нашему конкретному примеру прогнозирование финансовых рынков, а в частности — EURUSD. Была написана программка, которая реализует вышеописанное и ниже представлен график из программки с двумя кривыми — красной (прогноз на один шаг) и зелёной (реальные значения).

Как видно из графика, нейросеть на основе однослойного персептрона, мягко говоря, не очень хорошо делает прогнозирование финансовых рынков.
Вывод: модель в рассмотренном формате (когда брались только цены закрытия и вышеизложенный метод коррекции весов) непригодна для прогнозирование финансовых рынков.
От себя добавлю. Как вариант, для обучения (подбора весов) однослойного персептрона скорее всего лучше использовать генетические алгоритмы.

Во многих публикациях аналитики финансовых рынков пишут что-то типа: «…доллар коррелирует с ценами на нефть…». Что же значит слово «коррелирует»? Это слово является производным от слова корреляция. Если говорить по простому, то корреляция — это взаимосвязь между двумя величинами. То есть можно перефразировать фразу выше: «…доллар взаимосвязан с ценами на нефть…».
По определению, корреляция — это статистическая или вероятностная взаимосвязь двух и более величин. Корреляция имеет некоторую меру, которой служит коэффициент корреляции. Коэффициент корреляции может принимать значения от -1 до 1. Если значение, которое принимает коэффициент корреляции около +1, то говорят, о сильной положительной корреляции между двумя величинами (то есть два графика цен очень похожи и цена на одном движется почти синхронно с ценой на другом). Если значение, которое принимает коэффициент корреляции около -1, то говорят, что корреляция отрицательная между двумя величинами (то есть два графика цен почти полностью противоположны и цены на графиках движутся в противоположных направлениях: на одном — вверх, а на другом — вниз). Если значение, которое принимает коэффициент корреляции около 0, то в таком случае корреляция между двумя величинами отсутствует (то есть заметить хоть какую нибудь взаимосвязь между графиками невозможно). Каким образом рассчитывается коэффициент корреляции?
Коэффициент корреляции получаем следующим образом:

где
X, Y — собственно ряды;
то, что в знаменателе — произведение корней дисперсий рядов;

n — длина ряда;
то, что отнимается от X (читается «мю») — среднее значение ряда Х;
то, что отнимается от Y — среднее значение ряда Y.
Так рассчитывается коэффициент корреляции для двух рядов. Что же делать если рядов больше? Каким образом использовать коэффициент корреляции в этом случае? Для этого существует корреляционная матрица, элементами которой являются взаимные корреляции между переменными (т.е. масив, каждый элемент которого — коэффициент корреляции). Для трёх рядов (например X, Y и Z) корреляционная матрица вычисляется следующим образом:

где

Так как под рукой были только котировки с форекса, то приведу пример корреляционной матрицы, в расчет которой брались дневные значения цен закрытия (каждый ряд — 2059 значений).

По данной корреляционной матрице видно, что, например, между AUDCHF и AUDCAD корреляция практически нулевая (коэффициент корреляции = -0.08), то есть взаимосвязи между дневными графиками нет, несмотря на присутствие австралийского доллара в обоих парах. Между EURCHF и CHFJPY довольно большая отрицательная корреляция (коэффициент корреляции = -0.84), то есть когда EURCHF идёт вверх, CHFJPY — вниз (можно сказать, что с вероятностью 84%). Между AUDUSD и CHFJPY довольно большая положительная корреляция (коэффициент корреляции = 0.76), то есть когда AUDUSD идёт вверх, CHFJPY также идёт вверх (можно сказать, что с вероятностью 76%).
P.S. Корреляция лишь показывает взаимосвязь, а не прогнозирует финансовые рынки.

По определению, тренд — это направленное движение цен в определённом направлении. В техническом анализе (согласно теории Доу) выделяют три типа тренда: бычий, медвежий и флэт. Более подробно про это можно прочитать в любой книге по техническому анализу. Целью данной публикации является ознакомление с «математической стороной» определения тренда.
Начнём с самого простого — это линейный тренд.
Линейный тренд — это тренд (точнее прямая) вида y=a+bx. В качестве y служит цена, а в качестве x — порядковый номер элемента ряда («время»). Остановимся на этом более подробнее. Предположим у нас есть 500 значений временного ряда (например цен закрытия EURGBP). Тогда в качестве y будут служить именно эти значения. А в качестве x — числа 1, 2, 3, … 499, 500. Таким образом имеем одно уравнение и две неизвестных — a и b. Оценить эти неизвестные можно, используя метод наименьших квадратов (МНК). Что касается МНК, нужно отметить, что он реализован во многих статистических программах, потому останавливаться на его описании и особенностях использования нет смысла.
Ниже приведён дневной график цен закрытия EURGBP (форекс) и линия тренда, которая имеет вид:
y=0.642642+0.000344*x

Рассмотрим теперь квадратичный тренд. Это некоторая кривая вида:
y=a+bx+cx^2. Тут 3 неизвестных параметра — это a, b и c. Оцениваются они также МНК. В кубичном тренде (вида y=a+bx+cx^2+dx^3) уже будет 4 неизвестных.
Ниже приведён все тот же график цен закрытия EURGBP (форекс) и линия тренда, которая имеет вид: y=0.6871927905-0.0006034359928*x+0.000004386*x^2-0.00000000554*x^3

Если продолжить, то получим длинное полиномиальное уравнение для оценки тренда. Нужно отметить, что чем больше степень полинома, тем кривая больше «приклеивается» к графику.
К слову — линию тренда также можно получить наложив на график простое скользящее среднее , но тогда будет задержка.
Ниже приведён все тот же график цен закрытия EURGBP (форекс) и линия тренда в виде полинома 10-й степени (уравнение слишком длинное, поэтому отсутствует).

P.S. Если кому нужна помощь в определении уравнения тренда — пишите, помогу;)