Искусственные нейронные сети приобрели значительную популярность, как инструмент прогнозирования, за последние годы. Нейронная сеть - это система состоящая из множества простых процессных элементов действующих параллельно, чья функция определяется структурой сети, силой связей и процессом происходящим при компьютерных вычислениях этих элементов. Нейронная сеть накапливает знания благодаря процессу обучения. Связи между нейронами, называемые синаптическими весами, хранят накопленные знания.

Благодаря такой характеристике, нейронные сети нашли свою популярность в области прогнозирования на фондовом рынке. Они остаются актуальными по сей день и применяются во множестве программных пакетов. Альтернативные подходы, такие как линейные регрессии и кластеризация, считаются менее эффективными, таким образом, машинное обучение преобладает по эффективности в анализе над альтернативными подходами.

Проведя оценку теоретическую оценку потенциала возможностей нейронной сети, была поставлена цель создать собственную модификацию спецификации нейронной сети на практике для вычисления доходности акций на фондовой бирже NASDAQ.

В частности, задачи можно разбить на следующие пункты:

• ознакомиться с существующими видами структур нейронной сети

• ознакомиться с различными методами обучения нейронных сетей

• определить объект для исследования в виде технологической компании, акции которой торгуются на бирже NASDAQ

• изучить доступные данные, произвести их препроцессинг (предобработку), ввести необходимые собственные дополнительные переменные

• определить необходимую структуру нейронной сети для решения поставленной цели

• удостовериться в качестве полученного результата, измерить точность искусственной нейронной сети

Правильность выбора нейронных сетей, как средства для прогнозирования цен акции на фондовом рынке можно аргументировать тем, что, в первую очередь, нейронные сети способны обрабатывать информацию параллельно, а во вторых, они способны самообучаться. Финансовые ряды особенно хорошо прогнозировать с помощью нейронных сетей, благодаря их следующим характеристикам, которые преобладают над свойствами альтернативных методов прогнозирования9:

1. Нелинейность. Сети делятся по классам на линейные и нелинейные. Нейронные сети, которые по своей структуре состоят из нелинейных нейронов, способны обрабатывать входные сигналы, а также генерировать результат нелинейно, в отличие от альтернативных обычных подходов. Данное свойство является важным так как позволяет анализировать нелинейные входные данные, которыми, в частности, являются показатели фондового рынка.

2. Итеративность. Одну и ту же или различную информацию можно подавать на вход нейронной сети несколько раз, тем самым достигая максимальной точности системы на обучаемой выборке.

3. Распределённость. Каждый нейрон сети несёт в себе уникальное количество информации, что обеспечивает общую устойчивость и быструю скорость обработки информации системы.

4. Адапивность. Нейронная сеть постоянно обучается. Это означает, что она всегда модифицирует настроенные веса внутри каждого нейрона для минимизации ошибки получаемого результата на выходе. Это, в частности, позволяет использовать нейронные сети и в областях где имеется большое количество шума в информации. Кроме этого, существует возможность создания сети с постоянно меняющимися весами в случае постоянно изменчивой внешней среды.

5. Точность. Нейронную сеть возможно настроить на сбор информации не только для определения о принадлежности объекта к какому-нибудь классу, но и степень достоверности полученного результата, что позволит на конечном этапе откинуть сомнительные результаты.

6. Отказоустойчивость. Нейронные сети принято считать стабильным инструментом, который способен давать лишь незначительные погрешности в случае неблагоприятных обстоятельств. Как уже было описано ранее, данной свойство достигается благодаря распределенности сети. Таким образом, в случае повреждения одного из нейронов, распределенный формат хранения информации позволяет минимизировать негативный эффект данного обстоятельства.

7. Гибкость. Искуственные нейронные сети, наряду с свойством адаптивности, также могут быть легко перестроены в своей структуре. В процессе работы возможно менять количество слоев и изменять количество нейронов в них.

8. Память. Одно из самых главных преимуществ нейронной сети. Сеть способна не только запоминать поступающие абсолютные значения, но также их последовательность поступления, что позволяет достичь особой эффективности предсказывания на временных рядах.

9. Масштабируемость. Масштабируемость нейронных сетей обеспечивается благодаря параллельной структуре нейронных сетей.

Нейронная сеть подразумевает несколько основных главных принципов построения. Эти принципы необходимо явно определить при построении любой подобной сети, так как их выбор будет определять её функциональность.

В первую очередь, при построении нейронной сети, следует определить её архитектуру, под которой подразумевается схема узлов - нейронов, которые обрабатывают в ходящие сигналы. Нейроны получают и обрабатывают входящую информацию, которая в свою очередь передаётся дальше по сети через связи - веса. Веса нейронной сети связывают также слои нейронной сети, в которой находятся нейроны.

Сама концепция нейронной сети10, описанная вкратце в предыдущем абзаце, была привнесена из области биологии. В биологии уже существуют нейронные системы. Можно провести аналогию между строением человеческого мозга и строением нейронный сети. Мозг является явным доказательством того, что параллельные системы существуют в жизни и успешно работают. Основной составляющей нейронной сети является сам нейрон. Передача сигнала от одного нейрона к другому через синапсы является сложным химическим процессом, в ходе которого специфичные трансмиттерные субстанции высвобождаются от посылающего сигнал соединения. Эффект заключается в повышении или в понижении электрического потенциала внутри тела получающей сообщение клетки. Если данный потенциал преступает порог, то нейрон принимает соответствующее действие. Именно подобную характеристику искусственная нейронная сеть и пытается воспроизвести. Нейронная модель изображенная на рисунке 1 является наиболее распространенной и используемой моделью.

Каждый набор связей (x) описывается соответствующим весом (w). Вес нейрона может принимать положительные и отрицательные значения в зависимости от эффекта входящего сигнала. Входные сигналы складываются сумматором, который представляет из себя операцию линейной комбинации. В конечном счете, функция активации преобразует выходный сигнал в нормализованный под заданный диапазон значений.

Считается, что в нейронной сети такой структуры информация проходит по слоям последовательно, один за другим, в одну сторону, в итоге превращаясь в готовое выходное значение. Такая сеть называется сетью прямого распространения, архитектура которой будет использована в данной работе.

Каждая нейронная сеть должна иметь в своём составе как минимум две составляющие: входные данные и выходной слой. Количество скрытых слоев и количество нейронов в них неограниченно и зависит от спецификации задачи. На рисунке 2 изображена типичная двухслойная нейронная сеть прямого распространения сигнала.

Рисунок 2. Схема двухслойной нейронной сети прямого распространения сигнала (входной слой не учитывается)11

Входное значение каждого нейрона взвешивается аналогично синапсическим связям у биологических нейронов. Формулу активации потенциала можно записать в следующем виде:

где S - активация нейрона, X - входное значение нейрона, w - вес нейрона, n - число нейронов в предыдущем слое, тета - порог активации

Рисунок 3. Схема суммирования значений нейронов в скрытом слое

Полученная взвешенная сумма S нейрона скрытого слоя, полученная формулой выше, является аргументом нелинейной функции f(S), которая создаёт выходное значение скрытого слоя Y:

Именно нелинейная функция позволяет решать комплексные задачи. Данный вид функций был также взят из биологической нейронной сети. Считается, что в мозге человека биологические нейроны принимают решение о способе реагирования на поступающую информацию. Такой процесс решения формально называется функцией активации.

Существует множество функций активации используемых в процессе составления архитектуры нейронной сети. Так, при построении искусственной нейронной сети могут быть использованы, например, следующие виды функций активации

На практике, зачастую используют лишь несколько функций. Например, большой популярностью пользуется логистическая функция активации, которая выдаёт значения на промежутки от 0 до 113.

Заключительным этапом определения архитектуры нейронной сети является выбор метода её обучения. Любое обучение нейронной сети заключается в настройке значений весов нейронов, которые классифицируют входящий поток данных. Собственно говоря, данные веса и есть мозги нейронной сети, так как именно они определяют эффективность работы всей сети.

Обучение, как правило, происходит пошагово. Процесс обучения длится до тех пор пока сеть уйдёт от выдачи совершенно некорректных ответов (на первых шагах) до выдачи ответов с точностью ниже порога ошибки. Если подобное условие было достигнуто, то считается, что обучение нейронной сети произошло успешно.

Разделяют два типа нейронных сетей по методу обучения. Такими являются сети, которые обучаются с помощью учителя и самообучающиеся сети. Как следует из названия, обучение с учителем подразумевает, что сначала нейронную сеть готовят на каких-нибудь известных готовых данных, которые четко разграничивают причинно-следственную связь между входными данными и желаемым результатом. Таким образом, сеть сначала обучается на обучающей выборке, а затем используют на реальных полевых данных.

Что касается самообучающихся нейронных сетей, то данные сети не имеют примеров для обучения. Данные сети используются в тех задачах, которая причинно-следственная связь для человека не понятна, либо связь между входными данными и желаемым результатом невозможно сформировать. В таких случаях нейронная сеть организуется самостоятельно и задаёт веса нейронам на основании реальных данных.

В нашей работе будет использован метод обучения с учителем, за единственным нюансом, который заключается в том, что постоянно придется переучивать нейронную сеть в виду того, что каждая фирма имеет свои собственные предпосылки для формирования цены акций и применять одну и ту же нейронную сеть для всех фирм является нецелесообразным. Кроме того, следует постоянно обновлять знания нейронных сетей для каждой фирмы, так как данные об акциях поступают постоянно.

Кроме нейронной сети прямого распространения сигнала, существуют также рекуррентные нейронные сети. Их особенностью, в отличие от классических нейронных сетей, является наличие циклов - обратных связей, благодаря которым информация может циклично поступать из выходного обратного во входной слой. Рекуррентные нейронные сети обладают следующими характеристиками14:

• все биологические нейронные сети являются рекуррентными

• известно несколько алгоритмов обучения, при этом ни один из них не признан лучшим

• теоретические и практические сложности препятствуют лёгкому внедрению в реальной жизни. Наличие обратных связей в рекуррентных сетях способствует более производительной работе таких сетей.

Одним из главных минусов таких сетей заключается в том, что рекуррентные нейронные сети сложно обучаются. Традиционные техники используемые в случаях обучения классических нейронных сетей прямого распространения сигнала не приводят к желаемому результату. Однако, некоторые подвиды рекуррентных нейронных сетей поддаются обучению в большей степени, что позволяет сформировать адекватное решение поставленной задаче основанной на временных рядах.

В качестве примеров подобных видов рекуррентных нейронных сетей можно привести такие сети, как нейронная сеть Элмана15, нейронная сеть Джордана, которые получаются из многослойного перцептрона введением обратных связей16.