Эта рассылка посвящена заработку на рынке венчурного капитала, Forex, фондовом рынке.

Добрый день. 

Начинаю серию выпусков, посвященных использованию различных математических методов для анализа рынка, в том числе и нейросетей.

Уважаемые читатели, у кого есть опыт прогнозирования рынков при помощи нейропакетов, кто пытался сам что-то писать, создавал собственную торговую систему на базе нейросетей - пишите мне на fin@fx2you.com . Попробуем подискутировать в рассылке на эту тему. Критикуя - предлагайте. 

Сегодня небольшая вводная статья, взятая с сайта http://www.tora-centre.ru

Кто умнее нейрокомпьютеров?

В.В.Золотарев, д.т.н., Москва

1.Поручения для вашего калькулятора.

Стремительный рост возможностей современной цифровой техники опережает многие идеи фантастической литературы и расширяет пределы применения компьютеров во всех их ипостасях с невиданной стремитель-ностью. При этом специалисты совершенно свободно маникулируют мега-байтами оперативной памяти по принципу “этому пакету - 3 Мб, а этому надо выделить еще 5”. Что же касается производительности, то ее как-то и неудобно даже стало упоминать: всегда можно купить более быстрый компьютер или акселераторную плату под конкретную проблему и даже спецкомпьютер под некоторый класс задач.

Но формируется ли при этом у человека все более способный помощник? Конечно, он есть и берет на себя все более тяжелый груз текущих забот: просчитать, подготовить, найти. И все же это в большей степени функции калькулятора, невообразимо быстрого и старающегося представить выполняемые им задачи и получаемые результаты в более удобном виде для человека. А поскольку потребность в “настоящем друге” у человека постоянна, то и решение проблемы “подумай и решись” на базе вычислений стали искать фактически еще раньше, чем появились серьезные надежды на будущие возможности ЭВМ. В настоящее время можно указать, видимо, два основных этапа, которые можно считать уже пройденными в развитии компьютеров и внесшими важнейший вклад в углубление понимания проблемы “человек-машина”, которая вполне может рассматриваться теперь как уже “почти вечная”.

Первым серьезным результатом в формировании еще только задатков интеллектуального помощника для человека в различных сферах после естественного появления сложных расчетных программ стали разнообразные пакеты интерполяции и экстраполяции, использовавшие в максимально возможной степени весь потенциал классических математических дисциплин, в первую очередь корреляционного анализа. Отсчет начала развития новых способностей вычислительной техники именно от этих событий определяется тем, что даже при больших первоначальных трудностях оперативного представления результатов использования этих программ в графическом виде, наиболее эффективное и удобное конечное отображение итогов их работы было именно в виде различных кривых, поверхностей и других визуализируемых объектов, что сначала делалось вручную. А глаз - наиболее емкий и весьма “умный” орган связи с внешней средой, как известно, и сам производящий дополнительные вычисления при восприятии внешнего мира. Другим важнейшим мо ментом, определяющим особое выделение этого периода как начала “новой эры” в компьютеризации цивилизации, является особая качественная новизна такого вида услуг ЭВМ. Дело в том, что фактически корреляторы впервые взяли “на себя” один важный аспект "раздумий”, занимающих у человека значительные силы и массу времени. Именно в тот момент, когда экстраполируемый параметр после тех или иных оценок внутри процессора предстает на экране или распечатке в виде кривой, которая частично воцарилась на графике уже и в будущем времени по отношению к моменту анализа, - тут компьютер становится весьма уважаемым советчиком безотносительно к тому, что его программы написаны человеком, тем же, который решал эту задачу, или другим. Просто компьютер “научился” прогнозировать. С этого момента он влияет на решения человека через свою способность представлять ему информацию в более подходящем виде. Напомним, что согласно основам теории информации никакие сколь угодно мощные ЭВМ с любыми хитроумными программами не создают никакой новой информации. Они только преобразуют входные данные к виду , удобному для восприятия.

Ограничения возможностей такого подхода к воспитанию компьютерных помощников человеку очевидны. С ростом размерности задачи до десятков даже при единственном выходном параметре задача правильного оцениванивания усложняется настолько, что про всех тех скоростях счета, которые доступны, будущее становится прошлым, так как машина не успевает. Кроме того, судьбу решаемых подобными средствами многомерных задач решило активное участие человека в самом анализе, а не только в восприятии конечных результатов. Сам этот процесс требует очень высокой квалификации и от человека. А он ошибается и забывает. Круг замкнулся. И продолжение, вполне успешное, решения многих задач численными методами на все более мощной счетной технике достаточно контрастно выделяет границы их применимости. Что поделаешь, это ведь все же уровень калькулятора.

2. Давайте выполнять законы.

Новая волна интереса к возвышению сферы деятельности цифровых систем связана с глубокими разработками теории искусственного интеллекта (ИИ). Обратившись к анализу того, как человек принимает решения, невозможно не заметить, что он активно использует большое число как очевидных, так и весьма нетривиальных правил. Возникновение тематики экспертных систем (ЭС) как раз и было связано именно со вполне успешным глубоким пониманием того, как следует поступать в различных ситуациях в зависимости от действующих в анализируемой системе правил. Установленные в системе законы должны выполняться, а при наличии тех или иных противоречий создавались подходы и конкретные механизмы их анализа и, по возможности, нейтрализации или устранения. Однако достаточно длительный срок использования экспертных систем различного класса в контуре управления организациями, диагностики сложных технических систем и в других сферах привел специалистов к осознанию, что именно вывод правил, которые должны выполняться в системе, как раз и относится к той весьма и весьма трудновыполнимой задаче в сложной проблеме построения корректных и эффективных ЭС, устанавливающей серьезные пределы для сферы использования. Подавляющее число реальных систем, функционирование которых связано с необходимостью “что-то подправить”, управляются, причем, вполне успешно людьми, которые не могут сформулировать точно причину как промежуточного, так и конечного решения. Это относится и к врачам с хорошими диагностическими способностями, и к водителям, к тем же “системщикам” компьютерных комплексов, и ко многим другим профессионалам. Неуловимость многих моментов, когда проявляется влияние интуиции лица, принимающего решение, на некоторое время вызвало спад интереса к ЭС (а где его не бывает никогда!) и переключение внимания специалистов на другие методы, которые тоже сначала были долго не в чести.

3. Научи же меня!

Новая волна интереса к “разумоподобным” системам, схлынувшая уже со страниц “масс медиа” и специальных изданий на Западе, но реально только набирающая еще силу у нас, относится к возрожденной после очень долгого забвения тематике нейронных сетей (НС), которые, несмотря на закономерный спад долгой шумихи вокруг них, проникают во все структуры науки, производства, финансов и вообще всех сфер человеческой деятельности. Они составляют третье весьма обширное поколение методов искусственного интеллекта, решающих широкий круг задач, в том числе оценивания и прогнозирования (отметим, что сейчас можно говорить о переживаемой передовыми странами уже пятой волне обновления средств ИИ, связанной с генетическими алгоритмами, перед которыми была четвертая волна методов нечеткой логики, но об этих событиях - как-нибудь потом).

Если остановиться только на одном аспекте применения и успеха нейросетевых технологий, то главная причина внимания и даже восторга по отношению к НС определяется тем, что они вообще оказались первыми очень удобными для человека средствами передачи и накопления опыта. Им нужны те же данные, на которых обучался бы в аналогичных ситуациях человек, а кроме того, для многих случаев предполагаемой работы нейронную сеть действительно можно обучить именно в том смысле, какой вкладывается в учебу, например, детей. И это несмотря на то, что все модели самих нейронов, используемых в этих сетях, и сама структура сети крайне примитивны и ни при каких условиях не могут претендовать на подобие мозгу высших животных. Так, отчасти, может быть, это напоминает то, что можно увидеть в нервной системе у лягушки. Но самое главное - способность обучаться - у этой системы есть! Причем, она готова учиться просто всему, что захотите. Открыты практически реализуемые методы таких форм обучения, ко торые можно считать плодом науки, искусства и удачи. И во многих случаях при наличии упорства из аморфной сначала нейронной сети можно действительно создать нейросетевого распознавателя или хорошего прогнозиста, если, конечно, ваше терпение близко к аналогичным возможностям школьного учителя.

Обширность сферы применения нейронных сетей практически несопоставима ни с какими средствами, которые придумывали до сих пор изощренные научные и программистские умы. Одну их причин успеха - обучаемость практически чему угодно мы уже отметили. Но тут есть и еще очень важные причины. Указанная уже выше возможность обучаться на тех же данных, что и человек, сводит на нет вмешательство самого человека, из чего и следует революционное снижение, в принципе, числа ошибок в этих данных из-за снижения влияния на них человеческого воздействия (т.е. просто вносимых им же ошибок) при подготовке системы к нейросетевому обучению.

4. Особые заслуги.

Следующим полезнейшим обстоятельством при использовании НС является то, что машина ничего не забывает. Мы как-то привыкли к тому , что компьютер полностью запоминает необходимые данные и программы. Иначе просто нельзя. Но в преломлении проблемы решения человеческих задач (это всегда так и было) человеческими же методами, т.е. на основе опыта (в этом и новизна!) оказывается, мы к тому же избавляемся от людской забывчивости и эмоций, которые более чем часто приводят ко многим труднейшим ситуациям.

И наконец, может быть, самое главное. В большинстве случаев в обыденной жизни люди руководствуются двумя-тремя причинами или обстоятельствами для принятия массы текущих решений, т.е. сделав тот или иной прогноз. Это могут быть параметры типа “дорого-красиво” или “хочу-можно-некогда “ и т.д. В более сложных случаях при мобилизации опыта и, если она есть, интуиции, возможно принятие решений по четырем-пяти параметрам, описывающим ситуацию. В большинстве же случаев даже перечисление, а не только необходимость правильного принятия во вниманиет пяти существенных обстоятельств вызывают у человека реакцию скуки и отторжения проблемы из-за ее сложности. Полный же постоянный учет шести параметров той или иной ситуации весьма проблематичен и для людей, которых мы называем гениями, что и позволяет нам без проявлений зависти самокритично оценивать свои возможности в процессах принятия решений. Так что магическое число семь является для людей практически недостижимым уровнем размерн ости пространства решений. Что же касается нейронных сетей, то при правильном и полном обучении НС без каких-либо серьезных проблем вполне способна безусловно учитывать десятки и даже многие сотни обстоятельств, то есть принимать решения не в обычном четырех-пятимерном человеческом пространстве параметров, а в фантастическом по объему, например, семисотмерном пространстве, ничего не забывая и все учитывая. Конечно, рекордный объем пространства решений потребует и очень мощных вычислительных средств, но во многих случаях решения задач, имеющих размерность не более ста, достаточной может оказаться обычная достаточно производительная ПЭВМ. В подобных случаях вполне допустимо обучение сети в течение нескольких десятков часов (иногда - за пару суток), поскольку эта процедура и занимает основное время создания и подготовки сети к работе. А работа с обученной сетью весьма проста: параметры на входе - оцениваемая величина на выходе, как в обычном автомате, производящем, воообще гово ря, несложные вычисления, которых, однако, довольно много. Но все равно длительность обучения превышает время выдачи решения уже готовой сетью на несколько, иногда на много порядков. Разумеется, этот пример относится только к некоторым из наиболее популярных в прикладном плане видам нейронных сетей (которых несколько десятков), соответствующих, например, парадигме многослойного перцептрона с обучением методами обратного распространения (back propagation).

Исключительно полезными оказываются при использовании НС и их свойство самостоятельно оценивать важность параметров, используемых для обучения, а также возможность их исключения из рассмотрения в случае несущественного влияния на конечный результат.

В тематике нейронных сетей получено уже множество результатов, которые позволяют дообучать сети в связи с изменением ситуации, использовать совместно сети, реализующие различные парадигмы для решения весьма сложных задач. Допустимо иметь и неточные данные (что, разумеется, должно быть обязательно известно и сети, и специалисту, который ее обучает), а также удовлетворяющие различным условиям. Допустимо даже часть параметров в различных обучающих примерах считать просто неизвестными. Столь высокая гибкость НС в их нынешнем восприятии и позволила обеспечить высочайший уровень их адаптации к различным проблемам, непрерывно возникающим в различных сферах человеческой деятельности.

Самым очевидным приложением НС следует считать именно оценки ситуаций и прогнозирование, то есть главные фукции, выполняемые человеком в процессе управления и принятия решений во всех сферах. Исходя из вышеприведенных аргументов, человек может ожидать появления очень эффективного помощника, способного очень много усвоить, отфильтровать и выдать конечный результат, учитывающий практически все. Знания и опыт ваших лучших экспертов могут быть сконцентрированы в нескольких НС, содержащихся в основном ПК организации, что многократно повысит и качество диагностики, и экстраполяцию последствий практически любых управленических решений и внешних событий.

Что касается нерешенных проблем в области НС, то их список весьма обширен и постоянно растет. Только перечисление трудностей обучения, корректного выбора данных для настройки и тестирования, определения структуры сети или даже просто действий специалиста по обучению сетей в типичной ситуации недостатка количества самих обучающих примеров - все это может занять десятки страниц. Вместе с тем успехи нового направления столь значимы, что определенные трудности роста никого не смущают и НС находят своих сторонников во все новых сферах бытия. Отдельного разговора заслуживают методы совместного использования ЭС и НС, которые вобрали в себя все лучшие возможности обеих ветвей тематики ИИ.

Кроме того, достаточно интенсивно проводятся исследования НС и для их совместного применения с генетическими алгоритмами и методами вычислений на базе нечеткой логики. Такие гибриды еще более расширяю возможности многих постепенно ”умнеющих” систем, действительно помогающих человеку на уровне принятия решений.

5. А можно все и сразу?

Обзор применения НС в различных сферах деятельности затрудняется тем существенным обстоятельством, что число ежегодных конференций в мире, на которых обсуждаются эти вопросы, составляет многие десятки. Оставаясь очень наукоемкой областью и требуя для работы в этой сфере весьма высококвалифицированных специалистов, нейронные сети существенно сокращают разрыв между возможностями и потребностями в поистине “умных” помощниках человека во всем многообразии его деятельности.

По различным данным сейчас на нейрокомпьютерном рынке США присутствуют более 100 фирм с годовым оборотом порядка полумиллиарда долларов. Наиболее серьезное финансирование в США имеют военные приложения НС. Успешно проведены работы по их применению в системах программыв “звездных войн”, для управления механической рукой на космическом корабле “Шаттл”, для ряда проектов в военной авиации, подводном флоте, радиолокации и для прогнозирования надежности различных техни-ческих систем. Фактически основную роль играют НС в комплексах по обработке изображений земной поверхности, где они могут использоваться практически на всех этапах выделения областей интереса, обнаружения, распознавания и классификации объектов. Особое внимание это ведомство сейчас сосредоточило на проблеме анализа и выделения движущихся изображений, где уже получено множество полезных результатов.

Весьма серьезные раздумья вызывает также известие о проводящемся сейчас в США весьма закрытом длительном эксперименте на компьютерной сети, в которую были введены результаты сканирования мозга маленького ребенка. Результаты, полученные к настоящему времени, свидетельствуют о появлении элементов личности в этой сети, а также постепенном развитии и взрослении сформированной таким образом весьма объемной нейросетевой структуры.

Вторую по масштабам и эффективности применения нейронных сетей сферу составляют банки и биржи. Наличие обширных финансовых баз данных за многие десятилетия позволяет строить хорошо обученные на достоверном материале НС, прекрасно работающие на валютных биржах, оценивающие риски кредитования, фьючерсные контракты и многое другое. Например, финансовая империя American Express при затратах около $10 млн сумела уменьшить годовые потери от мошенничества с кредитными карточками на 20 миллионов долларов. Банк Chase Manhattan, шестой по величине банк США, установил в своих аналитических отделах систему оценки рейтингов ценных бумаг, обеспечивающую точность прогнозирования не ниже 84%, что существенно выше обычного уровня. Страховая компания Nippon Life (Япония), внедрив новую систему финансового прогнозирования, резко увеличила прибыли и буквально "влетела"в верхние позиции списка Global 500 журнала Fortune, в котором за год до этого ее не было вообще.

По данным журнала Futures, из 300 типов программных пакетов, используемых брокерами США для игры на фьючерсах, 40 базируется на нейронных сетях. Интересно было видеть реакцию некоторых российских бизнесменов, которые искренне удивлялись, узнав , что многие компании на Западе активно используют почти везде, в том числе, конечно, и на валютных торгах нейрокомпьютеры: " Так это мы здесь играем против тамошних компьюьеров с нейронными "мозгами"?" Да. Хорошие открытия нужно делать во-время.

Вообще же даже на уже давно существующем рынке НС в США никаких признаков насыщения еще долго не будет видно. На нем продаются и простенькие программы за пару сотен долларов для студентов, и более сложные анализирующие и прогнозирующие что угодно с завидной точностью комплексные пакеты ценой во многие тысячи "баксов". Расширяется также уже богатый рынок специализированных нейросетевых компьютеров, в которых нейронные структуры являются частью архитектуры на аппаратном уровне, что чрезвычайно увеличивыет их скорость обучения. Есть и специальные акселераторные платы для обычных IBM РС, которые также обеспечивают многократное ускорение всех работ. Большинство нейронных фирм процветает, недовольных практически нет.

Разумеется, необходимо подчеркнуть, что речь не идет о новом "абсолютном оружии". НС имеют ряд ограничений, которые надо учитывать при их использовании. Так, нейронная сеть обычно не в состоянии предугадывать ситуации, не похожие на те, что были ранее ей предъявлены, такие, как первый "черный вторник", поведение доллара в "коридоре", внезапные изменения таможенных тарифов и т.д. Выходные прогнозируемые параметры, не укладывающиеся в тот диапазон, в котором обучалась НС, всегда будут оценены ошибычно, да и других проблем в тематике сетей тоже хватает. К счастью, исследования финанасового рынка ведутся с начала века и за это время случалось всякое - крахи финансовых пирамид и кризисы власти, локальные войны и смуты междуцарствия и прочее, прочее, прочее... Поэтому многие явления, которые кажутся нам уникальными и присущими только сегодняшней России, на самом деле хорошо известны и изучены и вполне поддаются прогнозированию.

6. Хотим тоже

А что у нас? Не так давно несколько энтузиастов взялись проанализировать применимость продуктов нейросетевого рынка США в России и готовность наших бизнесменов к применению методов ИИ в текущих делах. Текущее состояние дел можно назвать как резкий взлет. В настоящее время число нейросетевых компаний США, с которыми активно взаимодействует московский "ТОРА-Центр", уже более 30, их круг быстро растет. Центр выбирает по ряду весьма жестких параметров программные и аппаратные средства, которые можно распространять в РФ. Более 80% аппаратных и, особенно, программных средств начиная с этого лета пошли "на ура". Общее число абсолютно уникальных для российского рынка систем ИИ, которые распространяются сейчас в Москве, уже более 50. Но это создало массу проблем развития. Нужны консультанты, положительные примеры использования НС у нас и многое другое. Кстати, с положительными примерами очень просто. Причем, большинство достижений оказываются чисто российскими. Рынок ГКО и КО, и гра на валютной бирже в Москве, планирование и оптимизация продаж "окорочков", успешная медицинская диагностика в сложнейших случаях и очень многое другое. Широкую известность среди пользователей нейронными сетями в Москве приобрела фирма "ОГО", о которой уже писал журнал "РС WEEK", регулярно публикующий статьи по нейросетевой тематике, ее различным приложениям и другим средствам ИИ новой волны. АО "ОГО" закупила для своего аналитического отдела почти все пакеты программ нового поколения, и не только нейросетевые. Начала фирма приобретать и аппаратные средства. И сразу стала известна практически во всех коммерческих сферах, получив прекрасные результаты по прогнозированию фьючерсов, урожайности и в других областях. Что не замедлило оценить и руководство АО, не говоря уже о его многих зарубежных партнерах.

Чтобы позволить аналитическому отделу государственной или коммерческой организации выйти на новый уровень деятельности в оценках и прогнозах, пока достаточно потратить лишь несколько тысяч долларов. Но это сегодня. Через полгода, когда необходимость дальнейшей модернизации аналитических инструментов осознает большинство конкурентов, эта цифра возрастет как минимум в пять раз. Накоплена уже некоторая статистика развития рынка нейронных сетей в нашей стране. Подавляющее большинство пользователей останавливает свой первоначальный выбор на пакетах семейства Brain Maker фирмы CSS. Он не является самым мощным. Банки Запада обычно используют гораздо более эффективные (но и существенно более дорогие) системы. Однако авторы пакета нашли ту "золотую середину" между широтой возможностей и простотой интерфейса, которая позволила им получить звание "Лучший пакет года" в рейтинге PC Magazine в 1990 году и статус самого продаваемого нейропакета США в 1994. Новую версию пакета - Brain Maker Professional 3.11 for Windows уже приобрели более 30 банков Москвы, а также ряд брокерских контор и коммерческих фирм. Brain Maker Professional является одним из немногих профессиональных и одновременно недорогих аналитических пакеетов. Он позволяет строить прогнозы на основе данных, содержащих до 8000 входных параметров и произвольное количество фактов. Для автоматизации подготовки данных авторы пакета предусмотрели широкие возможности импорта данных - из текстовых файлов, из Clipboard Windows, из форматов Lotus, dBase, Excel, MetaStock, CompuTrade и других. Встроенная электронная таблица позволяет облегчить такие типичные операции аналитика как вычисление всевозможных "дельт", сдвиг данных для преобразования "вчера в сегодня" и другой рутины, съедающей до 80% драгоценного времени эксперта. Любопытная особенность пакета Brain Maker Professional - наличие аналитического блока (полезный и для тех, кто не верит никаким прогнозам), который позволяет ему накапливать информ ацию для установления корреляции между входными и выходными данными, а также строить графики зависимостей типа "один от двух", "один от всех" и других, которые могут принести пользу любому скептику.

Разумеется, после первой пробы возможностей НС в своей текущей деятельности у каждого любопытствующего пользователя (а кто из программистов к таким себя не относит?) обычно возникает желание сделать что-нибудь свое и под конкретный круг проблем. Для этого среди других систем, нашедших свое место на рынке России, можно выделить пакет OWL, представляющий собой уникальное "собрание сочинений" авторов всех известных нейросетевых алгоритмов. Пакет объединяет выдержанные в едином стиле исходные тексты на языке С двадцати классов алгоритмов, обладающих способностью к обучению. Имея такой "конструктор", разработчик может создавать собственные аналитические системы любого размера и назначения..

 Удачи!

Пишите fin@fx2you.com

Наш сайт http://fx2you.com   (пока недоступен)