Лаборатория нейронных сетей

• ЛНС Сотрудники

• Тематика работ
• Основные результаты
• Основные публикации


• ОБЗОР: ОСЦИЛЛЯТОРНЫЕ НЕЙРОСЕТЕВЫЕ МОДЕЛИ ВНИМАНИЯ
• Публикации
• Фотографии

Искусственные нейронные сети представляют собой математические или технические конструкции из взаимодействующих нейроноподобных элементов. Нейронные сети используются для математического моделирования в нейробиологии и для создания систем искусственного интеллекта. В соответствии с этим исследования можно разделить на две подобласти - математическая (компьютерная) нейробиология и нейрокомпьютинг. Тематика работ лаборатории связана в первую очередь с моделированием биологических нейронных систем и имеет целью выяснить нейрофизиологические основы обработки информации в мозге.

Экспериментальные исследования мозга показывают, что в работе мозга существенную роль играет динамика электрической активности различных нейронных структур, возникающая в процессе взаимодействие этих структур. В частности, ритмическая активность и ее синхронизация претендуют на роль одного из универсальных механизмов обработки информации в мозге. В электрической активности мозга присутствуют разнообразные ритмические компоненты, в той или иной мере проявляющиеся в различных частотных диапазонах. Характер колебаний коррелирует с внешними воздействиями и психологическим состоянием исследуемого организма. Устойчивые паттерны ритмической активности были обнаружены в различных структурах мозга на уровне отдельных нейронов, нейронных популяций и структур мозга. Такие экспериментальные данные получены в первичных зонах зрительной и обонятельной коры, сенсомоторной коре, в таламусе, в гиппокампе и в других структурах.

Исследования роли колебаний и их синхронизации в работе мозга породили новый раздел теории нейроны сетей - осцилляторные нейроны сети [1-3]. Основные вопросы, на которые должны ответить осцилляторные нейросетевые модели, включают в себя:

• Каковы условия возникновения различных видов колебаний и их синхронизации. Как объяснить динамику электрической активности различных структур мозга.
• Какую содержательную обработку информации дает использование колебаний и синхронизации. Как на их основе могут быть реализованы когнитивные процессы.

Работа лаборатории ведется в рамках осцилляторной нейросетевой парадигмы и ориентирована на построение моделей таких когнитивных феноменов как интеграция признаков объекта в цельный образ, внимание, память и детекция новизны. Основные структуры мозга, являющиеся объектами моделирования, новая кора и септо-гиппокампальная система. Основные инструменты исследования - теория динамических систем, бифуркационный анализ и имитационное моделирование в терминах многомерных случайных процессов и систем обыкновенных дифференциальных уравнений.

• Разработаны математические модели кратковременной памяти, основанные на теории фазовых переходов [4, 5]. Модели позволили по-новому представить процесс запоминания информации, а также выявили роль метастабильных состояний и коллективного поведения в этом процессе. Новый математический аппарат - теория многокомпонентных взаимодействующих марковских процессов и полей - применен к анализу динамических режимов в стохастических нейронных сетях. Показано, что кооперативные эффекты, напоминающие физические фазовые переходы, а также синхронизация активности являются широко распространенными режимами в нейронных сетях, несмотря на стохастическое поведение отдельных нейронов. Разработанная базовая модель нейронной сети использовалась для моделирования низкочастотных колебаний в септуме, привыкания в гиппокампе, метастабильных состояний в новой коре.
• Исследованы условия возникновения колебаний нейронной активности и режимов синхронизации колебаний в осцилляторных нейронных сетях с различной архитектурой и с различными типами элементов (пейсмекерные нейроны Ходжкина-Хаксли [6] и Хиндмарша-Роуза [7], импульсные пороговые нейроны [8], осцилляторы Вилсона-Коуэна [9, 10], фазовые осцилляторы [11-14]). Исследована устойчивость синхронизации для биологически обоснованных архитектур и параметров связей.
• Проведены модельные исследования свойств и роли осцилляторной активности в гиппокампе. [15-18]. Реализована модель рабочей памяти в гиппокампе, способная запоминать и ассоциативно воспроизводить последовательности событий. Изучены паттерны пространственно временной активности в гиппокампе. Предложен новый механизм генерации тета-ритма в септо-гиппокампальной системе, основанный на взаимном торможении нейронов медиального септума и гиппокампа.
• Разработано модель автономного управления шестиногой ходьбой насекомого палочника, обеспечивающая воспроизведение различных видов походки и высокую устойчивость движения [19]. При обучении ходьбе использовался вариант генетического алгоритма.
• Принцип синхронизации применен в ряде моделей формирования фокуса внимания [20, 21] и детекции новизны [22]. Исследована динамика формирования фокуса внимания в зависимости от параметров системы. На этой основе построена комбинированная модель зрительного восприятия, сочетающая интеграцию признаков объектов, внимание и детекцию новизны и способная последовательно фокусировать внимание на изолированных объектах зрительной сцены [23].
• Впервые реализована осцилляторная нейронная модель слежения за одним или многими движущимся объектами в среде, содержащей объекты дистракторы (объекты, отвлекающие внимание) [24]. Продемонстрировано, что модель дает качественное соответствие экспериментальным данным при оценке вероятности ошибки идентификации целевых объектов.
• Предложена концепция иерархической организации зрительного восприятия [25. 26]. В качестве основного понятия вводятся объемлющие характеристики, образующие иерархию от элементарных признаков до признаков высокого уровня и связывающих перцептивные характеристики объектов в цельные образы и сцены. Нисходящий поток сигналов стимулирует нейроны в тех популяциях, активность которых соответствует объемлющей характеристике высокого уровня, превращая эти нейроны в детекторы совпадения. Благодаря этому формируется быстрый канал передачи сенсорной информации, уникальный для каждого акта восприятия.
• Разработан ряд методов анализа нейрофизиологических данных [27, 28]. Предложен метод оценки параметров межнейронного взаимодействия по данным нейрофизиологического эксперимента. Тестирование метода с помощью имитационной нейросетевой модели показало его высокую точность. Разработаны принципы наглядной визуализации нейрофизиологических данных при многоканальном отведении.

1. Борисюк Г.Н., Борисюк Р.М., Казанович Я.Б., Лузянина Т.Б., Турова Т.С., Цымбалюк Г.С. Осцилляторные нейронные сети. Математические результаты и приложения. Математическое моделирование, 4(1), 3-43, 1992.
2. Борисюк Г.Н., Борисюк Р.М., Казанович Я.Б., Иваницкий Г.Р. Моделирование динамики нейронной активности и обработка информации в мозге – итоги "десятилетия". Успехи физических наук, 172(10), 1189-1214, 2002.
3. Kazanovich Y.B. Nonlinear dynamics modeling and information processing in the brain. Optical Memory & Neural Networks, 16(3), 111-124, 2007.
4. Крюков В.И., Борисюк Г.Н., Борисюк Р.М., Кириллов А.К., Коваленко Е.И. Метастабильные и неустойчивые состояния в мозге. Пущино, ОНИТИ НЦБИ, 1986.
5. Borisyuk R., Cooke T. (2007) Metastable states, phase transitions, and persistent neural activity. BioSystems, 89:30-37
6. Чик Д., Борисюк Р.М., Казанович Я.Б. Режимы синхронизация в сети нейронов Ходжкина-Хаксли с центральным элементом. Математическая биология и биоинформатика, т. 3(1), с. 16-35, 2008.
7. Cymbalyuk G.S., Nikolaev E.V., Borisyuk R.M. In-phase and anti-phase self-oscillations in a model of two electrically coupled pacemakers. Biological Cybernetics, 71, 153-160, 1994.
8. Borisyuk R. Oscillatory activity in the neural networks of spiking elements. BioSystems, 67,3-16, 2002.
9. Borisyuk R.M., Kirillov A.B. Bifurcation analysis of a neural network model. Biol. Cybern. 66, 319-325, 1992.
10. Borisyuk G.N., Borisyuk R.M., Khibnik A.I., Roose D. Dynamics and bifurcations of two coupled neural oscillators with different connection type. Bull. Math. Biol., 57, 809-843, 1995.
11. Kazanovich Y.B., Borisyuk R.M. Synchronization in a neural network of phase oscillators with the central element, Biol. Cybern., 71, 177-185, 1994.
12. Kazanovich Y.B., Borisyuk R.M. Dynamics of neural networks with a central element. Neural Networks, 12(3): 441-454, 1999.
13. Kazanovich Y.B., Borisyuk R.M. Synchronization in oscillator systems with phase shifts. Progr. Theor. Phys., 110, 1047-1058, 2003.
14. Luzyanina T.B. Synchronization in an oscillator neural network model with time delayed coupling. Network, 6, 43-59, 1995.
15. Borisyuk R.M. Hoppensteadt, F. (1998) Memorizing and recalling spatial-temporal patterns in an oscillator model of the hippocampus. Biosystems, v.48, 3-10.
16. Borisyuk R., Hoppensteadt F. (1999) Oscillatory models of the hippocampus: A study of spatio-temporal patterns of neural activity. Biological Cybernetics, 81, 359-371.
17. Borisyuk R., Denham M., Denham S., Hoppensteadt F. (1999) Computational models of predictive and memory-related functions of the hippocampus. Rev. Neurosci., 10, 213-232.
18. Denham M., Borisyuk R. (2000) A model of theta rhythm production in the septal-hippocampal system and its modulation by ascending brain stem pathways. Hippocampus, 10, 698-716.
19. Cymbalyuk G., Borisyuk R., Muller-Wilm U., Cruse H. Oscillatory network controlling six-legged locomotion. Optimization of model parameters. Neural Networks, 11, 1449-1460, 1998.
20. Kazanovich Y., Borisyuk R. Object selection by an oscillatory neural network. BioSystems, 67(1-3), 103-111, 2002.
21. Borisyuk R.M., Kazanovich Y.B. Oscillatory neural network model of attention focus formation and control. BioSystems, 71, 29-38, 2003.
22. Borisyuk R., Denham M., Kazanovich Y., Hoppensteadt F. Vinogradova O. Oscillatory model of novelty detection. Network: Computation in Neural Systems, 12, 1-20, 2001.
23. Borisyuk R., Kazanovich Y. Oscillatory model of attention-guided object selection and novelty detection. Neural Networks, 17, 899-915, 2004.
24. Kazanovich Y.B., Borisyuk R.M. An oscillatory neural model of multiple object tracking. Neural Computation, 18, 1413-1440, 2006.
25. Сергин В.Я. Перцептивное связывание сенсорных событий: Гипотеза объемлющих характеристик. Журнал высшей нервной деятельности, 52(6), 645-655, 2002.
26. Sergin A.V., Sergin V.Ya. Model of perception: The hierarchy of inclusive sensory characteristics and top-down cascade transfer of excitation. Neural Network World, 18, 227-244, 2008.
27. Борисюк Г.Н., Борисюк Р.М., Кириллов А.К., Коваленко Е.И., Крюков В.И. Новые методы анализа нейронной активности. Пущино, ОНИТИ НЦБИ, 1986.
28. Stuart L, Walter M., and Borisyuk R. The Correlation Grid: Analysis of Synchronous Spiking in Multi-dimensional Spike Train Data and Identification of Feasible Connection Architectures. BioSytems, 79:223-233, 2005.