Нейрокомпьютерная техника. Теория и практика

         

Нейрокомпьютерная техника. Теория и практика

Предисловие
БЛАГОДАРНОСТИ
ПОЧЕМУ ИМЕННО ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ?
СВОЙСТВА ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ
Обучение

Обобщение
Абстрагирование
Применимость
ИСТОРИЧЕСКИЙ АСПЕКТ
ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ СЕГОДНЯ
ПЕРСПЕКТИВЫ НА БУДУЩЕЕ
Искусственные нейронные сети и экспертные системы
Соображения надежности

ВЫВОДЫ
Литература
Глава 1. Основы искусственных нейронных сетей
БИОЛОГИЧЕСКИЙ ПРОТОТИП
ИСКУССТВЕННЫЙ НЕЙРОН
Активационные функции
ОДНОСЛОЙНЫЕ ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ
МНОГОСЛОЙНЫЕ ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ
Нелинейная активационная функция

Сети с обратными связями
ТЕРМИНОЛОГИЯ, ОБОЗНАЧЕНИЯ И СХЕМАТИЧЕСКОЕ ИЗОБРАЖЕНИЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ
Терминология
Дифференциальные уравнения или разностные уравнения
Графическое представление
Обучение искусственных нейронных сетей
Цель обучения
Обучение с учителем
Обучение без учителя
Алгоритмы обучения

ПРОЛОГ
ПЕРСЕПТРОНЫ И ЗАРОЖДЕНИЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ
ПЕРСЕПТРОННАЯ ПРЕДСТАВЛЯЕМОСТЬ
Проблема функции ИСКЛЮЧАЮЩЕЕ ИЛИ
Линейная разделимость
Преодоление ограничения линейной разделимости
Преодоление ограничения линейной разделимости - 2

Эффективность запоминания
ОБУЧЕНИЕ ПЕРСЕПТРОНА
АЛГОРИТМ ОБУЧЕНИЯ ПЕРСЕПТРОНА
Дельта-правило
Трудности с алгоритмом обучения персептрона
ВВЕДЕНИЕ В ПРОЦЕДУРУ ОБРАТНОГО РАСПРОСТРАНЕНИЯ
Сетевые конфигурации
Многослойная сеть.

Обзор обучения
ДАЛЬНЕЙШИЕ АЛГОРИТМИЧЕСКИЕ РАЗРАБОТКИ
ПРИМЕНЕНИЯ
ПРЕДОСТЕРЕЖЕНИЕ
Паралич сети

Локальные минимумы
Размер шага
Временная неустойчивость
ВВЕДЕНИЕ В СЕТИ ВСТРЕЧНОГО РАСПРОСТРАНЕНИЯ
СТРУКТУРА СЕТИ
Слои Кохоненна
Слой Гроссберга
ОБУЧЕНИЕ СЛОЯ КОХОНЕНА
Предварительная обработка входных векторов

Выбор начальных значений весовых векторов
Режим интерполяции
Статистические свойства обученной сети
ОБУЧЕНИЕ СЛОЯ ГРОССБЕРГА
СЕТЬ ВСТРЕЧНОГО РАСПРОСТРАНЕНИЯ ПОЛНОСТЬЮ
ПРИЛОЖЕНИЕ: СЖАТИЕ ДАННЫХ
ОБСУЖДЕНИЕ

Глава 5. Стохастические методы
ИСПОЛЬЗОВАНИЕ ОБУЧЕНИЯ
Больцмановское обучение
Обучение Коши
Метод искусственной теплоемкости
ПРИЛОЖЕНИЯ К ОБЩИМ НЕЛИНЕЙНЫМ ЗАДАЧАМ ОПТИМИЗАЦИИ

ОБРАТНОЕ РАСПРОСТРАНЕНИЕ И ОБУЧЕНИЕ КОШИ
Трудности, связанные с обратным распространением
Трудности с алгоритмом обучения Коши
Комбинирование обратного распространения с обучением Коши
Преодоление сетевого паралича
Глава 6. Сети Хопфилда
КОНФИГУРАЦИИ СЕТЕЙ С ОБРАТНЫМИ СВЯЗЯМИ

Бинарные системы
Устойчивость
Ассоциативная память
Непрерывные системы
Сети Хопфилда и машина Больцмана
Термодинамические системы
Статистичекие сети Хопфилда
Обобщенные сети
Аналого-цифровой преобразователь

Задача коммивояжера
Скорость
Функция энергии
Емкость сети
Глава 7. Двунаправленная ассоциативная память

СТРУКТУРА ДАП
ВОССТАНОВЛЕНИЕ ЗАПОМНЕННЫХ АССОЦИАЦИЙ
КОДИРОВАНИЕ АССОЦИАЦИЙ
ЕМКОСТЬ ПАМЯТИ
НЕПРЕРЫВНАЯ ДАП
АДАПТИВНАЯ ДАП
КОНКУРИРУЮЩАЯ ДАП
ЗАКЛЮЧЕНИЕ

Глава 8. Адаптивная резонансная теория
АРХИТЕКТУРА APT
Описание APT
Упрощенная архитектура APT
Функционирование сети APT в процессе классификации

Обзор
Функционирование сетей APT
ПРИМЕР ОБУЧЕНИЯ СЕТИ APT
ХАРАКТЕРИСТИКИ APT
Инициализация весовых векторов Т

Настройка весовых векторов Вj
Инициализация весов bij
Теоремы APT

Нейрокомпьютерная техника. Теория и практика

Глава 9. Оптические нейронные сети
ВЕКТОРНО-МАТРИЧНЫЕ УМНОЖИТЕЛИ
Электронно-оптические матричные умножители
Сети Хопфилда на базе электронно-оптических матричных умножителей

ГОЛОГРАФИЧЕСКИЕ КОРРЕЛЯТОРЫ
Объемные голограммы
Оптическая сеть Хопфилда, использующая объемные голограммы
Глава 10. Когнитрон и неокогнитрон

КОГНИТРОН
Структура
НЕОКОГНИТРОН

Вычисления
ЧЕЛОВЕЧЕСКИЙ МОЗГ: БИОЛОГИЧЕСКАЯ МОДЕЛЬ ДЛЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ

ОРГАНИЗАЦИЯ ЧЕЛОВЕЧЕСКОГО МОЗГА
Нейрон
Мембрана клетки
КОМПЬЮТЕРЫ И ЧЕЛОВЕЧЕСКИЙ МОЗГ

Приложение Б. Алгоритмы обучения
ОБУЧЕНИЕ С УЧИТЕЛЕМ И БЕЗ УЧИТЕЛЯ
МЕТОД ОБУЧЕНИЯ ХЭББА
Алгоритм обучения Хэбба
Метод сигнального обучения Хэбба
Метод дифференциального обучения Хэбба
ВХОДНЫЕ И ВЫХОДНЫЕ ЗВЕЗДЫ
Обучение входной звезды
Обучение выходной звезды

МЕТОД ОБУЧЕНИЯ УИДРОУ-ХОФФА
МЕТОДЫ СТАТИСТИЧЕСКОГО ОБУЧЕНИЯ
САМООРГАНИЗАЦИЯ
Содержание раздела