Пример нейронной сети после обучения.
Обратите внимание, что обучение можно интерпретировать как поворот вектора-строки связей а-> относительно Ь->. Чем больше проекция вектора связей а-> на вектор стимула Ь->, тем сильнее реакция выходного нейрона.
Реакция нейрона максимальна, когда вектор связей имеет то же направление, что и стимул. Что произойдет, если эти векторы будут перпендикулярны? Реакция выходного нейрона будет равна 0, так как cos 90° = 0.
Таким образом, мы смоделировали обучение — один из самых удивительных процессов, протекающих в мозгу человека и животных, и выразили биологическое значение этого процесса с помощью операции над векторами. Математическая модель обучения была представлена Мак-Каллоком и Питтсом в 1946 году. Впоследствии она стала основой для моделирования различных аспектов работы мозга с использованием элементарных нейронных сетей.
Векторное, или внешнее, произведение
Еще одной операцией умножения векторов является векторное произведение, которое также называется внешним произведением.
Объясним вычисление векторного произведения на примере тех же векторов, для которых мы рассчитывали скалярное произведение.
Даны вектор а-> и вектор Ь->. Их векторное произведение равно:
После необходимых действий результирующий вектор будет равен:
Обратите внимание, что мы обозначаем векторное произведение знаком X, чтобы отличить его от скалярного произведения. Более того, если скалярное произведение представляет собой число, то векторное произведение — это вектор. Еще одно различие заключается в том, что скалярное произведение а->t·Ь-> обозначает проекцию вектор-строки а-> на вектор-столбец Ь->, а векторное произведение а-> х Ь->t представляет собой вектор (обозначим его c->), перпендикулярный плоскости, определяемой двумя исходными векторами.
Векторное произведение векторов а->х Ь->
Модуль нового вектора c-> будет схож со скалярным произведением, однако его значение будет равно |а->|·|Ь->|·sin α. Модуль векторного произведения векторов будет равен площади построенного на них параллелограмма. Направление вектора c-> определяется по известному правилу буравчика, или правилу правой руки.
В биологии векторное произведение используется при изучении молекул, играющих основную роль в поддержании жизни, к примеру таких белков, как миоглобин. Сюда же относится самая знаменитая из всех известных сегодня молекул — молекула ДНК. При их изучении биофизики используют классические понятия физики и измеряют величины, рассчитываемые как векторное произведение, к примеру дипольный момент — электромагнитную силу, действующую на частицу в магнитном поле.
Существует еще одна поистине замечательная операция — тензорное произведение, которое применяется в математических моделях нейронных сетей, описывающих память животных и человека. Представим, что вектор v-> состоит только из единиц и нулей, то есть является двоичным вектором. Каждый из его элементов обозначает наличие (1) или отсутствие (0) той или иной характеристики некоторого объекта.
Если мы вычислим тензорное произведение v-> и v->, то получим следующую матрицу:
Обратите внимание, какие действия мы выполнили, чтобы получить эту матрицу:
Несмотря на кажущуюся сложность, эта операция на самом деле проста. Мы получили матрицу памяти, обладающую свойством запоминать предмет, показанный нейронной сети. Она позволяет смоделировать на компьютере способность людей и животных запоминать различные объекты. Так как элементы матрицы обозначают связи между нейронами, в модели предполагается, что каждый нейрон связан со всеми другими нейронами. Как следствие, все элементы главной диагонали матрицы должны быть равны 0. Исправим значения элементов главной диагонали, равные 1:
Существуют математические методы, позволяющие восстановить объект, представленный матрицей, и смоделировать процесс вспоминания и распознавания образов.