Основы теории нейронных сетей

Заказать електрику в Новосибирске и пригороде. Русский электрик. | Организация Русский электрик - электроснабжения в доме Новокузнецк и пригороде.

Линейная разделимость


Как мы убедились, невозможно нарисовать прямую линию, разделяющую плоскость

x-y
так, чтобы реализовывалась функция ИСКЛЮЧАЮЩЕЕ ИЛИ. К сожалению, этот пример не единственный. Имеется обширный класс функций, не реализуемых однослойной сетью. Об этих функциях говорят, что они являются линейно неразделимыми: они-то и накладывают определенные ограничения на возможности однослойных сетей.

Линейная разделимость ограничивает однослойные сети задачами классификации, в которых множества точек (соответствующих входным значениям) могут быть разделены геометрически. Для нашего случая с двумя входами разделитель является прямой линией. В случае трех входов разделение осуществляется плоскостью, рассекающей трехмерное пространство. Для четырех или более входов визуализация невозможна, и необходимо мысленно представить

n
-мерное пространство, рассекаемое "гиперплоскостью" — геометрическим объектом, который делит пространство четырех или большего числа измерений.

Так как линейная разделимость ограничивает возможности персептронного представления, то важно знать, является ли данная функция разделимой. К сожалению, не существует простого способа определить это, если число переменных велико.

Нейрон с

n
двоичными входами может иметь
2^n

различных входных образов, состоящих из нулей и единиц. Так как каждый входной образ может соответствовать двум различным бинарным выходам (единица и ноль), то всего имеется

2^{2^n}
функций от
n

переменных.

Таблица 2.2.

n
2^{2^n}
Число линейно разделимых функций
144
21614
3256104
4655361882
54,3x10994572
61,8x101915028134

Как следует из табл. 2.2, вероятность того, что случайно выбранная функция окажется линейно разделимой, весьма мала даже для умеренного числа переменных. По этой причине однослойные персептроны на практике ограничены простыми задачами.




Начало  Назад  Вперед



Книжный магазин