Индуктивные, эволюционной и нейронной вычислительной техники для descrimination: сравнительное исследование

РЕЗЮМЕ

В настоящем документе приводится сравнительный анализ методов машинного обучения для 2-групп дискриминации. Имитация данные используются, чтобы изучить, как различные методы обучения выполняют в отношении определенных распределение данных характеристик. Оба линейных и нелинейных методов дискриминации рассмотрел. Данные ранее использовались в сравнительной оценке ряда методов и помогает связать наши данные по целому ряду дискриминации техники.

Предметные области: дискриминантный анализ, генетические алгоритмы, генетическое программирование, индуктивного обучения, машинного обучения, и Neural Networks.

ВВЕДЕНИЕ

Проблема классификации назначения замечаний в один из нескольких групп играет ключевую роль в принятии решений. Бинарной задаче классификации, в которых данные ограничены одной из двух групп, имеет широкое применение в задачах, начиная от кредитного скоринга, по умолчанию прогнозирования, а также директ-маркетинг для применения в биологии и медицинской областях. Он был изучен широко статистиков, и в последние годы количество машин, подходы к обучению были предложены. Последняя группа методов может широко быть отнесены к категории так называемых "мягких вычислений" методы, отметил найти компромисс оптимальности и точность преимущества представительской власти и применения в более широких условиях. Проблема часто называют "дискриминантного анализа" в области статистики и "обучения с учителем" в машинном обучении литературе. Вид решения зависит от используемой техники, и выражается в той или иной форме правления дискриминации или функции на основе многомерных данных, определяющих каждого наблюдения.

Методы из области статистики, начиная с основополагающей работы Фишера (Фишер, 1936), включает линейные, квадратичные и материально-технического дискриминантной модели, и являются одними из наиболее часто используемых. Эти методы различаются в связи с предположениями о группе распределения и функциональная форма дискриминанта. В линейного дискриминантного анализа, модели выражается в терминах вектора весов W вместе с скаляров с и С2, такие, что, учитывая наблюдения определяется вектор х значений атрибутов, она подразделяется на группы 1, если w'x с2 (с и с2, как правило, считаются одинаковыми). Линейные модели, как правило, предпочитали для принятия решений (ручные, 1981), с учетом легкости интерпретации результатов и повышение надежности прогнозирования невидимых случаях. Нелинейные модели, хотя и более точной по подготовке данных, как правило, показывают резкое снижение производительности на невидимых образцов (Альтман, Эйзенбеис,

Методов машинного обучения для дискриминации, делятся на две категории: коннекционистский моделей использования той или иной форме обучения нейронной сети алгоритм и индуктивного обучения модели, в которых дискриминант выражается в символической форме с помощью правил, деревья решений и т.д. нейронной сети прямого распространения (Rumelhart, Хинтон,

В последние годы наблюдается более широкое использование таких методов машинного обучения для классификации в принятии решений. Goonatilake (1995) утверждал, что способность к обучению процессам принятия решений и задач непосредственно из формы данных Наиболее важной особенностью интеллектуальных бизнес-систем, и отмечает: "Некоторые профессионалы, такие как финансовые трейдеры и страховые эксперты имеют очень высокую премию по их свободного времени и, следовательно, возможность узнать непосредственно из данных без вмешательства человека становится очень важным "(стр. 5). Улучшена производительность методы обучения по сравнению с традиционными методами сообщили в целом ряде приложений, включая оценку кредитоспособности (Walker, Haasdijk,

Классификация также является одной из ключевых задач в новой области анализа данных, в которой методов машинного обучения нашли широкое применение (Piatetsky-Шапиро

Учитывая такое разнообразие возможных подходов, ключевых и трудной задачей для руководителей становится выбор конкретного метода, что "лучший" соответствует данной проблемы. С небольшой теоретический руководство по относительной практическая полезность различных подходов к обучению машины-самый официальный анализ фокус в самом худшем сценарии развития событий (эренфойхтовых, Хаасслер, Кернс,

Такие выводы приводятся в соответствие с последними теоретическими результатами на "нет" бесплатного сыра "(NFL) теоремы о поиске (Вольперт

Большинство сравнений методов машинного обучения основаны на реальных наборов данных из различных областей. Как уже отмечалось, использование модельных данных дает больше контроля и оценки в строго известных условиях, тем самым помогая относятся определения данных характеристик с техникой. Данное исследование фокусируется на выполнении алгоритмов обучения по отношению к целому ряду характеристик группы рассылки. Хотя в значительной степени рассматривается для статистических подходов, особенности распределения данных получили гораздо меньше внимания в сравнительной литературе методы обучения, с учетом непараметрических характер обучения. Мы используем данные, ранее сообщалось в литературе, в сравнении статистических и линейные методы программирования для дискриминации задачи (Абаде

Было отмечено, что данные условия многомерной нормальности и однородности variancecovariance представляют собой критические соображения в стремлении применить традиционные статистические методы (Joachimsthaler

Четыре методы обучения выбираются так, чтобы обеспечить охват различных парадигм поиска: дерева решений программу обучения C4.5 (Куинлан, 1993a), осуществляющий Куинлана широко цитируется ID3 (Куинлан, 1986) алгоритм индуктивного обучения; сети трехслойной нейронной помощью прямого распространения правило обучения (Rumelhart и др.., 1986); генетических реализации алгоритма, который стремится узнать вес вектора линейной модели дискриминации, подобный тому, сообщила в Келер (1991), а также осуществления общественного области генетического программирования (Коза, 1992), вариант генетического поиска, которая использует иерархическое представление для получения общего вида (но не ограничиваясь линейным) математической модели дискриминации. линейных процедуры дискриминации Фишера использованы в качестве основы для сравнения.

В следующем разделе приводится обзор методов обучения рассматриваются. Краткое описание обоих наборов данных, используется и экспериментальный метод, то представил, а затем результаты анализов и секций. Управленческих значение этих результатов, то обсуждали, и заключительные разделе рассматриваются вопросы будущих исследований.

ОБЗОР МЕТОДОВ

В данном разделе представлены краткие описания различных методов считается. Более подробная информация о методах можно найти в упомянутых справочниках.

Обратного распространения нейронных сетей

На основе нейронных вычислений в мозг, нейронные сети были применены многочисленные классификации и дискриминации, проблемы (Shavlik и др.., 1991). Каждый нейрон представляет собой элементарный процессор, который является частью более широкой сети, архитектуры, для которых определяется по размеру рассматриваемой задачи. Нейроны (или узлов в сети) связаны между собой с помощью комплекса взвешенных, направленных дуг. Чистой конфигурации, а также с набором веса дуги, определяет модель для задачи классификации. Алгоритм обучения определяет порядок обновления дуги веса. Различных парадигм нейронных сетей существуют и различаются по манере узел связей, а также процедура обучения используются.

Это полезно различать сетевых архитектур решением границы они образуют в классификации (Липпман, 1987). Однослойные сети, используя процедуры персептрона конвергенции (Розенблат, 1962), разграничивает две группы по гиперплоскости, а также порядок гарантированно сходится, если 2 классы линейно отделимы. Изменение процедуры сходимости перцептрона может быть использован для сведения к минимуму наименее среднеквадратичная ошибка между фактическим и желаемых результатов в два слоя сети (Дуда

Прямого распространения алгоритма обучения (Rumelhart и др.., 1986), наиболее часто используется для подготовки многослойных сетей, осуществляет градиентный поиск свести к минимуму квадрата ошибки между реализованными и желаемых результатов. Многослойные сети было показано, приближенного оптимального байесовского классификатора, с узлом выхода (один выходной узел в каждом классе), приближаясь класса апостериорные вероятности (Ruck, Роджерса, Kabrisky,

На рисунке 1 показан типичный три слоя сети, используемой для дискриминации. Количество узлов ввода соответствует числу независимых переменных, характеризующих данных. Количество узлов в скрытом слое определяет сложность решения поверхности, порожденные и должен быть определен эмпирически для лучшего соответствия данных в процессе рассмотрения. В то время как крупных сетей, как правило, overfit данных, слишком мало скрытые узлы слоя может помешать изучению адекватного разделения региона. Хотя, имеющих более одного скрытого слоя, не дает никаких преимуществ с точки зрения характера решения поверхности, порожденные, в некоторых случаях она может предоставить для более быстрого обучения (Rumelhart и др.., 1986).

Для любого п нейрона, его мощность определяется:

РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЙ

4 эксцесса и 3 уровня дисперсии, а также четыре методов сравнения доходности 3-способ факторного дизайна: распределение (эксцесс), дисперсии неоднородность и техники. 3-способ ANOVA используется для проверки основных средств и эффекты взаимодействия. Парные сравнения различных методов также рассмотрены.

В таблице 1 приведены точности классификации различных методик по подготовке данных. Каждая строка показывает среднюю точность более 100 наборов данных. В таблице 2 приведены точности классификации на опорные образцов (прогноз). Как уже отмечалось выше, каждый параметр в среднем получили более 50 различных наборов поезд и испытаний. Сравнительной эффективности методов графически представлены на рисунках 3a и 3b. Таблица 3 показывает, надежность различных методов, определяемый как отношение точности классификации по прогнозу к наблюдаемой на подготовку данных. Надежность показывает степень overfitting и является полезной при определении влияния распределения данных и разница неоднородности на overfitting проблем, связанных с различными способами.

Анализ разницы в точности классификации по подготовке данных представлены в таблице 4a. Техника фактор основной эффект объясняет большинство от общего изменения, после чего разница неоднородность и распределение только не является значимым. Как видно из двустороннего взаимодействия, техники и разница вместе объяснить большинство различий.

Парные сравнения приведены в таблицах 4, b, 4C, 4D и. Все общие парных сравнений являются значительными, с самым высоким F-значения для сравнения линейных и нелинейных методов. Хотя все парных сравнений на основе дисперсии являются значительными, ниже F-значения наблюдаются для нейронной сети против генетического программирования и дискриминантного анализа против генетического анализа. Это также заметил на рисунке 3: нейронные сети и генетические линии программирования дисплей аналогичные модели в трех различных регионах разница-неоднородности (пункты 1-4, 5-8, 912); генетического алгоритма и дискриминантного анализа линий схожи. Парные сравнения на основе эксцесса (табл. 4, d) показывают, что различия между нейронной сети и C4.5, а также между генетического программирования и C4.5 не являются значимыми при р = 0,01 уровень значимости, сравнение генетического программирования против нейронной сети также дает р-значение 0,0046. 3 нелинейных методов таким образом, имеют похожие показателей в отношении распределения типа, как и два линейных методов (генетического алгоритма против дискриминантного анализа). Интересно, что разница между генетических алгоритмов и генетического программирования является не играет существенной роли в отношении распределения ..

Помечено различия наблюдаются между обучением и прогнозирования результатов. Таблица 5а дает общее дисперсионного анализа результатов для прогнозирования точности. Все три основных фактора, являются значительными, и в отличие от результатов обучения, дисперсия гетерогенность здесь является основным фактором, после чего техника. 2 линейные методы работают лучше, чем нелинейного метода, когда две группы отклонений является однородным. Дискриминантный анализ выполняет несколько лучше, чем генетические алгоритмы для однородных разницы, но производительность дискриминантного анализа падает ниже, генетические алгоритмы, как увеличивается разница неоднородности. Все нелинейных методов отображения заметное падение производительности от подготовки прогноза, особенно в случае однородной дисперсии. Их точность прогнозирования возрастает с увеличением дисперсии гетерогенности между этими двумя группами.

В парных сравнений (см. табл Sb, 5c, и SD), точность прогноза генетического программирования и нейронных сетей, существенно не отличаются по дисперсии. Кроме того, в соответствии с результатам обучения, различия между нейронной сети и генетического программирования, а также между дискриминантного анализа и генетический алгоритм, основанный на распределении, не являются значимыми. Разница между нейронной сети и C4.5 на основе распределения, однако, важное значение в деле прогнозирования. В другом отличие от результатов обучения, предсказания генетического программирования и генетический алгоритм, основанный на распределении, существенно различаются.

Графики Цифры 3а и 3б иллюстрируют различия в классификации точности между обучением и прогнозирования. Хотя нелинейные методы работают лучше по условиям эксперимента в обучении, отображать резкое падение точности предсказания, когда две группы отклонений является однородным. 3 нелинейных методов видел лучшие результаты (как в подготовке кадров и прогнозирования) с ростом дисперсии неоднородности. Все методы нелинейного также видно, наиболее эффективны равномерно распределенных данных.

Таблицы 6a, 6b, 6c, и 6d проанализировать надежность различных методов. Дисперсионный анализ показывает, что все три основные факторы существенны, с дисперсией и техники объяснить большинством голосов от общего изменения. В общей парных сравнений, нейронные сети, генетическое программирование, и C4.5 отмечены, имеют похожие надежности. Разница между генетического алгоритма и дискриминантного анализа, однако, существенным. На основании разница, разница между нейронной сети и генетического программирования не имеет существенного значения, и генетического алгоритма против Дискриминантный анализ также менее значительное, чем остальная часть парных сравнений. Сравнение основано на вариации распределения и выявить каких-либо существенных различий в безотказной работы нейронной сети, генетическое программирование, и генетического алгоритма. Рисунок 3c участков надежностью различных методов.

ОБСУЖДЕНИЕ И ЗНАЧЕНИЕ

Утилита эмпирического анализа рода в данной работе является выявление сильных и ограничения различных методов и в том, сможет предоставить руководящие указания для лиц, принимающих решения в выборе техники для данной задачи задачи. В этом разделе рассматриваются на наших данных с целью создания определенных руководящих принципов по выбору техники с учетом данных задачи характеристик. Для этого, мы обращаем на результаты других соответствующих исследований. Различные методы рассматриваются в связи со следующими критериями: основные представления, объем подготовки данных, качество данных и возможное загрязнение данных, сложности задачи, надежность и интерпретируемость результатов и сложности узнал моделей и распределения ошибок и потенциальных включение неправильной классификации расходов. Они обеспечивают базовый набор вопросов для лиц, принимающих решения необходимо учитывать при выборе соответствующей техники для конкретной задачи проблемы. Наш анализ показывает, вопросы, требующие дальнейшего исследования в этой области.

Как и ожидалось, представления, лежащие в основе методов является решающим фактором отличия производительности. Где надежность глубочайшей озабоченности, выбор явно для линейного дискриминантного анализа и модели генетических алгоритмов. Многие приложения, однако, подчеркнуть, прогнозирования точности и надежности могут быть проданы в пользу повышения эффективности прогнозирования. В таких случаях, а наши результаты показывают, что линейные модели, может быть отдано предпочтение, когда две группы общей дисперсии, нелинейные методы обучения может быть выгодным, несмотря на overfitting, когда отклонения различны.

Новые данные показывают, что наблюдаемые бедных безотказной работы с индуктивным методы обучения часто возникают из малых обучающих выборок используется. Последние теоретические результаты (эренфойхтовых и др.., 1989; Хаасслер, 1988; Цай

Все три наших методов обучения с нелинейными представления обладают более высокой чувствительностью к распределению эксцесс с умеренной и большой неоднородности дисперсии. Их производительность уменьшается распределения данных становится все более kurtotic. Подобное поведение проявляется в отношении квадратичных дискриминантных функций (Joachimsthaler

Если линейные модели являются предпочтительными, в связи с их охотнее интерпретируемости (Altman и др.., 1981) и более высокой надежности, генетические алгоритмы видел обеспечить надежную альтернативу традиционным дискриминантного анализа. Оба эти методы линейного выставки в значительной степени равномерной производительности в масштабах всего вычислительного условиях считается, с генетической модели алгоритм превосходит дискриминантного анализа по подготовке данных. В соответствии с ранее исследований, дискриминантный анализ наблюдается выполнить хорошо, когда его предположения многомерной нормальности и однородности группы variancecovariance удовлетворены, его прогноз производительности заметил, чтобы быть более чувствительными к неоднородности дисперсии. Хотя дискриминантного анализа, проведенного чуть более по прогнозу, когда две разницы группы были однородны, генетические алгоритмы показали выше точность предсказания, когда группа отклонений отличались. Оба метода также выполнять аналогично в отношении распространения данных, типа как в подготовке и прогнозирования. Кроме того, как это описано в Келер (1991), генетический подход, алгоритм потенциально пригодных для обучения сокращен дискриминантов измерение, где явное преимущество модели с минимальным числом переменных искал.

Генетическое программирование, внедрение эволюционного поиска на неопределенный нелинейной функции, является в значительной степени неизученными как дискриминант инструмент, и наши результаты показывают, что генетическое программирование может стать привлекательным дискриминантного метода. О подготовке данных, различия между выступлениями нейронные сети и генетические модели программирования, хотя и значительные, мала. О прогнозировании, тоже, хотя общая точность нейронных сетей выше, чем у генетического программирования, их поведение напоминает поведение с точки зрения как неоднородность дисперсию и распределение типа. Генетическое программирование Таким образом, модели нелинейности сравнительно с помощью нейронной сети. Кроме того, генетические модели программирования обеспечивают дополнительное преимущество интерпретируемости: вывод является функцией независимых переменных, а не сети нейронов. Хотя в некоторых областях применения (например, распознавание символов) имеют точность предсказания в качестве единственного озабоченность и могут таким образом использовать черного ящика, модель интерпретируемости становится важным и в других областях, таких как медицина и управление рисками. Генетическое программирование, таким образом обеспечить лиц, принимающих решения полезной альтернативой нейронных сетей. Кроме того, следует отметить, что генетическое программирование основе функции были ограничены основные арифметические операции, в набор функций рассмотрел; производительность может быть значительно повышена за счет включения в другие функции, такие как журнал (), ехр () и т. д., набор функций ..

Среди нелинейных методов обучения рассматриваются, C4.5 представлены аналогичные общую надежность с помощью нейронной сети и генетического программирования, но превосходит точности как в подготовке и прогнозирования, и делает хорошим кандидатом для применения в отношении дискриминации задач. Ее высокая производительность по подготовке данных, однако, может быть обманчивым, особенно в случае однородной дисперсии, в котором его надежность самой низкой из всех методов. C4.5 оказывается выгодным с ростом дисперсии неоднородности.

Потенциальным фактором высокой производительности C4.5 является наличие только двух групп классификации. Shavlik и др.. (1991) сообщили, что ID3 работает лучше, чем нейронные сети прямого распространения, когда данные содержит меньшее количество классов и групп. При большом количестве групп, Есть меньше примеров каждой группе и ID3 стремится построить деревьев решений с малым дизъюнктов (листьев с меньшим количеством примеров), в результате высоких темпов ошибки предсказания. Количество классификационных групп, а также по ряду признаков и прогнозирование переменных, указывает на меру сложности задачи (Subramanian, Хунг,

Вопрос с утверждением C4.5 была ли его ухудшается с числовым многозначных атрибутов, а проистекает из ряда экспериментальных результатов сравнения ID3 и нейронные сети. Хотя Атлас и др.. (1990) и др. Shavlik. (1991) нашли прямого распространения лучше числовые атрибуты, Вайс и Kapouleas (1989) нашли, что это, как правило, не соответствует действительности. Полученные результаты подтверждают Последний факт и указать, что численные атрибуты не место ID3 в любой недостаток. Ассоциации с ID3 категориальные переменные вытекает из оригинального алгоритма (Куинлан, 1986), не имеющих явных обработки цифровой стоимости средств. C4.5 'ы включены методы обработки цифровой многозначных атрибутов, как представляется, преодолеть это кажущееся ограничение.

Распределение ошибки классификации между группами вопросов, вызывающих озабоченность во многих приложениях реального мира. Хотя такие расходы ошибочной классификации и до вероятности, были включены с помощью нейронной сети классификаторов (Там

Как указывалось выше, еще желательно особенностью техники является минимизация количества атрибутов, необходимых для дискриминации. Келер (1991) добавил минимальной атрибут критериев генетического алгоритма функции пригодности и показали, что генетические алгоритмы могут узнать ограниченной размерности дискриминантов без ущерба для точности классификации. Генетическое программирование, учитывая аналогичные фитнес-поиска на основе, потенциально поддаются такой подход, и его эффективность при изучении дискриминантных функций меньшей размерности требует дальнейшего изучения. Энтропийных критериев отбора, используемых в ID3 также косвенно направлена на сокращение числа узлов к узлу решение листа. Статистические методы и нейронные сети, данные, возможно, потребуется предварительная обработка для сокращения размерности.

Наконец, отметим, что экспериментальные данные не полностью отражают реальные данные, и наблюдаемое поведение методы Таким образом, следует рассматривать только в контексте искусственно созданные условия исследования. Это исследование рассматривает только два набора данных характеристик озабоченность; другие потенциальные признаки интереса обсуждаются в следующем разделе. Кроме того, все методы обучения используется здесь могут быть уточнены и их параметры настроены к данным, засекречены. Нет такой тонкой настройки проводили для наших экспериментов, а также общепризнанных или настройки по умолчанию параметра были использованы таким образом, что все методы рассматриваются на равноправной основе.

БУДУЩИХ ИССЛЕДОВАНИЙ

Эта статья представляет собой сравнение методов обучения для 2-групп дискриминации на основе характеристик распределения данных. Хотя в ряде эмпирических исследований с использованием различных дискриминации и классификация методов были зарегистрированы в литературе, наиболее сравнение методов машинного обучения, основанных на реальных данных. Наше исследование рассматривает как обучение методам выполнения на смоделированных данных, которая варьируется в отношении распределения эксцесс и дисперсии гетерогенность между двумя группами. Использование модельных данных позволяет установить более жесткий контроль и экспериментирования при известных условиях. Такие генераторы проблемы, что позволяет анализ чувствительности, поэтому лучше подходят для изучения, как изменяющиеся данные характеристики относятся к разным методам. Используя данные, которые были широко освещались в сравнении традиционных методов дискриминации, данное исследование представляет собой хорошую основу для сравнения машинного обучения с традиционными методами. Она также помогает установить некоторые руководящие принципы по выбору техники с учетом данных задачи характеристик.

Как уже упоминалось, только два набора данных признаков возможного рассмотрения были рассмотрены. В соответствии с будущим направлениям исследований описаны в Joachimsthaler и Stam (1988), эффективность методов обучения с данными из несимметричных населения, а также с данными, имеющими intercorrelated переменных должны быть расследованы. Проблема сложности (Subramanian и др.., 1993) представляет собой еще один фактор для рассмотрения в будущем научных исследований, а также эффективность методов обучения с большим числом переменных предикторов и классификация категорий потребностей систематической оценке. Размер обучающей выборки является важным фактором в индуктивных методов, и не решались в полной мере в литературе, особенно для эволюционных методов. Чувствительность различных методов малых доступных обучающих выборок и их эффективности с ростом потребностей в обучении данных следствия. Как отмечалось ранее, скупость решений часто желательных функций и Келлера (1991) описывает, как функция А. пригодности может включать такие соображения. Аналогичным образом, эффективность генетического программирования для обучения сокращен дискриминантов размерности требует дальнейшего изучения.

Дальнейшие исследования необходимо также изучить эффективность включения классификации расходов в различных процедур обучения, а также линии Там и Цзян (1992). [В редакцию: Ноябрь 22,1995. Принято редколлегией: Сентябрь 12,1997.].

Ссылки

Абад, П. Л.,

Аллен, F.,

Альтман, Е. Л., Эйзенбеис, Р. А.,

Bhattacharyya, S. (1996). Генетические алгоритмы для прямого маркетинга. Труды 18-й Национальной конференции, Национальный центр маркетинга баз данных, Орландо, штат Флорида.

Breiman, Л. Фридман, J. H., Olshen Р.,

Чунг, Х. М.,

Кларк, П.,

Кронан, Т. П., Горфилд, Л. В.,

Associates Дэвид Шепард. (1995). Новый прямой маркетинг. Chicago, IL: Ирвин. Дэвис, Л. (1991). Справочник генетических алгоритмов. Нью-Йорк: Райнхольд ИЛ.

Дуда, Р. О.,

Эренфойхтовых А., Хаасслер Д., Кернс, М.,

Фишер, Д. Х.,

Летопись евгеники, 7, 179-188.

Освободившись, N.,

Furness, P. (1995). Нейронных сетей, управляемых данными маркетинга. В С. Goonatilake

Голдберг, Д. Е. (1989). Генетические алгоритмы поиска, оптимизации и машины

обучения. Чтение, М.: Addison-Wesley.

Goonatilake, S. (1995). Интеллектуальные системы в области финансов и бизнеса: обзор. В С. Goonatilake

Грин, Д. П.,

Хансен, И. В., Макдональд, J. Б.,

Голландия, J. H. (1975). Адаптация в естественных и искусственных систем. Ann Arbor, MI: Университет штата Мичиган Press.

Joachimsthaler, Е. А.,

Король, Р. Д., Генри Р., Фэн, C.,

Келер, Г. J. (1991). Линейные дискриминантных функций, определяется путем генетического поиска. Orsa журнал по вычислительной, 3 (4), 345-357.

Келер, Г. J.,

дискриминантного анализа. Decision Sciences, 21, 63-85. Коза, J. R. (1992). Генетическое программирование: На программирования компьютеров путем естественного отбора. Cambridge, MA: MIT Press. Лян, Т. П., Чандлер, J. С. Хан, И.,

Лопес де Mantraras, R. (1991). Расстоянию меры атрибут выбор для решения индукции дерева. Техническое примечание, машинного обучения, 6, 81-92. Michalewicz, З. (1994). Генетические алгоритмы Структуры данных = Эволюция про

г (2-е изд.). Лондон: Springer-Verlag.

Mingers, J. (1989). Эмпирические сравнения выбора мер по decisiontree индукции. Машинного обучения, 3, 319-342.

Patuwo Е., Ху Цзиньтао, М. Y,

с лечением. Решение наук, 24 (4), 825-845. Piatetsky-Шапиро, Г.,

Куинлан, J. Р. (1993b). Сравнение коннекционистский и символических методов обучения. В С. Хэнсон, Г. Drastal

Raghupathi, W., Schkade, Л. Л.,

Шаффер, C. (1994). Закон сохранения для обобщения работы. Труды XI Международной конференции по машинному обучению, San Francisco, CA, 259-265.

Shavlik, J. В., Муни, Р. J.,

алгоритмов: экспериментальное сравнение. Машинного обучения, 6, 111-143. Subramanian В., Хунг, М. С.,

Syswerda, G. (1989). Равномерное кроссовер в генетических алгоритмах. Материалы Третьей Международной конференции по генетические алгоритмы, Вашингтон, округ Колумбия, 2-9.

Там, К. Ю.,

Системы поддержки принятия решений, 10, 161-172.

Уолкер, Р. F., Haasdijk, Е. В.,

Вольперт, Д. Х.,

Институт Санта-Фе технический доклад № SFI-TR-95-02-010, Санта-Фе, Н. М.. Юн Ю.,

Сиддхартха Bhattacharyya

Департамент информации и Decision Sciences, Колледж делового администрирования, Университет штата Иллинойс в Чикаго, 601 Саут Морган Street, Chicago, IL 60607-7124, адрес электронной почты: <a href="mailto:sidb@uic.edu"> sidb @ МСЖД. образование </ A>

Параг C. Пен

Капитал колледж, Университет штата Пенсильвания, 777 В. Гаррисберг Пайк, Middletown, PA 17057, адрес электронной почты: <a href="mailto:pxpl9@psu.edu"> pxpl9@psu.edu </ A>

Сиддхартха Bhattacharyya является доцентом в Департаменте информации и Decision Sciences в бизнес-колледжа Университета Иллинойса в Чикаго. Он получил докторскую степень в Университете Флориды в 1993 году. В настоящее время его научные интересы в области интеллектуальной поддержки принятия решений помощью машинного обучения, генетические алгоритмы, и мультиагентных систем.

Параг C. Pendharkar является доцент Университета штата Пенсильвания в Харрисбург. Он получил DBA в УИС с Университетом Южного Иллинойса в Карбондэйле в 1997 году. До прихода в Penn State Гаррисберг, он работал консультантом по вопросам управления Решение Фокус Инк (ПИИ) в Маунтин-Вью, Калифорния. На DFI, он работал на различных консультационных проектов, таких как моря-Land Сервисез Инк, Continental Airlines, правительству США, и охране окружающей среды США. Его статьи были опубликованы или приняты к публикации в Компьютеры