Форум: Проблемы искусственного интеллекта

Регистрация | Вход

Все темы | Новая тема  Стр.1 (4) След. > >>    Поиск:
Автор	Тема: Результатам какого обучения верить?
ketchup555 Сообщений: 7	Результатам какого обучения верить? Добавлено: 19 авг 14 1:30 Доброго дня, уважаемые форумчане! Я работаю в компании по продуктовой розничной торговле и мне необходимо прогнозировать продажи в рамках промо-акций. Для этой цели была выбрана искусственная нейронная сеть, реализованная в статистическом пакете SPSS (Многослойный персептрон -MLP). Для обучающего множества я сформировал кучу показателей (25 штук), которые оказывают влияние на итоговые акционные продажи. Но проблема заключается в следующем... при каждом новом обучении нейронной сети прогнозные значения крайне различны между собой, что не может не беспокоить. Иначе говоря, в одном обучении хорошо спрогнозировались продажи одного товара, но совершенно некорректно - на другой. И наоборот в других обучениях. Собственно, вопрос, какому обучению верить, как находить универсальные прогнозные значения? Заранее спасибо! [Ответ][Цитата]
Luarvik. Сообщений: 17287	На: Результатам какого обучения верить? Добавлено: 19 авг 14 3:15 Второй абзац и далее, как возможное решение проблемы [Ответ][Цитата]
Victor G. Tsaregorodtsev Сообщений: 3187	На: Результатам какого обучения верить? Добавлено: 19 авг 14 6:11 Цитата: Автор: ketchup555 Но проблема заключается в следующем... при каждом новом обучении нейронной сети прогнозные значения крайне различны между собой, что не может не беспокоить. Иначе говоря, в одном обучении хорошо спрогнозировались продажи одного товара, но совершенно некорректно - на другой. И наоборот в других обучениях. Собственно, вопрос, какому обучению верить, как находить универсальные прогнозные значения? Возможные причины - нерепрезентативная выборка, неадекватная (избыточная) структура сети, "плохой" алгоритм обучения,... Если не сможете победить зависимость прогнозов от обучения - можно попытаться усреднять прогнозы этой кучки сетей. Т.е. курите учебники и нарабатывайте опыт на известных задачах - чтобы затем увидеть-понять проблемы и подводные камни в своей. Чего-то продвинутого (типа дропаута, дабы "ручками" не усреднять кучку сеток) не советую - в SPSS его нет. [Ответ][Цитата]
Slava Сообщений: 3070	На: Результатам какого обучения верить? Добавлено: 19 авг 14 11:17 Цитата: Автор: ketchup555 Доброго дня, уважаемые форумчане! Я работаю в компании по продуктовой розничной торговле и мне необходимо прогнозировать продажи в рамках промо-акций. Для этой цели была выбрана искусственная нейронная сеть, реализованная в статистическом пакете SPSS (Многослойный персептрон -MLP). Для обучающего множества я сформировал кучу показателей (25 штук), которые оказывают влияние на итоговые акционные продажи. Но проблема заключается в следующем... при каждом новом обучении нейронной сети прогнозные значения крайне различны между собой, что не может не беспокоить. Иначе говоря, в одном обучении хорошо спрогнозировались продажи одного товара, но совершенно некорректно - на другой. И наоборот в других обучениях. Собственно, вопрос, какому обучению верить, как находить универсальные прогнозные значения? Заранее спасибо! Простите, а не могли бы вы немного уточнить ту задачу, что перед вами стоит - что такое промо-акция? - что за куча используемых вами характеристик и почему именно они - сколько образцов ситуаций вы используете для обучения и тестирования - сколько типов этих ситуаций [Ответ][Цитата]
ketchup555 Сообщений: 7	На: Результатам какого обучения верить? Добавлено: 19 авг 14 20:03 Цитата: Автор: Luarvik Второй абзац и далее, как возможное решение проблемы И в чем же там решение? [Ответ][Цитата]
ketchup555 Сообщений: 7	На: Результатам какого обучения верить? Добавлено: 19 авг 14 20:05 Цитата: Автор: Victor G. Tsaregorodtsev Возможные причины - нерепрезентативная выборка, неадекватная (избыточная) структура сети, "плохой" алгоритм обучения,... Если не сможете победить зависимость прогнозов от обучения - можно попытаться усреднять прогнозы этой кучки сетей. Т.е. курите учебники и нарабатывайте опыт на известных задачах - чтобы затем увидеть-понять проблемы и подводные камни в своей. Чего-то продвинутого (типа дропаута, дабы "ручками" не усреднять кучку сеток) не советую - в SPSS его нет. Насчет репрезентативности выборки - это навряд ли. Как можно оценить адекватность структуры сети? Какой алгоритм обучения лучше выбирать? [Ответ][Цитата]
ketchup555 Сообщений: 7	На: Результатам какого обучения верить? Добавлено: 19 авг 14 20:16 Цитата: Автор: Slava Простите, а не могли бы вы немного уточнить ту задачу, что перед вами стоит - что такое промо-акция? - что за куча используемых вами характеристик и почему именно они - сколько образцов ситуаций вы используете для обучения и тестирования - сколько типов этих ситуаций Промо-акция - это когда кока-колу продают не за 50 рублей, а за 29. Причем, об этом ты можешь узнать из радио, ТВ, постеров и других каналов информации. Куча характеристик - это различные особенности самой акции (тип, длительность, размер скидки, количество торговых точек и др.), товара (вес, фасовка, бренд и др.), а также место товара в продажах сети (доля в общих продажах, доля в продажах этого ценового сегмента и др.). Используется порядка 700< наблюдений (уникальных акций) по строго определенной категории товара (или только соки, или только чай). Какие проблемные ситуации возникают? В разных обучениях наблюдаются совершенно различные значения одной и той же акции. Например, по факту было продано, скажем, 10000 товара. В 1 обучении прогнозное значение поставляет ~11000, что вроде как нормально для нас. Однако во 2-ом прогноз может составить 300 штук, что является недопустимым. Но самая большая проблема состоит в том, что во 2-ом обучении по другому товару все может быть очень даже неплохо, а в 1-ом обучении прогноз, опять-таки совершенно некорректен. Кому верить? Куда смотреть? [Ответ][Цитата]
rrr3 Сообщений: 11857	На: Результатам какого обучения верить? Добавлено: 19 авг 14 21:43 Цитата: Автор: ketchup555 ...Кому верить? Куда смотреть? Ну... чисто эмоциональный подход.... Беседа ради беседы. Ваш мозг, мягко говоря, значительно совершеннее взятых Вами нейросеток. Верить надо себе! А нйеросетки выкинуть! Если лень заниматься прогнозами самому, наймите человека, его биологическая нейросетка не хуже искусственных по определению. Пусть делает прогнозы одновременно обучаясь и выискивая разные критерии, вычитывая опыт других, знакомясь с различного рода статьями и т.д., через какое-то время цены ему не будет для Вас, только ему об этом не говорите. В конечном итоге будет дешевле. Ну... а если нужны просто понты для отчетов, что Вы в своей работе используете "передовые" достижения искусственного интеллекта, то ... дело вкуса. [Ответ][Цитата]
Slava Сообщений: 3070	На: Результатам какого обучения верить? Добавлено: 20 авг 14 0:19 Цитата: Автор: ketchup555 ....Куда смотреть? Спасибо Стало немного понятнее Скажите, а кто и как определял перечень характеристик этих акций Первое впечатление - начинать надо с постановки задачи [Ответ][Цитата]
гость 78.25.123.*	На: Результатам какого обучения верить? Добавлено: 20 авг 14 0:35 обученная нейросетка есть неявная модель. (Явная модель - это какая-нибудь регрессионная модель.) А модели могут быть хорошими и плохими. Нейромоделирование само по себе не гарантирует качества модели. Модель нужно верифицировать. Напр. провести обучение на части данных а другую часть попробовать спрогнозировать. Можно использовать схему на основе выбора итогового прогноза на основе набора прогнозов разного качества (исключив заведомо плохие модели, оставив удовлетворительные, но не превосходящие друг друга во всех отношениях). В теории обучения (индукции модели) это большие отдельные главы. Вообще, нужно провести исследование качества модели - проверить ее на устойчивость к вариациям данных (устойчивость к ошибкам данных), чтобы модель не была переученной etc etc. САми данные должны быть представительными - чтобы добавление новых данных или расширение параметров данных (новых характеристик) нет приволило к существеным изменениям прогноза (cобственно и проволить обучение нужно на таких данных шевеление и умеренное расширение которых не приволит к трансформации модели). [Ответ][Цитата]
ketchup555 Сообщений: 7	На: Результатам какого обучения верить? Добавлено: 20 авг 14 1:58 Цитата: Автор: гость обученная нейросетка есть неявная модель. (Явная модель - это какая-нибудь регрессионная модель.) А модели могут быть хорошими и плохими. Нейромоделирование само по себе не гарантирует качества модели. Модель нужно верифицировать. Напр. провести обучение на части данных а другую часть попробовать спрогнозировать. Можно использовать схему на основе выбора итогового прогноза на основе набора прогнозов разного качества (исключив заведомо плохие модели, оставив удовлетворительные, но не превосходящие друг друга во всех отношениях). В теории обучения (индукции модели) это большие отдельные главы. Вообще, нужно провести исследование качества модели - проверить ее на устойчивость к вариациям данных (устойчивость к ошибкам данных), чтобы модель не была переученной etc etc. САми данные должны быть представительными - чтобы добавление новых данных или расширение параметров данных (новых характеристик) нет приволило к существеным изменениям прогноза (cобственно и проволить обучение нужно на таких данных шевеление и умеренное расширение которых не приволит к трансформации модели). Отличный ответ. Спасибо. Реализуемые ли Ваши советы в SPSS? Или это вручную необходимо делать. Если нет такой возможности, то в каком ПО лучше работать с нейросетями? Спасибо! [Ответ][Цитата]
ketchup555 Сообщений: 7	На: Результатам какого обучения верить? Добавлено: 20 авг 14 2:01 Цитата: Автор: Slava Спасибо Стало немного понятнее Скажите, а кто и как определял перечень характеристик этих акций Первое впечатление - начинать надо с постановки задачи Определяла перечень характеристик проектная группа экспертов в области торговли и аналитиков. Причем, в конечном счете, не все переменные были включены в модель. Они были отобраны в результате линейного корреляционного анализа. [Ответ][Цитата]
Slava Сообщений: 3070	На: Результатам какого обучения верить? Добавлено: 20 авг 14 2:12 Цитата: Автор: ketchup555 Определяла перечень характеристик проектная группа экспертов в области торговли и аналитиков. Причем, в конечном счете, не все переменные были включены в модель. Они были отобраны в результате линейного корреляционного анализа. Понятно Если хотите, можно пообщаться М.б., смогу вам чем-то помочь [Ответ][Цитата]
гость 78.25.123.*	На: Результатам какого обучения верить? Добавлено: 20 авг 14 2:23 к.> ну, я лишь немного перефразировал то, что сказал царегородцев. Разумеется, ни в коем случае нельзя думать, что все операции по верификации могут быть 'гарантированно' реализоваными в соотв. пакете (тут много чего, и много трудно формализуемого) - верифицировать нужно и верификацию.. нейропакетов известно (и доступно) масса. Контроль качества модели ВСЕГДА на откуп пользователю. Есть формальные критерии качества (cм. лит.) но окончательные выводы - по практике использования (cохранение качества на новых данных, адекватное доучивание или даже переучивание). [Ответ][Цитата]
ketchup555 Сообщений: 7	На: Результатам какого обучения верить? Добавлено: 20 авг 14 2:58 Цитата: Автор: гость к.> ну, я лишь немного перефразировал то, что сказал царегородцев. Разумеется, ни в коем случае нельзя думать, что все операции по верификации могут быть 'гарантированно' реализоваными в соотв. пакете (тут много чего, и много трудно формализуемого) - верифицировать нужно и верификацию.. нейропакетов известно (и доступно) масса. Контроль качества модели ВСЕГДА на откуп пользователю. Есть формальные критерии качества (cм. лит.) но окончательные выводы - по практике использования (cохранение качества на новых данных, адекватное доучивание или даже переучивание). А можете ли что-нибудь посоветовать по SPSS? [Ответ][Цитата]
Стр.1 (4): [1]  2  3  4 След. > >>