Xreferat.com » Рефераты по информатике и программированию » Вступ до аналізу асоціативних правил

Вступ до аналізу асоціативних правил

Размещено на /

Вступ до аналізу асоціативних правил


Останнім часом задачі пошуку нових знань у великих базах сирих даних стають все більш популярними та актуальними. Одним із популярних методів виявлення знань став алгоритм пошуку так званих асоціативних правил (Association Rules). Суть задачі полягає в знаходження наборів об’єктів, які зустрічаються найчастіше серед всієї множини ймовірних наборів об’єктів. Першим застосуванням такої задачі був аналіз тенденцій в поведінці покупців у супермаркетах. При цьому аналізувались дані про всі здійснені покупки, які кожен покупець кладе у свій кошик, та одержувалась інформація про те, які товари переважно купуються разом, в якій послідовності, якими категоріями покупців, в які періоди часу, тощо. Такого роду знання дозволяють ефективно планувати закупку товарів у магазин, розробляти ефективні рекламні кампанії та розкладати товар таким чином, щоб провокувати покупців на різноманітні покупки.

Наприклад, з набору товарів, які купуються в магазинах, можна виділити такі набори товарів, що переважно купуються одночасно:

{чіпси, пиво};

{вода, горіхи};

{чай, печиво};

Тощо.

Таким чином, можна зробити висновок про те, що якщо купуються чіпси чи горіхи, то, як правило, купуються, пиво чи вода, відповідно. Отже, можна розмістити ці товари поруч на прилавках, об’єднати їх в один пакет зі знижкою чи здійснити інші дії.

Задача пошуку асоціативних правил є актуальною не лише у сфері торгівлі. Наприклад, в сфері обслуговування цікавою є інформація про те, якими послугами клієнти користуються в сукупності. Для одержання цієї інформації вирішується задача аналізу даних про послуги, якими користується один клієнт протягом певного часу. Це допомагає визначити, наприклад, як найбільш вигідно сформувати пакети послуг для клієнтів.

В медицині аналізуватись можуть симптоми та хвороби пацієнтів. В цьому випадку знання про те, які поєднання хворів та симптомів зустрічаються найчастіше, дозволяють в майбутньому ставити правильні діагнози.


Визначення


Щоб дати означення асоціативного правила, будемо вважати, що існує база даних, якій містяться записи про всі здійснені покупки в супермаркеті. Кожен запис називається транзакцією і включає дані про набір товарів, куплених одним покупцем за один візит. Таку транзакцію ще називаю ринковим кошиком.

Нехай Вступ до аналізу асоціативних правил – це вся множина товарів з супермаркету, що називаються елементами.


Приклад1:

Ідентифікатор Найменування товару Ціна
0 Шоколад 30.00
1 Чіпси 12.00
2 Кокоси 10.00
3 Вода 4.00
4 Пиво 14.00
5 Горіхи 15.00

Тобто вся множина елементів (їх загальна кількість рівна Вступ до аналізу асоціативних правил ) Вступ до аналізу асоціативних правил буде:


Вступ до аналізу асоціативних правил.

Кожна транзакція Вступ до аналізу асоціативних правил описується як: Вступ до аналізу асоціативних правил. Приклади транзакцій:


Вступ до аналізу асоціативних правил

Вступ до аналізу асоціативних правил


Набір усіх відомих транзакцій (загальна їх кількість нехай рівна Вступ до аналізу асоціативних правил) позначаємо як Вступ до аналізу асоціативних правил: Вступ до аналізу асоціативних правил.

Нехай для нашого прикладу:


Вступ до аналізу асоціативних правил


Тоді множину Вступ до аналізу асоціативних правил можемо представити у вигляді:

№ транзакції Ідентифікатор товару Найменування товару Ціна
0 1 Чіпси 12.00
0 3 Вода 4.00
0 4 Пиво 14.00
1 2 Кокоси 10.00
1 3 Вода 4.00
1 5 Горіхи 15.00
2 5 Горіхи 15.00
2 2 Кокоси 10.00
2 1 Чіпси 12.00
2 2 Кокоси 10.00
2 3 Вода 4.00
3 2 Кокоси 10.00
3 5 Горіхи 15.00
3 2 Кокоси 10.00

Множину транзакцій, в яку входить об’єкт Вступ до аналізу асоціативних правил позначимо як:


Вступ до аналізу асоціативних правил.

Наприклад, множина транзакцій, в які входить елемент «вода»:


Вступ до аналізу асоціативних правил


Деякий довільний набір елементів позначимо так: Вступ до аналізу асоціативних правил. Набір, що складається з Вступ до аналізу асоціативних правил об’єктів називається Вступ до аналізу асоціативних правил-елементним набором. Приклад 2-елементного набору: Вступ до аналізу асоціативних правил.

Множину транзакцій, в яку входить набір Вступ до аналізу асоціативних правил, позначимо Вступ до аналізу асоціативних правил: Вступ до аналізу асоціативних правил.

В даному прикладі:


Вступ до аналізу асоціативних правил.


Відношення кількості транзакцій, в які входить Вступ до аналізу асоціативних правил, до загальної кількості транзакцій називається підтримкою (support) набору Вступ до аналізу асоціативних правил та позначається Вступ до аналізу асоціативних правил:


Вступ до аналізу асоціативних правил.


Можна підтримку рахувати у відсотках (тоді треба помножити на 100%).

Для набору Вступ до аналізу асоціативних правил підтримка рівна 0.5 або 50%, так як цей набір входить у дві транзакції (з номерами 1 та 2), а всього транзакцій є 4.

При пошуку аналітик може вказати мінімальне значення підтримки для наборів, що його цікавлять – Вступ до аналізу асоціативних правил.

Набір називається частим, якщо значення його підтримки є більшим за вказане мінімальне значення, задане користувачем: Вступ до аналізу асоціативних правил.

Таким чином, при пошуку асоціативних правил необхідно знайти множину всіх частих наборів:


Вступ до аналізу асоціативних правил.


В даному прикладі частими наборами при Вступ до аналізу асоціативних правил є такі:


Вступ до аналізу асоціативних правил


З іншого боку, важливо не лише знайти часті набори, але виявити правила «якщо....., то...». Наприклад, в даному прикладі можна досліджувати, наскільки правдивим є правило: якщо «кокоси», то «вода». Тобто важливо не просто знати. Що ці ва елементи часто знаходяться в одному наборі, але й вміти прогнозувати, що при покупці «кокосів» ймовірно буде покупка «води» або навпаки.

Розіб’ємо наш досліджуваний наборі на два піднабори: Вступ до аналізу асоціативних правил та Вступ до аналізу асоціативних правил. Наприклад, набір Вступ до аналізу асоціативних правилбудемо розглядати як: Вступ до аналізу асоціативних правил та Вступ до аналізу асоціативних правил, тобто Вступ до аналізу асоціативних правил. Тоді асоціативним правилом можна назвати імплікацію2: Вступ до аналізу асоціативних правил, де Вступ до аналізу асоціативних правил. Правило Вступ до аналізу асоціативних правил має підтримку:

Вступ до аналізу асоціативних правил, Вступ до аналізу асоціативних правил


тобто Вступ до аналізу асоціативних правил – це відсоток зі всіх транзакцій Вступ до аналізу асоціативних правил, що містять і набір Вступ до аналізу асоціативних правил, і набір Вступ до аналізу асоціативних правил (тобто містять набір Вступ до аналізу асоціативних правил).


Вступ до аналізу асоціативних правил


Бо, як було вже згадано вище, з чотирьох транзакцій дві містять і «Кокоси» і «Воду».

Достовірністю правила називається ймовірність того, що саме з Вступ до аналізу асоціативних правил випливає Вступ до аналізу асоціативних правил. Правило Вступ до аналізу асоціативних правил має достовірність (confidence):


Вступ до аналізу асоціативних правил,


що показує, який відсоток з усіх транзакцій Вступ до аналізу асоціативних правил, що містить Вступ до аналізу асоціативних правил, також містить і Вступ до аналізу асоціативних правил.


Вступ до аналізу асоціативних правил.


Отже, підтримка правила Вступ до аналізу асоціативних правил рівна 50% (50% зі всіх транзакцій містять і «Кокоси», і «Воду»), а достовірність цього правила рівна 66.7% (66.7% зі всіх транзакцій, що містять «Кокоси», також містять і «Воду»).

Іншими словами, метою аналізу є встановлення наступних залежностей: якщо в транзакції зустрівся деякий набір елементів Вступ до аналізу асоціативних правил, то на підставі цього можна зробити висновок про те, що інший набір елементів Вступ до аналізу асоціативних правил також повинен з'явитися в цій транзакції. Алгоритми пошуку асоціативних правил призначені для знаходження всіх правил Вступ до аналізу асоціативних правил, причому підтримка і достовірність цих правил повинні бути вищими за деякі наперед задані пороги, що називаються відповідно мінімальною підтримкою (Вступ до аналізу асоціативних правил) та мінімальною достовірністю (Вступ до аналізу асоціативних правил).


Деякі видозміни асоціативних правил


Узагальнені асоціативні правила (Generalized Association Rules)

При пошуку асоціативних правил вище припускалось, що всі аналізовані елементи є однорідними. Проте, повертаючись до аналізу ринкової корзини, не складе великих труднощів доповнити транзакцію інформацією про те, до якої товарної групи входить товар і побудувати ієрархію товарів. Приведемо приклад такого групування (таксономії) у вигляді ієрархічної моделі.


Вступ до аналізу асоціативних правил


Нехай дана база транзакцій та відомо, в які групи (таксони) входять елементи. Тоді з даних можна одержувати правила, що пов'язують групи з групами, окремі елементи з групами і т.д. Наприклад, якщо покупець купив товар з групи «Безалкогольні напої», то він купить і товар з групи «Молочні продукти»: правило Вступ до аналізу асоціативних правил. Ці правила носять назву узагальнених асоціативних правил.

Введення додаткової інформації про угрупування елементів у вигляді ієрархії має свої переваги, зокрема, допомагає встановити асоціативні правила не тільки між окремими елементами, але й між різними рівнями ієрархії (групами). Проте з додаванням до транзакції понять груп збільшується кількість атрибутів і, відповідно, розмірність вхідного простору. Це ускладнює завдання, а також призводить до генерації більшої кількості правил. Для знаходження узагальнених асоціативних правил бажано використання спеціалізованого алгоритму, який усуває вищеописані проблеми.

Групувати елементи можна не тільки по входу до певної товарної групи, але й за іншими характеристиками, наприклад за ціною (дешево, дорого), брендом і т.д.


Чисельні асоціативні правила (Quantitative Association Rules)


При пошуку асоціативних правил все зводилося до того, чи присутній в транзакції елемент чи ні. Тобто, якщо розглядати випадок ринкової корзини, то розглядаємо два стани: куплено товар чи ні. При цьому ігнорується, наприклад, інформація про те, скільки чого було куплено, хто саме купив, тощо. Тобто було розглянуто "булеві" асоціативні правила. Проте можна аналізувати дані різних типів: числові, категоріальні і т.д.

Приклад чисельного асоціативного правила:

Якщо «[Вік: 30-35]» і «[Сімейний стан: одружений]», то «[Місячний дохід: 1000-1500 гривень]».


Ознайомлення з аналітичною платформою Deductor


Deductor Studio – аналітичне ядро платформи Deductor, що містить повний набір механізмів імпорту, обробки, візуалізації й експорту даних для швидкого й ефективного аналізу інформації. У ньому зосереджені найсучасніші методи видобутку, очищення, маніпулювання та візуалізації даних, а також доступні методи моделювання, прогнозування, кластеризації, пошуку закономірностей та багато інших технологій видобутку знань (Knowledge Discovery in Databases) і видобутку даних (Data Mining).

В Deductor Studio включений повний набір механізмів, що дозволяє одержати інформацію з будь-якого джерела даних, провести весь цикл обробки (очищення, трансформацію даних, побудову моделей), відобразити одержані результати у найбільш зручний спосіб (OLAP, таблиці, діаграми, дерева рішень...) і експортувати результати.

Вся робота з аналізу даних в Deductor Studio базується на виконанні наступних дій:

Вступ до аналізу асоціативних правил Імпорт даних;

Вступ до аналізу асоціативних правил Ообробка даних;

Вступ до аналізу асоціативних правил Візуалізація;

Вступ до аналізу асоціативних правил Експорт даних.

Відправною точкою для аналізу завжди є процедура імпорту даних. Одержаний набір даних може бути опрацьований будь-яким доступним способом. Результатом опрацювання також є набір даних, що може опрацьовуватись при потребі і далі. Результати опрацювання можна звізуалізувати різними способами та експортувати в найбільш популярні формати. Послідовність дій, які проводяться при аналізі даних, називаються сценарієм, який можна автоматично виконувати на будь-яких даних.

Deductor Studio підтримує багато різних джерел даних: промислові СУБД (Oracle, MS SQL...), текстові файли, офісні ужитки (Excel, Access), ADO і ODBC джерела. Очевидно, що Deductor Studio є також повністю інтегрований з багатомірним сховищем даних Deductor Warehouse.

Під обробкою чи опрацюванням даних мається на увазі будь-яка дія, пов'язана із перетворенням даних, наприклад, побудова моделей, очищення від шумів чи аномальних значень. При цьому механізми обробки можна комбінувати довільним чином так, щоб досягти найкращого результату.

Візуалізація – це відображення імпортованих та опрацьованих даних. Візуалізувати можна будь-який об'єкт у сценарії обробки. Програма самостійно аналізує, яким чином можна відобразити інформацію, а користувач повинен лише вибрати потрібний варіант.


Майстер імпорту даних Вступ до аналізу асоціативних правил


Майстер імпорту допоможе в інтерактивному покроковому режимі вибрати тип джерела даних і налаштувати відповідні параметри. На першому кроці відкривається список всіх передбачених у системі типів джерел даних, згрупованих за способом доступу до даних. Список доступних джерел може змінюватися залежно від налаштуваньВступ до аналізу асоціативних правил на панелі підключень, а також індивідуальних налаштувань доступних дій і доступних джерел даних. Підключенням називається налаштоване і назване певним чином під’єднання до зовнішньої системи, що дозволяє обмінюватись із нею даними (приймати чи передавати).

Для виклику Майстра імпорту можна скористатися кнопкою Вступ до аналізу асоціативних правил «Майстер імпорту» на панелі інструментів Вступ до аналізу асоціативних правил «Сценарії», вибрати відповідну команду з контекстного меню або натиснути <F6>. З доступних підключень клацанням миші виберіть потрібне:

Сховища даних:

Вступ до аналізу асоціативних правил Virtual Warehouse – імпорт даних з Virual Warehouse;

Вступ до аналізу асоціативних правил Deductor Warehouse - імпорт даних з Deductor Warehouse.

Бізнес-програми:

Вступ до аналізу асоціативних правил 1С: Підприємство 7.7 – імпорт даних з облікової системи 1С версії 7.7;

Вступ до аналізу асоціативних правил 1С:Підприємство 8.x – імпорт даних з облікової системи 1С 8.х.

Бази даних:

Вступ до аналізу асоціативних правил База даних – імпорт даних з баз даних різних видів.

Прямий доступ до файлів:

Вступ до аналізу асоціативних правил Текстовий файл із роздільниками – тобто у форматі, в якому стовпці даних розділені однотипними символами-роздільниками;

Вступ до аналізу асоціативних правил Імпорт з DBF – прямий доступ до файлів плоских баз даних типу DBF, що підтримується такими ужитками, як dBase, FoxBase, FoxPro.

Механізм MS ADO:

Вступ до аналізу асоціативних правил Microsoft Excel – книга Microsoft Excel (*.xls);

Вступ до аналізу асоціативних правил Microsoft Access – файл СУБД Microsoft Access (*.mdb);

Вступ до аналізу асоціативних правил Імпорт з DBF (ADO) – доступ через ADO3 до файлів плоских баз даних типу DBF, що підтримується такими ужитками, як dBase, FoxBase, FoxPro;

Вступ до аналізу асоціативних правил Текстовий файл з доступом через ADO – тобто текстовий файл із роздільниками, доступ до якого здійснюється через механізм ADO;

Вступ до аналізу асоціативних правил ADO-джерело – імпорт даних безпосередньо за допомогою системних налаштувань механізму ADO.

Кількості кроків Майстри імпорту та параметрів відрізянються для різних типів джерел. На кожному кроці Майстра імпорту доступні кнопки «Далі» та «Назад», які дозволяють перейти до наступного кроку або повернутися на попередній крок для внесення змін у раніше налаштовані параметри. Кнопка «Скасувати» дозволить відмовитися від використання Майстра імпорту.

Майстер опрацювання даних


Майстер опрацювання даних допоможе в інтерактивному покроковому режимі налаштувати всі необхідні етапи обробки даних. У вікні першого кроку Майстри наведені всі доступні в системі методи опрацювання даних, згруповані за типом. Для виклику Майстра опрацювання даних можна скористатися кнопкою Вступ до аналізу асоціативних правил «Майстер обробки» на панелі інструментів Вступ до аналізу асоціативних правил «Сценарії», попередньо виділивши потрібну гілку у сценарії або вибравши відповідну команду з контекстного меню (<F7>).

З доступних алгоритмів опрацювання даних потрібно вибрати один, скориставшись мишкою:

Очищення даних:

Вступ до аналізу асоціативних правил Парціальна обробка – алгоритми відновлення, згладжування та редагування аномальних даних.

Вступ до аналізу асоціативних правил Факторний аналіз – для зниження розмірності вхідних факторів. Зниження розмірності необхідно у випадках, коли вхідні фактори є скорельованими один з одним, тобто взаємозалежні. У факторному аналізі мова йде про

Если Вам нужна помощь с академической работой (курсовая, контрольная, диплом, реферат и т.д.), обратитесь к нашим специалистам. Более 90000 специалистов готовы Вам помочь.
Бесплатные корректировки и доработки. Бесплатная оценка стоимости работы.

Поможем написать работу на аналогичную тему

Получить выполненную работу или консультацию специалиста по вашему учебному проекту
Нужна помощь в написании работы?
Мы - биржа профессиональных авторов (преподавателей и доцентов вузов). Пишем статьи РИНЦ, ВАК, Scopus. Помогаем в публикации. Правки вносим бесплатно.

Похожие рефераты: