ованої мережі
Крім поліпшення алгоритму розширюється нейронного газу через особливості розв'язуваної задачі, на практиці за допомогою інструментів візуалізації та аналізу пакету main.test був підібраний радий коефіцієнтів і правил, виходячи з міркувань отримання найкращих результатів кластеризації: рівномірного розподілу документів по кластерам (зменшення дисперсії кількості документів в кластерах,), зменшення помилки мережі, зменшення дисперсії помилки кластерів.
Перше з отриманих правил - залежність максимальної кількості нейронів у мережі від кількості документів у колекції:
де значення було підібрано на практиці, як 0,67. Такий вибір був обґрунтований тим, що така залежність забезпечує незростання середньої помилки мережі при зростанні кількості документів в колекції і порівняно незначне зростання дисперсії помилки при обраному алгоритмі навчання. З таким розподілом, при кількості документів у колекції максимальну кількість нейронів у мережі сягатиме числа порядку, що приблизно відповідає 1000 документів у кожному кластері.
Максимальний вік зв'язку встановлюється числом в діапазоні, найкращим на практиці було вибрано значення 30, оскільки в даному випадку досягається більша стабільність топологічних зв'язків нейрон-нейрон.
Множник перерахунку помилки нейронів при додаванні нового нейрона в мережу був обраний значенням 0,8; множник пересч?? та помилки всіх нейронів по завершенні епохи навчання був обраний 0,9.
Початкова настройка вироблялася на прикладі двуметного простору ознак, що дозволило створити зручну візуалізацію отриманої мережі, яку ілюструє малюнок 2.
Малюнок 2 - Вибірка для навчання
На малюнку 2 відображена вибірка для навчання мережі. Хрестиками позначені вектора, складові вибірку.
Після кількох епох навчання починають додаватися кластери, що відображається на малюнку 3.
Малюнок 3 - Мережа, після кількох епох навчання
На малюнку 3 пунктирними лініями показані зв'язку нейрон-нейрон, суцільними - нейрон-документ, кругами позначені нейрони мережі.
Малюнок 4 - Остаточний результат навчання мережі
На малюнку 4 зображено остаточний результат навчання мережі на даній вибірці. Як видно, отримано розбивка даних на кластери, в мережі 22 кластера, 100 векторів вибірки; кожен кластер містить в середньому вектора вибірки; середня помилка кластера рівна (у піксель 2, масштаб 1: 1); дисперсія кількості об'єктів в кластері; дисперсія помилки кластера; при цьому середня помилка, яка припадає на об'єкт; такі параметри є придатними для даної задачі.
Висновок
Мета роботи - розробка та реалізація нейросетевого пошуку - досягнута.
У процесі проведеної роботи було розглянуто велику кількість матеріалів по нейронних мереж, методик розробки, і прикладних технологій, серед яких: нейронні мережі Кохонена векторного квантування, алгоритм розширюваного нейронного газу, векторна модель тексту, методика TF-IDF , кластерний аналіз, пошукові системи, статистичні підходи до вирішення завдання кластеризації, робота з СУБД postgreSQL, мова програмування Java і його взаємодію з СУБД, приведення даних до нормальної форми, а також оптимізовані методи роботи з даними, що зберігаються в БД. Також було проведено порівняння різних методик з метою виявлення найкращих для застосування в даній роботі.
У даній роботі був успішно доопрацьований і змінений алгоритм розширюється нейронного газу з метою отримання кращих результатів кластеризації в даній задачі зважаючи на її специфічних особливостей. Також розроблена методика застосування отриманого алгоритму до векторної моделі документа, описаної раніше в тексті роботи, що призвело до збільшення продуктивності процесу навчання мережі. На підставі практичних досліджень підтверджено, що розроблена модель нейронної мережі вирішує проблеми граничного ефекту і появи «мертвих нейронів», властиві класичної моделі мережі Кохонена, а також збільшує точність і якість апроксимації аналізованих даних.
Розроблено програмний інтерфейс додатків (API), що дозволяє використовувати даний механізм як вбудовується компонент з можливістю використання розроблених програмних інструментів.
Список використаних джерел
1.Левенштейн В. І. Двійкові коди з виправленням випадінь, вставок і заміщень символів. Доповіді Академій Наук СРСР, 1965. 163.4: 845-848.
.Кулагіна О. С. Про сучасний стан машинного перекладу//Математичні питання кібернетики, вип. 3, М .: Наук...
