. Таким чином, прихований шар первісної мережі стає вихідним прошарком нової. Ця нейронна мережа звана компресором дозволяє отримати з 590 чисел, що описують геометрію профілю крила, 60 інших чисел. Ці числа самі по собі не мають фізичного сенсу, вони, як і стислі архіватором дані, відображають лише внутрішню структуру роботи архіватора, або, в нашому випадку, тришарової нейронної мережі. Якщо ж взяти останні три шари репликатора для отримання нової мережі, то така нейронна мережа буде розархівувати дані, тобто, відновлювати первинну розмірність. Вона називається декомпресора. По одержуваних на вході 60 числах нейронна мережа буде видавати параметри крила. Якщо ці 60 чисел були отримані після проходження перших трьох шарів, то на виході отримаємо первісну компоновку крила. Якщо ж на вхід такої мережі подати випадковий набір шести чисел, вона дасть на виході який-небудь нову компоновку, якого не було в базі даних профілів. Таким чином, декомпресор можна розглядати як генератор компонувань крил. При варіюванні 60 значень видаваний компоновка крила змінюватиметься безперервним чином. Таким чином, таким генератором компонувань крил можна значно знизити розмірність задачі оптимізації.
4.3 Детальний опис мереж
Таким чином, в нашому завданні використовуються дві різні нейронних мережі: реплікатор і аппроксіматор. Опишемо докладно структуру цих мереж, які були навчені для використання в задачі оптимізації.
. 3.1 Реплікатор
Кількість нейронів на кожному шарі репликатора наступне:
590320 60320590
Формула для обчислення виходу по входу:
де V - вхідний вектор, - матричне множення, - сігмоідной функція активації.
Кожен вхідний і вихідний вектор нормується за середнім значенням і дисперсії. Тобто перед стисненням із компонент вектора віднімаються середні значення і далі вони діляться на дисперсію, а після відновлення кожна компонента вектора множиться на дисперсію і додається до середнього значення.
Для генерації компонувань крила слід виділити безліч стислих векторів. І використовувати тільки розтискати частина репликатора, тобто:
де Vc - стиснений вхідний вектор.
4.3.2 Аппроксіматор
Аппроксіматор - це нейронна мережа, яка апроксимує функції аеродинамічних параметрів для крила і являє собою чотиришарову мережу персептронного типу. Перші дві компоненти вхідного вектора аппроксіматора: число Маха і кут атаки. Далі йдуть 17 компоненти вектора, що відповідають за подання компоновки крила в плані і параметрів фюзеляжу, без використання компоненти Y0, яка характеризує розташування крила на фюзеляжі. А після них ідуть компоненти 10-ти незалежних перетинів крила, по 61 значенню в кожному. Кожен вхідний і вихідний вектор нормується за середнім значенням і дисперсії. У цій нейронної мережі дві нелінійних приховані прошарки. Кількість нейронів на кожному шарі:
768768 8
Формула для обчислення виходу по входу:
де V - вхідний вектор, - матричне множення, - сігмоідной функція активації.
Вихідний вектор аппроксіматора складається з: і шести службових змінних.
5. Прискорення розрахунків
Нейрони в одному шарі нейронної мережі повністю незалежні один від одного, що дозволяє виконувати процес навчання на паралельній архітектурі. Для отримання прийнятного часу навчання необхідно збільшити обчислювальну потужність в 250-500 разів відносно одного CPU. Для подолання цього бар'єру продуктивності застосовувалася технологія CUDA.
5.1 CUDA
Зростання частот універсальних процесорів уперся в фізичні обмеження і високе енергоспоживання, і збільшення їх продуктивності все частіше відбувається за рахунок розміщення декількох ядер в одному чіпі. Продукція, зараз процесори містять лише до чотирьох ядер (подальше зростання не буде швидким) і вони призначені для звичайних додатків, використовують MIMD - множинний потік команд і даних. Кожне ядро ??працює окремо від інших, виконуючи різні інструкції для різних процесів.
Спеціалізовані векторні можливості (SSE2 і SSE3) для четирехкомпонентних (одинарна точність обчислень з плаваючою точкою) і двокомпонентних (подвійна точність) векторів з'явилися в універсальних процесорах через зрослі вимог графічних додатків, в першу чергу. Саме тому для певних завдань застосування GPU вигідніше, адже вони спочатку зроблені для них.
Отже, перерахуємо основні відмінності між архітектурами CPU і GPU. Ядра CPU створені для виконання одного потоку послідовних інструкцій з максимальною продуктивністю, а GPU проектуються для швидкого виконання великого числа паралельно виконуваних потоків інструкцій. Універсальні процесори оптимізовані...
