и . Наприклад, використовується функціональний ряд Вольтерра, званий також поліномом Колмогорова-Габора:
В
У цій моделі - безліч вільних змінних і - вектор параметрів - вагових коефіцієнтів
В
У деяких випадках має сенс збільшити число елементів вектора вільної змінної за рахунок додавання нелінійних перетворень окремих змінних. Наприклад, задано кінцеве безліч нелінійних функцій . Додаткова вільна мінлива виходить шляхом застосування деякого перетворення з до однієї або до декількох змінним з безлічі . Базова модель лінійна відносно параметрів і нелінійна відносно вільних змінних .
Виходячи з поставлених завдань вибирається цільова функція - зовнішній критерій, що описує якість моделі. Нижче описані декілька часто використовуваних зовнішніх критеріїв. p align="justify"> Індуктивно породжуються моделі-претенденти. При цьому вводиться обмеження на довжину полінома базової моделі. Наприклад, ступінь полінома базової моделі на не повинно перевищувати задане число . Тоді базова модель подана в вигляді лінійної комбінації заданого числа творів вільних змінних:
В
тут - лінійна комбінація. Аргументи цієї функції переобозначаются наступним чином:
В
тобто,
Для лінійно входять коефіцієнтів задається одноіндексная нумерація . Тоді модель може бути представлена ​​у вигляді лінійної комбінації
- скалярний твір.
Кожна породжувана модель задається лінійною комбінацією елементів , в якій безліч індексів є підмножиною .
Налаштовуються параметри моделей. Для налаштування використовується внутрішній критерій - критерій, який вираховується з використанням навчальної вибірки. Кожному елементу вектора - елементу вибірки ставиться у відповідність вектор , алгоритм побудови відповідності зазначений вище. Будується матриця - набір векторів-стовпців . Матриця розбивається на підматриці і . Найменшу невязку , де доставляє значення вектора параметрів
