ралельному вирішенні яких досягається практично 100% -е використання всіх наявних процесорів паралельної обчислювальної системи.
· Існування послідовних обчислень - відповідно до закону Амдаля прискорення процесу обчислень при використанні p процесорів обмежується величиною
де f є частка послідовних обчислень в застосовуваному алгоритмі обробки даних. Приміром, при наявності всього 10% послідовних команд у виконуваних обчисленнях ефект використання паралелізму не може перевищувати 10-кратного прискорення обробки даних.
Дане зауваження характеризує одну з найсерйозніших проблем в області паралельного програмування (алгоритмів без певної частки послідовних команд практично не існує). Однак часто частка послідовних дій характеризує не можливість паралельного вирішення завдань, а послідовні властивості застосовуваних алгоритмів. Як результат, частка послідовних обчислень може бути істотно знижена при виборі більш підходящих для розпаралелювання алгоритмів.
· Залежність ефективності паралелізму від обліку характерних властивостей паралельних систем - на відміну від єдиності класичної схеми фон Неймана послідовних ЕОМ, паралельні системи характеризуються істотним різноманітністю архітектурних принципів побудови. Максимальний ефект від паралелізму може бути отриманий тільки при повному використанні всіх особливостей апаратури; як результат, перенесення паралельних алгоритмів і програм між різними типами систем стає скрутним (якщо взагалі можливий).
Однорідність послідовних ЕОМ також є здавалося, і ефективне використання однопроцесорних комп'ютерів теж вимагає врахування властивостей апаратури. З іншого боку, при всій різноманітності архітектур паралельних систем, тим не менше, існують і певні усталені способи забезпечення паралелізму (конвеєрні обчислення, багатопроцесорні системи і т.п.). Крім того, інваріантність створюваних паралельних програм може бути забезпечена і при використанні типових програмних засобів підтримки паралельних обчислень (програмних бібліотек MPI, PVM та ін.).
Якщо існуючі програми забезпечують вирішення поставлених завдань, то, звичайно, переробка цих програм не є необхідною. Однак якщо послідовні програми не дозволяють отримувати вирішення завдань за прийнятний час або ж виникає необхідність вирішення нових завдань, то необхідністю стає розробка нового програмного забезпечення і ці програми можуть реалізовуватися для паралельного виконання.
Проблема паралельних обчислень є надзвичайно широкою областю теоретичних досліджень і практично виконуваних робіт і звичайно підрозділяється на наступні напрямки діяльності:
розробка паралельних обчислювальних систем - огляд принципів побудови паралельних систем;
аналіз ефективності паралельних обчислень для оцінки одержуваного прискорення обчислень і ступеня використання всіх можливостей комп'ютерного обладнання при паралельних способах вирішення завдань. (аналіз ефективності організації процесів передачі даних як однієї з важливих складових паралельних обчислень виконується окремо);
формування загальних принципів розробки паралельних алгоритмів для вирішення складних обчислювально трудомістких завдань;
створення і розвиток системного програмного забезпечення для паралельних обчислювальних систем, програмні реалізації якого дозволяють розробляти паралельні програми і, крім того, знизити в значній мірі гостроту важливої ??проблеми паралельного програмування - забезпечення мобільності (переносимості між різними обчислювальними системами) створюваного прикладного програмного забезпечення;
створення і розвиток паралельних алгоритмів для вирішення прикладних задач в різних областях практичних додатків.
Підводячи підсумок всім перерахованим проблемам і зауваженням, можна укласти, що паралельні обчислення є перспективною і дуже привабливою областю застосування обчислювальної техніки та являють собою складну науково-технічну область діяльності. Тим самим, знання сучасних тенденцій розвитку ЕОМ і апаратних засобів для досягнення паралелізму, вміння розробляти моделі, методи та програми паралельного вирішення задач обробки даних слід віднести до числа важливих кваліфікаційних характеристик сучасного фахівця з прикладної математики, інформатики та обчислювальної техніки.
. 1.2 Предметна область
У даній дипломній роботі ми проводимо розробку програми, що дозволяє провести порівняльний аналіз інструментів паралелізму на прикладах задач лінійної алгебри. Головними об'єктами аналізу є послідовні і паралельні алгоритми із застосуванням відповідних інструментів.
Для кожного завдання ми будемо розглядати ідентичні алгоритм...
