1. Какая классификация параллельных архитектур основана на количестве потоков команд и потоков данных?
2. Что означает аббревиатура SISD в классификации Флинна?
3. Какая архитектура лучше всего подходит для задач, требующих выполнения одной и той же операции над большим объемом данных?
4. Какая архитектура характеризуется общей памятью, используемой всеми процессорами?
5. Что такое когерентность кэша?
6. Какая архитектура состоит из группы независимых компьютеров, соединенных сетью?
7. Какой протокол чаще всего используется для обмена данными между узлами кластера?
8. Какая архитектура характеризуется очень большим количеством процессоров и специализированной сетью для высокоскоростной связи?
9. Что означает аббревиатура GPU?
10. Какой язык программирования обычно используется для программирования GPU?
11. Что означает термин GPGPU?
12. Какая архитектура интегрирует несколько процессорных ядер и другие компоненты на одном чипе?
13. В каких устройствах чаще всего используются SoC?
14. Какая модель предоставления вычислительных ресурсов осуществляется по требованию через интернет?
15. Что является ограничением на ускорение, которое можно достичь за счет параллелизации, согласно закону Амдала?
16. Что является основным преимуществом использования облачных вычислений для параллельной обработки данных?
17. Какая архитектура характеризуется распределенной памятью?
18. Какая архитектура наиболее энергоэффективна?
19. Что такое масштабируемость?
20. Какая топология сети обычно используется в MPP-системах?
21. Что такое модель параллельного программирования?
22. В какой модели параллельного программирования потоки взаимодействуют через общую область памяти?
23. Какой механизм используется для синхронизации потоков в модели с разделяемой памятью, чтобы избежать гонок данных?
24. В какой модели параллельного программирования процессы взаимодействуют путем обмена сообщениями?
25. Что такое MPI?
26. В какой модели параллельного программирования одна и та же операция применяется одновременно к разным элементам данных?
27. Что такое CUDA?
28. В какой модели параллельного программирования программа разбивается на независимые подзадачи, которые выполняются параллельно?
29. В какой модели параллельного программирования система состоит из множества независимых “акторов”, взаимодействующих путем отправки и получения асинхронных сообщений?
30. Какой язык программирования часто используется для реализации модели акторов?
31. В какой модели параллельного программирования программа строится из чистых функций, не имеющих побочных эффектов?
32. Что такое чистая функция?
33. Какой язык программирования поддерживает функциональный параллелизм?
34. Какая проблема может возникнуть при использовании модели с разделяемой памятью, когда несколько потоков одновременно пытаются записать в одну и ту же область памяти?
35. Что такое взаимоблокировка (deadlock)?
36. Какой из перечисленных вариантов НЕ является преимуществом модели распределенной памяти?
37. В какой модели параллельного программирования управление задачами обычно осуществляется менеджером задач?
38. Какой из перечисленных вариантов НЕ является преимуществом модели акторов?
39. Какой из перечисленных факторов НЕ следует учитывать при выборе модели параллельного программирования?
40. Какая модель программирования наиболее подходит для гетерогенных вычислительных систем (например, CPU + GPU)?
41. Что такое распараллеливание алгоритма?
42. Какой метод распараллеливания заключается в разделении данных между процессорами/потоками?
43. Какой метод распараллеливания заключается в разбиении алгоритма на независимые задачи, которые могут выполняться параллельно?
44. Какой метод распараллеливания заключается в разделении алгоритма на последовательные этапы, через которые данные проходят как по конвейеру?
45. Какой метод распараллеливания подходит для алгоритмов, основанных на рекурсии?
46. Что необходимо учитывать при разделении данных, чтобы обеспечить эффективное распараллеливание?
47. Что необходимо учитывать при использовании конвейеризации?
48. Какой тип зависимости возникает, когда результат одной операции используется в качестве входных данных для другой операции?
49. Какой тип балансировки нагрузки предполагает распределение работы между процессорами/потоками до начала вычислений?
50. Какой тип балансировки нагрузки предполагает распределение работы между процессорами/потоками во время вычислений?
51. Какова цель минимизации коммуникаций в параллельных программах?
52. Какой из перечисленных методов НЕ относится к методам минимизации коммуникаций?
53. Что такое зернистость (granularity) в контексте параллельных вычислений?
54. Алгоритм сортировки слиянием (Merge Sort) хорошо подходит для распараллеливания с использованием какого метода?
55. Алгоритм умножения матриц часто распараллеливают с использованием какого метода?
56. Какой метод анализа зависимостей определяет, какие операции должны выполняться последовательно, а какие могут выполняться параллельно?
57. Какой фактор НЕ следует учитывать при выборе метода распараллеливания?
58. Что такое “критический путь” в параллельном алгоритме?
59. Что такое “ускорение” (speedup) в контексте параллельных вычислений?
60. Что такое “эффективность” (efficiency) в контексте параллельных вычислений?
61. Что ограничивает максимальное ускорение параллельной программы согласно закону Амдала?
62. Какой закон утверждает, что с увеличением количества процессоров можно решать задачи большего размера за то же время?
63. Как рассчитывается ускорение (Speedup) параллельной программы?
64. Что показывает метрика масштабируемости (Scalability) параллельной программы?
65. Как рассчитывается эффективность (Efficiency) параллельной программы? (где N — количество процессоро)
66. Какой процесс используется для измерения производительности различных частей программы с целью выявления узких мест?
67. Какой инструмент используется для поиска и устранения ошибок в параллельных программах, позволяя выполнять программу по шагам и просматривать значения переменных?
68. Что такое “гонка данных” (data race)?
69. Какой метод оптимизации коммуникаций предполагает передачу только необходимых данных, избегая передачи избыточной информации?
70. Какой метод оптимизации памяти предполагает организацию данных в памяти таким образом, чтобы близлежащие данные использовались вместе?
71. Что такое “ложное разделение” (false sharing)?
72. Какой метод оптимизации памяти предполагает размещение данных в памяти по границам, кратным размеру данных, для повышения скорости доступа?
73. Какой метод оптимизации памяти предполагает предотвращение частого выделения и освобождения памяти, что может быть дорогостоящим?
74. Что такое балансировка нагрузки (load balancing)?
75. Какой тип балансировки нагрузки предполагает распределение работы до начала вычислений?
76. Что такое RDMA (Remote Direct Memory Access)?
77. Какой из перечисленных инструментов используется для профилирования CUDA-приложений на GPU NVIDIA?
78. Что означает “сильная масштабируемость” (strong scalability)?
79. Что означает “слабая масштабируемость” (weak scalability)?
80. Что из перечисленного НЕ является методом оптимизации производительности параллельной программы?
