Игры использующие многопоточность. Применение многопоточности в играх. Объединяя все компоненты

Внешность играет важную роль в нашей жизни, и мы всячески стараемся её улучшить или принимаем себя такими, какие мы есть и не паримся. Но с подростками всё иначе. В юном возрасте люди склонны к максимализму, и даже незначительные проблемы им кажутся катастрофой вселенского масштаба. Ну, кто из нас в подростковом возрасте не сталкивался с прыщами, плохими волосами, неудачной стрижкой, дурацкими очками и прочим? И в то время нам казалось это жуткой проблемой и прибавляло комплексов. Но люди из нашей статьи зря переживали из-за своей внешности, ведь с возрастом они превратились в настоящих красавцев и красоток.

«Мои 13 лет против моих 20»

«Разница между 12 и 18 годами»

«За 6 лет могут произойти кардинальные изменения во внешности. Слева мне 13, а справа - 19»

«На фотографии слева мне 12, сейчас - 26, но в душе я остался все тем же ребенком»

«Слева мне 19, а справа - 26»

«10 лет серьезно изменили мою внешность. Слева мне 8, а справа - 18»

«Разница между 16 и 35 годами»

«13 и 24 года. Теперь у меня чуть меньше проблем с самооценкой»

14 лет и 29 лет

«Разница между моими 17 и 26 годами»

«Я в 14 и в 33 года. Правда стеснение все равно осталось со мной»

«На первом фото мне 18, а сестре 16 лет. На втором - по 25 и 23 года, соответственно»

«На фото слева мне 14, а справа - 20»

«15 лет и 22 года. Теперь мне осталось только научиться улыбаться»

«12 лет и 19 лет. Я наконец-то полностью довольна собой»

  • Перевод

С появлением многоядерных процессоров возникла необходимость в создании игрового движка на основе параллельной архитектуры. Использование всех процессоров системы - как графического (ГП), так и центрального (ЦП) - открывает гораздо больше возможностей по сравнению с однопоточным движком на базе только ГП. Например, используя больше ядер ЦП, можно улучшить визуальные эффекты, увеличив количество физических объектов, используемых в игре, а также добиться более реалистичного поведения персонажей за счет реализации продвинутого искусственного интеллекта (ИИ).
Рассмотрим особенности реализации многопоточной архитектуры игрового движка.

1. Введение

1.1. Обзор

Многопоточная архитектура игрового движка позволяет использовать возможности всех процессоров платформы по максимуму. Она предполагает параллельное выполнение различных функциональных блоков на всех доступных процессорах. Однако реализовать подобную схему, оказывается, не так просто. Отдельные элементы игрового движка часто взаимодействуют между собой, что может привести к появлению ошибок при одновременном их выполнении. Для обработки подобных сценариев в движке предусмотрены специальные механизмы синхронизации данных, исключающие возможные блокировки. В нем также реализованы методы одновременной синхронизации данных, за счет чего время выполнения удается свести к минимуму.

Для понимания представленных материалов нужно хорошо разбираться в современных методах создания компьютерных игр, поддержки многопоточности для игровых движков или для улучшения производительности приложений в целом.

2. Состояние параллельного выполнения

Состояние параллельного выполнения - это ключевое понятие многопоточности. Только разделив игровой движок на отдельные системы, работающие каждая в своем режиме и практически не взаимодействующие с остальной частью движка, можно добиться наибольшей эффективности параллельных вычислений и сократить время, необходимое на синхронизацию. Полностью изолировать отдельные части движка, исключив все общие ресурсы, не представляется возможным. Однако для таких операций, как получение данных о положении или ориентации объектов, отдельные системы могут использовать локальные копии данных, а не общие ресурсы. Это позволяет свести к минимуму зависимость данных в различных частях движка. Уведомления об изменениях общих данных, выполненных отдельной системой, передаются менеджеру состояний, который помещает их в очередь. Это называется режимом обмена сообщениями. Данный режим предполагает, что, завершив выполнение задач, системы движка получают уведомления об изменениях и соответствующим образом обновляют свои внутренние данные. Такой механизм позволяет значительно сократить время синхронизации и зависимости систем друг от друга.

2.1 Состояния выполнения

Чтобы менеджер состояний выполнения работал эффективно, рекомендуется синхронизировать операции по определенному тактовому импульсу. Это позволяет всем системам работать одновременно. При этом частота тактов не обязательно должна соответствовать частоте передачи кадров. Да и длительность тактов может не зависеть от частоты. Ее можно выбрать таким образом, чтобы один такт соответствовал времени, необходимому на передачу одного кадра (вне зависимости от его размера). Иными словами, частоту или длительность тактов определяет конкретная реализация менеджера состояний. На рисунке 1 показан «свободный» пошаговый режим работы, в котором не требуется, чтобы все системы завершали выполнение операции за один и тот же такт. Режим, при котором все системы завершают выполнение операций за один такт, называется «жестким» пошаговым режимом. Он схематично изображен на рисунке 2.


Рисунок 1. Состояние выполнения в свободном пошаговом режиме

2.1.1. Свободный пошаговый режим
В свободном пошаговом режиме все системы работают непрерывно в течение заранее заданного промежутка времени, необходимого для завершения очередной порции вычислений. Однако название «свободный» не следует понимать буквально: системы синхронизируются не в произвольный момент времени, они лишь «свободны» в выборе числа тактов, необходимого на выполнение очередного этапа.
Как правило, в этом режиме недостаточно отправить менеджеру состояний простое уведомление об изменении состояния. Необходимо также передать обновленные данные. Это вызвано тем, что система, которая изменила общие данные, может находиться в состоянии выполнения, в то время как другая система, ожидающая эти данные, уже готова выполнить обновление. В этом случае требуется больше памяти, так как нужно создавать больше копий данных. Поэтому «свободный» режим нельзя считать универсальным решением на все случаи жизни.
2.1.2. Жесткий пошаговый режим
В этом режиме выполнение задач всех систем завершается за один такт. Такой механизм проще в реализации и не требует передачи обновленных данных вместе с уведомлением. Действительно, при необходимости одна система может просто запросить новые значения у другой системы (разумеется, в конце цикла выполнения).
В жестком режиме можно реализовать псевдосвободный пошаговый режим работы, распределяя вычисления между различными шагами. В частности, это может потребоваться для расчетов ИИ, где за первый такт вычисляется начальная «общая цель», которая постепенно уточняется на следующих этапах.


Рисунок 2. Состояние выполнения в жестком пошаговом режиме

2.2. Синхронизация данных

Изменение общих данных несколькими системами может привести к конфликту изменений. На этот случай в системе обмена сообщениями необходимо предусмотреть алгоритм выбора правильного итогового значения. Существует два основных подхода, основанных на следующих критериях.
  • Время: итоговым значением становится последнее внесенное изменение.
  • Приоритет: итоговым значением становится изменение, выполненное системой с наибольшим приоритетом. Если приоритет систем совпадает, можно также учитывать время внесения изменений.
Все устаревшие данные (по любому из критериев) можно просто перезаписать или исключить из очереди уведомлений.
Поскольку итоговое значение может зависеть от порядка внесения изменений, использовать относительные значения общих данных может оказаться очень сложно. В таких случаях следует использовать абсолютные значения. Тогда при обновлении локальных данных системы могут просто заменить старые значения новыми. Оптимальное решение - выбирать абсолютные или относительные значения в зависимости от конкретной ситуации. Например, общие данные, такие как положение и ориентация, должны иметь абсолютные значения, поскольку для них важен порядок внесения изменений. Относительные значения можно использовать, к примеру, для системы генерации частиц, поскольку вся информация о частицах хранится только в ней самой.

3. Движок

При разработке движка основное внимание уделяется гибкости, необходимой для дальнейшего расширения его функциональности. Это позволит оптимизировать его для использования в условиях определенных ограничений (например, по памяти).
Движок можно условно разделить на две части: фреймворк и менеджеры. Фреймворк (см. раздел 3.1) включает в себя части игры, которые тиражируются в процессе выполнения, то есть существуют в нескольких экземплярах. В него также входят элементы, участвующие в выполнении основного цикла игры. Менеджеры (см. раздел 3.2) представляют собой Singleton-объекты, отвечающие за выполнение логической составляющей игры.
Ниже представлена схема игрового движка.


Рисунок 3. Общая архитектура движка

Обратите внимание, что функциональные игровые модули, или системы, не являются частью движка. Движок лишь объединяет их между собой, выступая в роли связующего элемента. Подобная модульная организация дает возможность загружать и выгружать системы по мере необходимости.

Взаимодействие движка и систем осуществляется при помощи интерфейсов. Они реализованы таким образом, чтобы предоставить движку доступ к функциям систем, а системам - к менеджерам движка.
Подробная схема движка представлена в приложении A, «Схема движка».

Фактически все системы независимы друг от друга (см. раздел 2, «Состояние одновременного выполнения»), то есть они могут выполнять действия параллельно, не влияя на работу других систем. Однако любое изменение данных повлечет за собой определенные сложности, поскольку системам придется взаимодействовать между собой. Обмен информацией между системами необходим в следующих случаях:

  • чтобы сообщить другой системе об изменении общих данных (например, положения или ориентации объектов);
  • чтобы выполнить функции, недоступные для данной системы (например, система ИИ обращается к системе расчета геометрических или физических свойств объекта, чтобы выполнить тест на пересечение лучей).
В первом случае для управления обменом информацией можно использовать менеджер состояний, описанный в предыдущем разделе. (Подробнее о менеджере состояний см. в разделе 3.2.2, «Менеджер состояний».)
Во втором случае необходимо реализовать специальный механизм, который позволит предоставить службы одной системы для использования другой. Полное описание этого механизма приведено в разделе 3.2.3, «Менеджер служб».

3.1. Фреймворк

Фреймворк служит для объединения всех элементов движка. В нем происходит инициализация движка, за исключением менеджеров, экземпляры которых создаются глобально. В нем также хранится информация о сцене. Чтобы добиться большей гибкости, сцена реализуется в виде так называемой универсальной сцены, которая содержит универсальные объекты. Они представляют собой контейнеры, объединяющие различные функциональные части сцены. Подробная информация приведена в разделе 3.1.2.
Основной цикл игры также реализован во фреймворке. Схематично его можно представить следующим образом.


Рисунок 4. Основной цикл игры

Движок работает в оконной среде, поэтому на первом шаге цикла игры необходимо обработать все незавершенные сообщения окон ОС. Если этого не сделать, движок не будет реагировать на сообщения ОС. На втором шаге планировщик назначает задачи с помощью менеджера задач. Этот процесс подробно описан в разделе 3.1.1 ниже. После этого менеджер состояний (см. раздел 3.2.2) рассылает информацию о выполненных изменениях системам движка, на работу которых она может повлиять. На последнем шаге, в зависимости от статуса выполнения, фреймворк определяет, следует ли завершить или продолжить работу движка, например, для перехода к следующей сцене. Информация о состоянии движка хранится у менеджера среды. Подробнее см. в разделе 3.2.4.

3.1.1. Планировщик
Планировщик генерирует опорный тактовый сигнал выполнения с заданной частотой. Если в режиме эталонного тестирования требуется, чтобы следующая операция начиналась сразу после завершения предыдущей, не дожидаясь окончания такта, частота может быть неограниченной.
По тактовому сигналу планировщик с помощью менеджера задач переводит системы в режим выполнения. В свободном пошаговом режиме (раздел 2.1.1) планировщик опрашивает системы, чтобы определить, сколько тактов им понадобится на завершение задачи. По результатам опроса планировщик определяет, какие системы готовы к выполнению, а какие завершат работу в конкретный такт. Планировщик может изменить количество тактов, если какой-либо системе требуется больше времени на выполнение. В жестком пошаговом режиме (раздел 2.1.2) все системы начинают и заканчивают выполнение в один и тот же такт, поэтому планировщик ждет, когда завершится выполнение всех систем.
3.1.2. Универсальная сцена и объекты
Универсальная сцена и объекты являются контейнерами для функциональности, реализованной в других системах. Они предназначены исключительно для взаимодействия с движком и не выполняют никаких других функций. Однако их можно расширить, чтобы использовать функции, доступные другим системам. Это позволяет добиться слабой связанности. Действительно, универсальная сцена и объекты могут использовать свойства других систем, не будучи привязанными к ним. Именно это свойство исключает зависимость систем друг от друга и дает им возможность работать одновременно.
На схеме ниже изображено расширение универсальной сцены и объекта.


Рисунок 5. Расширение универсальной сцены и объекта

Рассмотрим принцип работы расширений на следующем примере. Допустим, выполнено расширение универсальной универсальная сцены сцена расширена на для использование использования графических, физических и других свойств. В этом случае за инициализацию дисплея будет отвечать «графическая» часть расширения, а за реализацию физических законов для твердых тел, например силы тяжести, - его «физическая» часть. Сцены содержат объекты, поэтому универсальная сцена тоже будет включать в себя несколько универсальных объектов. Универсальные объекты также можно расширить намогут быть расширены для использование использования графических, физических и других свойств. Например, прорисовка объекта на экране будет реализована графическими функциями расширения, а расчет взаимодействия твердых тел - физическими.

Подробная схема взаимодействия движка и систем приведена в приложении B, «Схема взаимодействия движка и систем».
Следует заметить, что универсальная сцена и универсальный объект отвечают за регистрацию всех своих «расширений» в менеджере состояний, для того, чтобы все расширения могли получать уведомления об изменениях, внесенных другими расширениями (то есть другими системами). В качестве примера можно привести графическое расширение, зарегистрированное для получения уведомлений об изменениях положения и ориентации, выполненных физическим расширением.
Подробную информацию о компонентах системы см. в разделе 5.2, «Компоненты системы».

3.2. Менеджеры

Менеджеры управляют работой движка. Они являются Singleton-объектами, то есть менеджер каждого типа доступен только в одном экземпляре. Это необходимо, поскольку дублирование ресурсов менеджеров неизбежно приведет к избыточности и отрицательно скажется на производительности. Кроме того, менеджеры отвечают за реализацию общих функций для всех систем.
3.2.1. Менеджер задач
Менеджер задач отвечает за управление системными задачами в пуле потоков. Чтобы обеспечить оптимальное n-кратное масштабирование и предотвратить назначение лишних потоков, исключая неоправданные издержки на переключение задач в операционной системе, пул потоков создает по одному потоку на каждый процессор.

Планировщик передает менеджеру задач список задач для выполнения, а также информацию о том, завершения каких задач необходимо дождаться. Он получает эти данные от различных систем. Каждая система получает только одну задачу для выполнения. Такой метод называют функциональной декомпозицией. Однако для обработки данных каждую такую задачу можно разделить на произвольное количество подзадач (декомпозиция данных).
Ниже приведен пример распределения задач между потоками для четырехъядерной системы.


Рисунок 6. Пример пула потоков, используемого менеджером задач

Помимо обработки запросов планировщика по доступу к основным задачам менеджер задач может работать в режиме инициализации. Он последовательно опрашивает системы от каждого потока, чтобы они могли инициализировать локальные хранилища данных, необходимые для работы.
Советы по реализации менеджера задач даны в приложении D, «Советы по реализации задач».

3.2.2. Менеджер состояний
Менеджер состояний является частью механизма обмена сообщениями. Он отслеживает изменения и рассылает уведомления о них всем системам, которых эти изменения могут затронуть. Чтобы не рассылать ненужных уведомлений, менеджер состояний хранит информацию о том, какие системы оповещать в том или ином случае. Этот механизм реализован на основе шаблона «Наблюдатель» (см. приложение C, «Наблюдатель (шаблон проектирования)»). Если говорить вкратце, данный шаблон предполагает использование «наблюдателя», который следит за любыми изменениями субъекта, при этом роль посредника между ними выполняет контроллер изменений.

Механизм работает следующим образом. 1. Наблюдатель сообщает контроллеру изменений (или менеджеру состояний), изменения каких субъектов он хочет отслеживать. 2. Субъект уведомляет контроллер обо всех своих изменениях. 3. По сигналу фреймворка контроллер оповещает наблюдателя об изменениях субъекта. 4. Наблюдатель отправляет субъекту запрос на получение обновленных данных.

В режиме свободного пошагового выполнения (см. раздел 2.1.1) реализация этого механизма несколько усложняется. Во-первых, обновленные данные придется отправлять вместе с уведомлением об изменении. В этом режиме отправка по запросу неприменима. Действительно, если на момент получения запроса система, ответственная за изменения, еще не закончит выполнение, она не сможет предоставить обновленные данные. Во-вторых, если какая-то система еще не готова получить изменения в конце такта, менеджер состояний должен будет удерживать измененные данные до тех пор, пока все зарегистрированные для их получения системы не придут в состояние готовности.

Во фреймворке для этого предусмотрено два менеджера состояний: для обработки изменений на уровне сцены и на уровне объекта. Обычно сообщения, касающиеся сцен и объектов, независимы друг от друга, поэтому использование двух отдельных менеджеров исключает необходимость обработки ненужных данных. Но если в сцене необходимо учитывать состояние какого-либо объекта, ее можно зарегистрировать на для получение получения уведомлений о его изменениях.

Чтобы не выполнять лишней синхронизации, менеджер состояний формирует очередь уведомлений об изменениях отдельно для каждого потока, создаваемого менеджером задач. Поэтому при доступе к очереди никакой синхронизации не требуется. В разделе 2.2 описан метод, который можно использовать для объединения очередей после выполнения.


Рисунок 7. Уведомление о внутренних изменениях универсального объекта

Уведомления об изменениях не обязательно рассылать последовательно. Существует способ их параллельной рассылки. Выполняя задачу, система работает со всеми своими объектами. Например, по мере того как физические объекты взаимодействуют друг с другом, физическая система управляет их перемещением, расчетом столкновений, новых действующих сил и т. п. При получении уведомлений объект системы не взаимодействует с другими объектами своей системы. Он взаимодействует со связанными с ним расширениями универсального объекта. Это означает, что универсальные объекты теперь независимы друг от друга и их можно обновить одновременно. Такой подход не исключает крайних случаев, которые следует учитывать в процессе синхронизации. Однако он позволяет использовать режим параллельного выполнения, когда казалось, что действовать можно только последовательно.

3.2.3. Менеджер служб
Менеджер служб предоставляет системам доступ к функциям других систем, которые иначе были бы им недоступны. Важно понимать, что доступ к функциям осуществляется с помощью интерфейсов, а не напрямую. Информация об интерфейсах систем также хранится в менеджере служб.
Чтобы исключить зависимости систем друг от друга, каждая из них обладает лишь небольшим набором служб. Кроме того, возможность использования той или иной службы определяется не самой системой, а менеджером служб.


Рисунок 8. Пример менеджера служб

У менеджера служб есть и другая функция. Он предоставляет системам доступ к свойствам других систем. Свойствами называются специфичные значения конкретных систем, которые не передаются в системе обмена сообщениями. Это может быть расширение разрешение экрана в графической системе или величина силы тяжести в физической. Менеджер служб открывает системам доступ к таким данным, но не позволяет напрямую их контролировать. Он помещает изменения свойств в специальную очередь и публикует их только после последовательного выполнения. Обратите внимание, что доступ к свойствам другой системы требуется достаточно редко и не стоит им злоупотреблять. Например, он может понадобиться для включения и отключения режима каркасной сетки в графической системе из окна консоли или для изменения разрешения экрана по запросу игрока из интерфейса пользователя. Данную возможность преимущественно используют для установки параметров, которые не изменяются от кадра к кадру.

3.2.4. Менеджер среды
  • Менеджер среды обеспечивает работу среды выполнения движка. Его функции условно можно разделить на следующие группы.
  • Переменные: имена и значения общих переменных, используемых всеми частями движка. Обычно значения переменных определяются при загрузке сцены или определенных пользовательских настроек. Движок и различные системы могут получить к ним доступ, отправив соответствующий запрос.
  • Выполнение: данные о выполнении, например о завершении выполнения сцены или программы. Эти параметры могут устанавливать и запрашивать как сами системы, так и движок.
3.2.5. Менеджер платформы
Менеджер платформы реализует абстракцию для вызовов операционной системы, а также обеспечивает дополнительную функциональность помимо простой абстракции. Преимуществом такого подхода является инкапсуляция нескольких типичных функций в рамках одного вызова. То есть их не придется реализовывать отдельно для каждого вызывающего элемента, перегружая его подробностями о вызовах ОС.
Рассмотрим в качестве примера вызов менеджера платформы для загрузки динамической библиотеки системы. Он не только загружает систему, но также получает точки входа функции и вызывает функцию инициализации библиотеки. Менеджер также хранит дескриптор библиотеки и выгружает его после завершения работы движка.

Менеджер платформы также отвечает за предоставление информации о процессоре, например о поддерживаемых SIMD-инструкциях, и за инициализацию определенного режима работы процессов. Других функций формирования запросов системы использовать не могут.

4. Интерфейсы

Интерфейсы являются средствами взаимодействия между фреймворком, менеджерами и системами. Фреймворк и менеджеры являются частью движка, поэтому они могут взаимодействовать друг с другом напрямую. Системы к движку не относятся. Более того, все они выполняют разные функции, что приводит к необходимости создания единого метода взаимодействия с ними. Поскольку системы не могут взаимодействовать с менеджерами напрямую, для них необходимо предусмотреть другой способ доступа. При этом не все функции менеджеров должны быть открыты для систем. Некоторые из них доступны только фреймворку.

Интерфейсы определяют набор функций, необходимых для использования стандартного метода доступа. Это избавляет фреймворк от необходимости знать детали реализации конкретных систем, поскольку он может взаимодействовать с ними только посредством определенного набора вызовов.

4.1. Интерфейсы субъекта и наблюдателя

Основное назначение интерфейсов субъекта и наблюдателя - регистрация того, каким наблюдателям оправлять уведомления о каких субъектах, а также отправка таких уведомлений. Регистрация и разрыв связи с наблюдателем являются стандартными функциями для всех субъектов, включенными в реализацию их интерфейса.

4.2. Интерфейсы менеджеров

Менеджеры, несмотря на то что они являются Singleton-объектами, напрямую доступны только для фреймворка. Другие системы могут получить доступ к менеджерам только через интерфейсы, которые представляют лишь часть их общей функциональности. После инициализации интерфейс передается системе, которая использует его для работы с определенными функциями менеджера.
Не существует единого интерфейса для всех менеджеров. Каждый из них имеет свой отдельный интерфейс.

4.3. Интерфейсы системы

Чтобы фреймворк мог получить доступ к компонентам системы, ей необходимы интерфейсы. Без них поддержку каждой новой системы движка пришлось бы реализовывать отдельно.
Каждая система включает в себя четыре компонента, поэтому и интерфейсов должно быть четыре. А именно: система, сцена, объект и задача. Подробное описание см. в разделе 5, «Системы». Интерфейсы - это средства получения доступа к компонентам. Интерфейсы системы позволяют создавать и удалять сцены. Интерфейсы сцены, в свою очередь, позволяют создавать и уничтожать объекты, а также запрашивать информацию об основной задаче системы. Интерфейс задач в основном используется менеджером задач при постановке задач в пул потоков.
Поскольку сцена и объект, как части системы, должны взаимодействовать друг с другом и с универсальной сценой и объектом, к которым они привязаны, их интерфейсы также создают на основе интерфейсов субъекта и наблюдателя.

4.4. Интерфейсы изменений

Эти интерфейсы служат для передачи данных между системами. Все системы, выполняющие изменения определенного типа, должны реализовать такой интерфейс. В качестве примера можно привести геометрию. Интерфейс геометрии включает в себя методы определения положения, ориентации и масштаба элемента. Любая система, вносящая изменения в геометрию, должна реализовать такой интерфейс, чтобы для доступа к измененным данным не требовалась информация о других системах.

5. Системы

Системы являются частью движка, которая отвечает за реализацию игровой функциональности. Они выполняют все основные задачи, без которых движок не имел бы смысла. Взаимодействие между движком и системами осуществляется при помощи интерфейсов (см. раздел 4.3, «Интерфейсы системы»). Это необходимо, чтобы не перегружать движок информацией о различных типах систем. Благодаря интерфейсам процесс добавления новой системы становится гораздо проще, поскольку в движке не требуется учитывать все детали реализации.

5.1. Типы

Системы движка можно условно разделить на несколько заранее определенных категорий, соответствующих стандартным компонентам игры. Например: геометрия, графика, физика (столкновение твердых тел), звук, обработка входных данных, ИИ и анимация.
Системы с нестандартными функциями относятся к отдельной категории. Важно понимать, что любая система, которая изменяет данные конкретной категории, должна знать об интерфейсе этой категории, поскольку движок не предоставляет такую информацию.

5.2. Компоненты системы

Для каждой системы необходимо реализовать несколько компонентов. Вот некоторые из них: система, сцена, объект и задача. Все эти компоненты служат для взаимодействия с различными частями движка.
На схеме ниже изображены взаимодействия между различными компонентами.


Рисунок 9. Компоненты системы

Подробная схема связей между системами движка приведена в приложении B, «Схема взаимодействия движка и систем».

5.2.1. Система
Компонент «система», или просто система, отвечает за инициализацию системных ресурсов, которые практически не будут меняться в процессе работы движка. Например, графическая система анализирует адреса ресурсов для определения места их нахождения и ускорения загрузки при использовании ресурса. Она также задает разрешение экрана.
Система является основной входной точкой для фреймворка. Она предоставляет информацию о себе (например, тип системы), а также методы создания и удаления сцен.
5.2.2. Сцена
Компонент «сцена», или системная сцена, отвечает за управление ресурсами, которые относятся к текущей сцене. Универсальная сцена использует системные сцены для расширения функциональности за счет использования их функций. В качестве примера можно привести физическую сцену, которая используется при создании нового игрового мира и при инициализации сцены определяет в нем силы гравитации.
В сценах предусмотрены методы создания и уничтожения объектов, а также компонент «задача» для обработки сцены и метод доступа к нему.
5.2.3. Объект
Компонент «объект», или системный объект, принадлежит сцене и обычно связан с тем, что пользователь видит на экране. Универсальный объект использует системный объект для расширения функциональности, предоставляя его свойства как свои собственные.
Примером может послужить геометрическое, графическое и физическое расширение универсального объекта для отображения деревянной балки на экране. Геометрические свойства будут включать в себя положение, ориентацию и масштаб объекта. Для его отображения графическая система будет использовать специальную сетку. А физическая система наделит его свойствами твердого тела для расчета взаимодействий с другими телами и действующих сил гравитации.

В определенных случаях в системном объекте необходимо учитывать изменения универсального объекта или одного из его расширений. Для этой цели можно создать специальную связь, которая позволит отслеживать выполненные изменения.

5.2.4. Задача
Компонент «задача», или системная задача, используется для обработки сцены. Задача получает команду на обновление сцены от менеджера задач. Это сигнал для запуска системных функций на объектах сцены.
Выполнение задачи можно разбить на подзадачи, распределяя их также с помощью менеджера задач на еще большее число потоков. Это удобный способ масштабирования движка на несколько процессоров. Такой метод называют декомпозицией данных.
Информация об изменении объектов в процессе обновления задач сцены передается менеджеру состояний. Подробную информацию о менеджере состояний см. в разделе 3.2.2.

6. Объединяя все компоненты

Все описанные выше элементы связаны между собой и являются частью одного целого. Работу движка можно условно разделить на несколько этапов, описанных в следующих разделах.

6.1. Этап инициализации

Работа движка начинается с инициализации менеджеров и фреймворка.
  • Фреймворк вызывает загрузчик сцены.
  • Определив, какие системы сцена будет использовать, загрузчик вызывает менеджера платформы для загрузки соответствующих модулей.
  • Менеджер платформы загружает соответствующие модули и передает их менеджеру интерфейсов, затем вызывает их для создания новой системы.
  • Модуль возвращает загрузчику указатель на экземпляр системы, которая реализует системный интерфейс.
  • Менеджер служб регистрирует все службы, которые предоставляет системный модуль.


Рисунок 10. Инициализация менеджеров и систем движка

6.2. Этап загрузки сцены

Управление возвращается загрузчику, который загружает сцену.
  • Загрузчик создает универсальную сцену. Чтобы создать экземпляры системных сцен, он вызывает интерфейсы систем, расширяя функциональность универсальной сцены.
  • Универсальная сцена определяет, какие данные может изменить каждая системная сцена и оповещения о каких изменениях она должна получать.
  • Сопоставив сцены, выполняющие определенные изменения и желающие получать о них оповещения, универсальная сцена передает эту информацию в менеджер состояний.
  • Для каждого объекта сцены загрузчик создает универсальный объект, затем определяет, какие системы будут расширять универсальный объект. Соответствие между системными объектами определяется по той же схеме, которая используется для сцен. Оно также передается менеджеру состояний.
  • С помощью полученных интерфейсов сцен загрузчик создает экземпляры системных объектов и использует их для расширения универсальных объектов.
  • Планировщик запрашивает у интерфейсов сцен данные об их основных задачах, чтобы в процессе выполнения передать эту информацию менеджеру задач.


Рисунок 11. Инициализация универсальной сцены и объекта

6.3. Этап цикла игры

  • Менеджер платформы используется для обработки сообщений окон и других элементов, необходимых для работы текущей платформы.
  • Затем управление переходит планировщику, который ждет окончания такта, чтобы продолжить работу.
  • В конце такта в свободном пошаговом режиме планировщик проверяет, какие задачи были завершены. Все завершенные задачи (то есть готовые к выполнению) передаются менеджеру задач.
  • Планировщик определяет, какие задачи будут завершены за текущий такт, и ждет их выполнения.
  • В режиме жесткого пошагового выполнения эти операции повторяются каждый такт. Планировщик передает менеджеру все задачи и ожидает их выполнения.
6.3.1. Выполнение задачи
Управление переходит менеджеру задач.
  • Он формирует очередь из всех полученных задач, затем, по мере появления свободных потоков, начинает их выполнение. (Процесс выполнения задач различается в зависимости от систем. Системы могут работать только с одной задачей или обрабатывать одновременно несколько задач из очереди, реализуя таким образом параллельное выполнение.)
  • В процессе выполнения задачи могут работать со всей сценой или только с определенными объектами, изменяя их внутренние данные.
  • Системы должны получать уведомления о любых изменениях общих данных (например, позиции или ориентации). Поэтому при выполнении задачи системная сцена или объект информируют наблюдателя о любых изменениях. В этом случае наблюдатель фактически выполняет роль контроллера изменений, который является частью менеджера состояний.
  • Контроллер изменений формирует очередь уведомлений об изменениях для последующей обработки. Он игнорирует изменения, которые не касаются данного наблюдателя.
  • Чтобы воспользоваться определенными службами, задача обращается к менеджеру служб. Менеджер служб также позволяет менять свойства других систем, недоступные для передачи в механизме обмена сообщениями (например, система ввода данных меняет расширение экрана - свойство графической системы).
  • Задачи также могут обращаться к менеджеру среды для получения переменных среды и для изменения состояния исполнения (приостановка исполнения, переход к следующей сцене и др.).


Рисунок 12. Менеджер задач и задачи

6.3.2. Обновление данных
После выполнения всех задач текущего такта основной цикл игры обращается к менеджеру состояний, чтобы запустить этап обновления данных.
  • Менеджер состояний поочередно вызывает каждый из своих контроллеров изменений для рассылки накопленных уведомлений. Контроллер проверяет, каким наблюдателям отправлять уведомления об изменениях для каждого из субъектов.
  • Затем он вызывает нужного наблюдателя и сообщает ему об изменении (уведомление также включает в себя указатель на интерфейс субъекта). В режиме свободного пошагового выполнения наблюдатель получает измененные данные от контроллера изменений, но в режиме жесткого пошагового выполнения он должен запрашивать их у самого субъекта.
  • Обычно наблюдателями, заинтересованными в получении уведомлений об изменениях системного объекта, являются другие системные объекты, связанные с одним и тем же универсальным объектом. Это позволяет разделить процесс внесения изменений на несколько задач, которые можно выполнять параллельно. Чтобы упростить процесс синхронизации, можно объединить в одной задаче все связанные расширения универсального объекта.
6.3.3. Проверка выполнения и выход
Итоговый этап цикла игры представляет собой проверку состояния среды выполнения. Существует несколько таких состояний: работа, пауза, следующая сцена и т. п. Если выбрано состояние «работа», будет запущена следующая итерация цикла. Состояние «выход» означает завершение работы цикла, освобождение ресурсов и выход из приложения. Можно реализовать и другие состояния, например «пауза», «следующая сцена» и др.

7. Заключение

Основная идея данной статьи изложена в разделе 2, «Состояние параллельного выполнения». Благодаря функциональной декомпозиции и декомпозиции данных можно реализовать не только многопоточность движка, но и его масштабируемость на еще большее количество ядер в будущем. Чтобы исключить издержки на синхронизацию, продолжая поддерживать данные в актуальном состоянии, используйте менеджеры состояния в дополнение к механизму обмена сообщениями.

Шаблон «Наблюдатель» - это функция механизма обмена сообщениями. Важно хорошо понимать принцип ее работы, чтобы выбрать оптимальный способ ее реализации для движка. Фактически это механизм взаимодействия между различными системами, который обеспечивает синхронизацию общих данных.

Важную роль в распределении нагрузок играет управление задачами. В приложении D приведены советы по созданию эффективного менеджера задач для игрового движка.

Как видите, многопоточность игрового движка удается реализовать благодаря четко определенной структуре и механизму обмена сообщениями. С ее помощью можно значительно повысить производительность современных и будущих процессоров.

Приложение A. Схема движка

Запуск обработки выполняется из основного цикла игры (см. рис. 4, «Основной цикл игры»).


Приложение B. Схема взаимодействия движка и систем


Приложение C. Наблюдатель (шаблон проектирования)

Шаблон «Наблюдатель» подробно описан в книге «Приемы объектно-ориентированного проектирования. Паттерны проектирования», Э. Гамма, Р. Хельм, Р. Джонсон, Дж. Влиссидес («Design Patterns: Elements of Reusable Object-Oriented Software», Gamma E., Helm R., Johnson R., Vlissides J.). На английском языке она впервые была издана в 1995 году издательством Addison-Wesley.

Основная идея данной модели заключается в следующем: если каким-то элементам необходимо получать уведомления об изменениях других элементов, они не обязаны просматривать список всех возможных изменений, пытаясь найти в нем нужные данные. Модель подразумевает наличие субъекта и наблюдателя, которые используются для отправки уведомлений об изменениях. Наблюдатель отслеживает любые изменения субъекта. Контроллер изменений выступает в роли посредника между этими двумя данными компонентами. Следующая схема иллюстрирует данную связь.


Рисунок 13. Шаблон «Наблюдатель»

Ниже описан процесс использования данной модели.

  1. Контроллер изменений регистрирует наблюдателя и субъекта, уведомления о котором он хочет получать.
  2. Контроллер изменений фактически является наблюдателем. Вместо наблюдателя вместе с субъектом он регистрирует самого себя. Контроллер изменений также хранит свой список наблюдателей и зарегистрированных с ними субъектов.
  3. Субъект вносит наблюдателя (то есть контроллера изменений) в свой список наблюдателей, которые хотят получать уведомления о его изменениях. Иногда дополнительно указывается тип изменений, который определяет, в каких именно изменениях заинтересован наблюдатель. Это позволяет оптимизировать процесс рассылки уведомлений об изменениях.
  4. Меняя данные или состояние, субъект уведомляет наблюдателя посредством механизма обратного вызова и передает информацию об измененных типах.
  5. Контроллер изменений формирует очередь уведомлений об изменениях и ждет сигнала для их распределения по объектам и системам.
  6. Во время распределения контроллер изменений обращается к реальным наблюдателям.
  7. Наблюдатели запрашивают информацию об измененных данных или состоянии у субъекта (или получают их вместе с уведомлениями).
  8. Перед удалением наблюдателя или если ему больше не требуется получать уведомления о субъекте, он удаляет подписку на данный субъект в контроллере изменений. 
Существует множество разных способов реализовать распределение задач. Однако лучше всего поддерживать количество рабочих потоков равным количеству доступных логических процессоров платформы. Старайтесь не привязывать задачи к определенному потоку. Время выполнения задач различных систем не всегда совпадает. Это может привести к неравномерному распределению нагрузки между рабочими потоками и сказаться на эффективности. Чтобы упростить этот процесс, используйте библиотеки управления задачами, например

Intel желает, чтобы вы играли в играх на HT 3,06 ГГц Pentium 4. Причина заключается в том, что игры, в отличие от тривиальных приложений MS Office, могут показать вам реальные преимущества технологии Intel HyperThreading (HT).

HT позволяет многопоточному коду выполняться на одном процессоре Pentium 4, как будто в системе существует два независимых Pentium 4 процессора. Однако преимущество новая технология дает лишь при параллельной работе нескольких потоков и их конкуренции за ресурсы процессора - что мы и наблюдаем в случае игр. В качестве примера можно привести высокую нагрузку на двигатель автомобиля: в Porsche 911 режим "турбо" включается только лишь при достижении двигателем определенного числа оборотов. Режим "турбо" имеет смысл при ускорении до 100 километров в час менее чем за шесть секунд, но абсолютно бесполезен при движении со скоростью 60 километров в час между светофорами.

К примеру, если вы играете в Quake III с его многочисленными потоками на системе, оснащенной видеокартой последнего поколения от ATi или nVidia и разогнанном Pentium 4, Intel утверждает, что HT позволит вам получить 20% прирост в частоте кадров.

Но сегодня мы не можем оценить достоверность мнения Intel, ведь игры, специально написанные с поддержкой HT, еще не появились на рынке. Однако факты говорят в поддержку Intel, поскольку HT действительно увеличивает производительность сегодняшних многопоточных игр. С точки зрения перспективы, рациональное использование потоков в игре позволит разработчикам повысить уровень "интеллекта" компьютерных персонажей, что вдохнет новую порцию жизни в ваши любимые игры. Большее число потоков означает присутствие более разумных и самостоятельных игровых персонажей, а также большее число online игроков.

HT обеспечивает более реалистичный Unreal, хотя в мире электронных таблиц новая технология мало что дает.

"Умные" игровые потоки

Разработчики игр смогут добавлять комплексные потоки в будущие игровые приложения, если технология HT получит широкое развитие. Поскольку с повышением числа потоков игра может тормозить процессорные ресурсы, то HT дает разработчикам жизненное пространство для включения большего числа потоков в свои игры без замедления процессора. К примеру, стратегические игры для Pentium 4 с HT смогут обеспечить большее фоновое действие, типа хорошо просчитанной травки, облаков, падающих звезд или колышущейся на поле пшеницы.

В играх, которые сегодня присутствуют в продаже, уже используется несколько потоков, однако не в самой хорошей реализации, считает Бред Ворделл, создать Galactic Civilization. "Мы уже использовали многопоточность в новой версии Galactic Civilization, поскольку наша игра по своей природе многозадачная. Когда вы погружаетесь в компьютерные игры, игровые персонажи должны обладать таким же разумом, что и люди. Для этого вам необходимо использовать несколько потоков, которые позволят компьютерным персонажам думать, в то время как вы будете двигаться".


Galactic Civilization уже используют несколько потоков.

По словам Ворделла, в однопоточной программе код, заполняющий экран графикой, просит подумать AI, что персонаж будет делать дальше. "Игровые разработчики должны удостовериться, что AI быстро завершит свои вычисления, иначе игра потеряет необходимую частоту кадров. Или пойти более разумным путем: создать фоновый поток, в результате чего заполнение экрана и просчет AI будут выполняться одновременно".

Ниже показан пример игрового кода без использования многопоточности:

void main()
{
while(true)
{
PaintScreen();
UpdateAI();
}
}

А теперь напишем тот же код с использованием многопоточности: void main()
{
CreateThread(NULL,0,UpdateAI,NULL, 0, &dThreadID);
while(true)
{
PaintScreen();
}
}

DWORD WINAPI UpdateAI(LPVOID lpParam)
{
//поместите сюда что-либо, сильно нагружающее процессор;
//и пусть данный объект обновляется по мере необходимости
}

На одном процессоре преимущества многопоточности не так заметны, поскольку в один момент времени может выполняться лишь один поток. "Тогда ОС должна отвечать за переключение между AI и заполнением экрана", считает Вордбелл. "Единственная проблема заключается в том, что диспетчер Windows не славится оптимизацией для многопоточных мультимедиа приложений".

Однако при включении технологии HT, Windows XP распознает физический процессор как два логических, и ОС должна более эффективно работать с несколькими процессорами, по сравнению с переключением потоков на одном процессоре, утверждает Вордбелл. Конечный результат заключается в том, что фоновый поток AI и заполнение экрана работают более гладко. Время выполнения задания может быть теоретически уменьшено на 25%. "При этом вы убиваете двух зайцев: ваша игра работает плавно, и немного быстрее", сказал Вордбелл.

Galactic Civilizations и HT

По словам Вордбелла, преимущество HT в Galactic Civilization налицо: в фоне работает поток компьютерного AI, в то время как человек делает свой ход. "Когда вы делаете свой ход, GalCiv прекрасно работает даже на довольно слабой машине".

"Но преимущества HT выявляются, когда вы владеете, к примеру, тысячей кораблей, все из которых просчитывают свое следующее действие. Когда игрок нажмет кнопку завершения хода, задержка между следующим ходом будет меньше, а игровая анимация будет идти более гладко".

Вордбелл отметил еще одно преимущество, которое HT дает в GalCiv: в ситуации, когда игра загружается в первый раз и в фоне грузится игровая графика. "Вы заметите, что во время просмотра заставки к вашему жесткому диску идет множество обращений. На слабой машине по этой причине заставка будет дергаться, поскольку игре придется переключаться между демонстрацией видео и загрузкой графики в фоне. Но на компьютере с HT все прекрасно и гладко работает".

Благодаря усложнению потоков, компьютерные игроки, которыми эти потоки управляют, станут более самостоятельными и умными, что в свою очередь привнесет дополнительные элементы реализма в ход игры. С точки зрения программирования, добавление или улучшение работы с потоками не сложно, утверждает Вордбелл. Но разработчики колеблются, поскольку сложно добавить несколько потоков без потери производительности в виде кадров в секунду, хотя технология HT должна уменьшить риск падение производительности.

Воздержание от создания "умных" потоков приводит к тому, что компьютерным игрокам в стратегии часто недостает даже простейшего интеллекта. "Вспомните картину: ваши крестьяне собирают ягоды (или что там они еще могут собирать), в то время как приходят плохие парни и начинают рубить ваших подопечных, причем остальные крестьяне вокруг продолжают собирать ягоды, как ни в чем не бывало", пояснил Вордбелл.

"Вы остаетесь? Да что вы творите! Убегайте". С большим количеством потоков ваши крестьяне смогут осмотреться и сказать "пришли плохие парни, пытающиеся нас убить, поэтому давайте разбежимся".


HT может сделать ваших любимых персонажей более самостоятельными, посмотрите на эту сцену в "The Sims".

Грустный факт: некоторые пользователи под мощным ПК понимают ту машину, которая позволила бы играть в многопользовательский Doom III online во время прослушивания тяжелой музыки, проверки почты и просмотра CNN. В таких ситуациях даже high-end ПК покажет падение частоты кадров. По нашему опыту, подобная многозадачная утечка ресурсов приводит к "празднику фрагов" у ваших соперников.

Выживаемость можно обеспечить при закрытии всех остальных приложений и сосредоточении ресурсов на одной задаче. Возможно, тогда вы сможете осуществить свою месть над другими игроками.


Отражение близкой опасности при одновременной работе трех программ может стать эффективным.

Но с использованием HT подобная утечка многозадачных ресурсов отнюдь не обязательно скажется на частоте кадров вашей игры. Хотя мы еще не успели проверить в тестах, но Intel утверждает, что кодирование MP3 во время игры в Nascar или Unreal не приводит к искажениям звука или потере частоты кадров. Раньше серьезным игрокам в Nascar или Unreal приходилось закрывать все приложения для получения максимальной игровой производительности процессора.

Что касается будущих игр, которые смогут задействовать потенциал технологии HT, Intel рекомендует разработчикам использовать недавно выпущенный компилятор OpenMP. Если не вдаваться в подробности, компилятор Intel просматривает исходный код для определения места размещения инструкций. "Компилятор определяет, где необходимо разделить код на потоки, равно как обеспечивает необходимую семантику", говорит Ким Паллистер, ответственный за отношения с разработчиками в Intel. "Компилятор говорит программисту "эй, здесь в коде есть цикл, в котором происходит умножение множества чисел с плавающей запятой, почему бы не перевести цикл на код ассемблера и не попробовать обрабатывать четыре числа за раз?""


Компилятор Intel облегчит жизнь программистам многопоточных приложений, как в случае в указанным кодом - считает Intel.

Заключение

HT позволит играм выполняться более гладко при работе других приложений в фоне. Сегодня уже существуют многопоточные игры, в которых мы увидим улучшения производительности. Но действительно поддерживающие HT игры мы встретим лишь в будущем, когда разработчики включат соответствующие элементы в код.

По мере изучения разработчиками возможностей HyperThreading, Intel надеется создать дополнительную шумиху вокруг последнего Pentium 4 с HT, поскольку он нацелен на рынок высокопроизводительных персональных компьютеров. С помощью HT Pentium 4 Intel пытается компенсировать маржу прибыли в не очень прибыльном микропроцессорном секторе. Так что Intel придется немало давить на психологию игроков, особенно тех, кто забывает мытья и спать, и живет только на пиве с орешками во время всенощных праздников Unreal. Это те потребители, которые готовы продать свою электрическую бас-гитару для того, чтобы заплатить $2000 или больше за самым мощный игровой компьютер в мире. Как надеется Intel, эти игроки выберут связку Pentium 4 плюс HT, в результате чего компания будет чувствовать себя богатой и процветающей во время будущих финансовых кварталов.

Конкурент Intel - AMD, без сомнения, будет объяснять, почему технология HyperThreading бесполезна, особенно при продвижении новой архитектуры процессоров Hammer. Разработчики игр весьма сдержанно относятся к увеличению числа потоков в своих проектах, ведь даже по мнению самой Intel, подобный шаг приведет к уменьшению частоты кадров на компьютерах с процессором AMD.

В общем, нам следует запастись терпением и посмотреть, насколько эффективной окажется многопоточная многозадачность во время вашей межгалактической битвы или ночного турнира по Unreal. Будущее покажет, насколько быстро игровые разработчики откликнутся на многопоточные возможности, предлагаемые HT.


Недавно разработчики WoT анонсировали выход в свет нового графического движка Core Engine с долгожданной для всех функцией многопоточной отрисовке графики. Несомненно, данная новость заинтриговала многих игроков. Давайте же рассмотрим более детально, что даст пользователям многопоточная отрисовка.

При выходе прошлой миллионы игроков смогли оценить качество новой графики, игра стала на порядок лучше выглядеть и быстрее работать благодаря улучшенной оптимизации.

Как и было анонсировано, улучшения графики и оптимизация не коснулись , они остались прежними без каких-то изменений. Главная роль была отведена , а именно достижению 100% нагрузки. В многопоточной отрисовке эта роль отводиться процессору. Ранее разработчикам не было смысла вводить так званую многопоточность, так как большинство пользователей имели в своем распоряжении более слабые компьютеры на одном или двух ядрах. Сейчас же эти два ядра используются практически на 100% для самых различных моментов, помимо отрисовки, к примеру, для обработки звуковых эффектов, общего геймплея, физики разрушений и передвижений, непосредственно самому процессу рендеринга и обработки графики.

Данная тенденция улучшения в сфере производительности различных систем, включая графические адаптеры и компьютерные процессоры, с каждым днем начинает улучшаться – многие компании-производители выпускают новые, более мощные процессоры с различным количеством ядер. И все это по вполне доступной ценовой политике.

В процессе тестирования графического движка WoT 1.0 было выявлено, что многие игроки перешли на многоядерные системы, и было принято решение для ввода изменений, которые игроки теперь смогут действительно оценить и почувствовать, в отличие от одноядерных компьютеров. Настало время изменений как в графической части, так и в части производительности.

В чем же ключевая особенность будущей многопоточности?

Ранее двухъядерные процессоры просчитывали графические данные по степенно, по очереди. То есть одно ядро посчитывает все необходимые вычисления, касающиеся интерфейса, освещения, теней и других данных, другой процессор отправляет эти данные на видеокарту 30, 60 и даже 120 раз в секунду. В многопоточной отрисовке важно синхронизировать эту работу так, чтобы она проводилась в один и тот же момент времени на всех существующих ядрах без каких-либо задержек и ожиданий. Это позволит получить тот самый искомый баланс между улучшенной графикой и производительностью. Но достигнуть этой синхронизации достаточно сложно, ведь одно дело, когда пользователь играет на минимальный настройках, другое же, когда эти настройки выставлены на режим «ультра». Здесь одни задачи могут быть вычислены более медленно, другие же на оборот – в считаные секунды. Конфигурация компьютера здесь является решающим фактором, ведь именно от типа операционной системы, самого процессора и графического адаптера, количества и типа оперативной памяти зависит общая скорость выполнения поставленных задач . Оптимальный баланс графики, производительности и оптимизации будет достигаться лишь при наличие многоядерного процессора и хорошей видеокарты – здесь и вступает в дело многопоточная отрисовка, заметную даже невооруженным глазом.

Разработчики обещают, что многопоточная отрисовка также будет полезна игрокам, стационарные компьютеры которых заменены на ноутбуки – благодаря равномерной нагрузки на все ядра







Введение

При написании этой статьи я не ставил себе задачу описать некую программную реализацию, с помощью которой будут решены все проблемы связанные с применением многопоточности (МП) в . Здесь приводится пример всего лишь одной из возможных реализаций многопоточности в игровом движке, который был на практике использован в игре PulseRacer для Xbox. В последнее время тема МП в играх, как мне показалось, вызывает большой интерес у многих программистов. Причём существует много различной информации о системных функциях, различных синхро-объектах для использования многопоточности в программах, но как-то слабо освещена тема того, как применить все эти возможности в игре, не вынуждая каждого программиста работающего с этим проектом разбираться в принципах работы многопоточности, способах использования синхро-объектов и других ненужных ему вещах. Сейчас ведь мало кого удивишь тем что, игровой программист может слабо разбираться в системных функциях, D3D или , и действительно, зачем ему это, ведь есть графические движки (и их разработчики). Но тогда вполне логично предположить, что должен также существовать МП движок, который будет решать схожие проблемы. Вот об одной из возможных реализаций такого движка, причинах побудивших его написать, о проблемах и некоторых, на мой взгляд, удачных решениях и пойдёт речь в этой статье. Здесь я сразу предупрежу, что тема использования многопоточности в играх очень обширна и мне пришлось для уменьшения размера статьи некоторые очевидные или мало принципиальные, с моей точки зрения, решения не упоминать и не обосновывать, поэтому если возникнут вопросы, то я всегда готов их обсудить.

Достоинства и недостатки использования многопоточности в играх.

В самом деле, прежде чем рассуждать на тему реализации МП игрового движка стоит сперва определиться, нужна ли МП как таковая в играх, какие плюсы и минусы даст её применение. Вот несколько основных достоинств и недостатков МП, повлиявших на мои решения, при разработке движка.

Достоинства

1. Увеличение скорости работы программы, в том числе и в однопроцессорных системах. Может возникнуть вопрос, а откуда вообще появится прирост быстродействия у МП программ в однопроцессорных системах? Причина в том что, хотя центральный процессор всего один, он не единственный процессор, в компьютере есть ещё процессор видеокарты, контроллера дисков, звуковой карты, сетевой карты, контроллеры DMA, различной периферии и т.п., так вот, благодаря распараллеливанию операций со всеми этими процессорами и появится прирост производительности системы в целом. Примеры такого распараллеливания приведены ниже. Также не стоит забывать о таких технологиях как HyperThreading, благодаря которым даже в обычных игровых компьютерах начинает появляться многопроцессорность.

2. Ускорение отклика программы на внешние события , например от устройств ввода или от сетевых устройств. Ведь не секрет, что зачастую сетевой код выносят в отдельный поток, так как не мотивированное ожидание при приёме или отсылке сетевых пакетов может плохо сказаться на и без того не высокой скорости передачи по сети. Обработку устройств ввода (клавиатура, джойстик, мышь …) также, имеет смысл для удобства поместить в отдельный поток, так как очевидно, что работа с ними не должна зависеть от загруженности игры и замедленная реакция на них может ухудшить динамичность игры и вызвать приступ агрессии у пользователя с последующей порчей им периферийных устройств.

Недостатки

1.Усложнение кода игры и его читабельности, так как постоянные вызовы различных синхро-объектов уродуют код и затрудняют его понимание.

2. Необходимость разработки новых приёмов написания программы , так как старые не всегда приемлемы. Например, использование глобальных статических переменных в МП среде, где с переменной одновременно работают из разных потоков, неприемлемо из-за возможности порчи их содержимого.

3. Усложнение процесса отладки программы. Так в случае одновременного вызова одних и тех же функций из разных потоков становится проблемным использование внутри них точек останова и других стандартных приемов отладки.

4. Увеличение количества скрытых ошибок, не всегда выявляемых при отладке. Постоянное использование всеми программистами, работающими над проектом, различных синхронизирующих механизмов увеличивает шансы на возникновение dead lock или live lock в трудно обнаружимые моменты времени.

5. Снижение предсказуемости в работе программы , т.к. порядок выполнения некоторых операций заранее не известен. Программа на разных машинах в разных условиях работает по-разному. К примеру, усложняется ловля утечек и порчи памяти, т.к. карта распределения памяти с каждым запуском программы может меняться.

Итак, недостатков хватает, а достоинств немного. Из чего можно сделать вывод, что если у программы нет проблем с быстродействием или с реакцией на внешние события, то МП ей нужна как собаке пятая нога и вопрос вроде как закрыт. Однако речь идёт о современных играх, которые страдают именно от этих проблем, так как хочется и на ввод пользователя быстро реагировать и fps большой иметь, при этом физику сделать реалистичной, AI продвинутый, анимацию сложной, и т.п. При таких запросах никакое быстродействие не будет лишним, борьба ведётся за каждую лишнюю наносекунду. В такой ситуации использование МП является не роскошью, а крайней необходимостью. Вот и в моём случае быстродействие перевесило все недостатки. Перевесило, но не исправило. В связи с чем и возникла необходимость написать МП движок, который решал хотя бы некоторые из перечисленных проблем.

Написание МП движка.

Когда я начинал писать свой МП движок, мне пришлось перепробовать множество различных вариантов и многократно переписывать свой код. Самое обидное, что его написание походило на изобретение велосипеда, вроде МП всюду и давно используют, а информации о применении её в играх мало, только слухи и ничего конкретного. Поэтому за основу мне пришлось вначале взять уже отработанные методы, применявшиеся мной для написания МП серверов. В данном случае использовался класс потока, объект которого можно было динамически создавать и удалять. Класс потока мог выполнять функции, адреса которых ему передавались в процессе работы программы. Способ хорош тем, что его реализация проста, позволяет упростить процесс создания потоков и исполнения ими кода. Недостатки: сложности с синхронизацией потоков при использовании общих переменных, и относительно невысокая скорость динамического создания новых потоков. В случае применения этого метода в серверных приложениях недостатки нивелировались малым количеством общих переменных, так как каждый клиент на сервере достаточно независим и обособлен, а также невысокой скоростью сети по сравнению с процессором, что частично компенсировало медленное создание новых потоков. Но в игре последствия от применения данного метода оказались катастрофичны. Что привело к возникновению очередной модификации, где вместо создания и удаления потоков использовался созданный при старте программы пул потоков, а все общие переменные были помещены в специальные классы с методами Lock() и Unlock() , для синхронизации работы с ними. Данные изменения устранили недостатки, но привели к возникновению побочного эффекта, в частности ухудшение читабельности кода и провоцирования ошибок связанных с dead lock и live lock . Попытки устранить эти проблемы, сами по себе оказались мало эффективны и сильно усложнили код МП движка. В результате, попробовав еще несколько вариантов, мне пришлось отказаться от такой реализации, признав её неперспективной для применения в играх.

Экспериментируя с различными вариантами МП приложений, я заметил одну интересную особенность у МП оконных программ, а именно их неожиданную устойчивость работы и редкое появление в них dead и live lock в случае использования ими функции PostMessage(). При этом в этих программах почти полностью отсутствовал код посвященный синхронизации. Поэтому я решил попробовать взять за основу своего движка принцип, реализованный в очереди сообщений Windows. Из-за невысокой скорости работы очереди сообщений и её излишней функциональности, в движке была реализована специализированная очередь сообщений с похожим принципом работы. Окна были заменены специальными классами секциями (SECTION) с аналогичной функциональностью плюс некоторые новые возможности связанные непосредственно с многопоточностью.

В результате очередная версия выглядела так:
1. Имеется пул потоков (массив классов THREAD).
2. У потока имеется список всех запущенных на нём секций (SECTION).
3. Секция может принимать и отсылать асинхронные команды другим секциям, а также создавать др. секции и завершатся.
4. Завершение программы происходит, когда в пуле потоков не останется ни одной секции.

Данная реализация действительно имела, в сравнении с предыдущими версиями, более высокую устойчивость и меньшую вероятность появления в коде ошибок. Однако обнаружился ряд очень неприятных недостатков, от которых пришлось избавляться.

Для наглядности небольшой псевдокод объявления секции в hpp файле:

class A_SECTION: public THREAD_SECTION { //Вызывается при приёме сообщения virtual void SystemMessage(int command, DWORD param, const ...* data, const ...* from) ; //Вызывается при создании секции из другой секции virtual void Start(DWORD param, const ...* data, const ...* from) ; public : //Команды static THREAD_MESSAGE INIT; static THREAD_MESSAGE ERROR; };

Поясню, что THREAD_MESSAGE это класс, предназначенный для создания уникальных идентификаторов команд отсылаемых секциями:

class THREAD_MESSAGE { static int curr_max; int message; public : THREAD_MESSAGE(int count_=1 ) ; inline operator int () const {return message;} };

int THREAD_MESSAGE::curr_max=0 ; THREAD_MESSAGE::THREAD_MESSAGE(int count_) { message=curr_max; curr_max+=count_; ASSERT(curr_max< 32768 ) ; }

По коду сразу видно несколько проблем:

1. Сразу бросается в глаза входной параметр функции SystemMessage() - int command , его использование неизбежно приведёт к применению в теле обработчика SystemMessage() этакого мохнатого switch-а. Это не очень хорошо скажется на читабельности кода программы и быстродействие тоже не улучшит.

2. Использование сладкой парочки DWORD param и const ...* data связанно с необходимостью передавать параметры команды. Если параметр один, то его преобразуют и передают в param , в data пишется NULL . Если параметров несколько в data пишется указатель на структуру с параметрами, в param размер структуры. Здесь вообще плохо всё, начиная с ухудшения наглядности и заканчивая необходимостью применения преобразований типов в param и в указателе data , что рано или поздно приведёт к порче памяти и другим трудно обнаружимым ошибкам.

3. И наконец с указателем from , который используется для ссылки на секцию адресата сообщения, тоже не всё гладко. Так как адресат может находиться в другом потоке, то далеко не факт что при получении сообщения или при его обработке он ещё существует и не удалён, что ставит под сомнение его валидность.

Решение проблемы с указателем from.

Проблему обеспечения валидности указателя на секцию можно решить, если использовать вместо обычного указателя умный указатель с подсчетом количества ссылок, тогда если он у кого-то сохранился, то объект, на который он указывает, не удаляется до тех пор, пока не исчезнет последний из указателей. Недостаток такой схемы заключается в том, что память постоянно замусорена ненужными, но не удалёнными объектами, а из-за постоянного копирования этого указателя, при отсылке команды, чрезмерно часто вызываются функции InterlockedIncrement() и InterlockedDecrement(), что не желательно. Поэтому для идентификации секций, вместо указателей я решил использовать уникальные идентификаторы (UID). Так как системные GUID-ы были, на мой взгляд, слишком громоздкими и обладали излишней функциональностью, я использовал свои, которые были компактней и имели аналогичную функциональность. В моём случае использовался класс с четырьмя полями: номер потока, индекс в массиве секций, порядковый номер секции в момент создания, время создания секции в тиках. Поэтому для разных секций одинаковый GUID мог быть создан только в случае переполнения счётчика порядкового номера секции в течении одного тика. В моёй реализации это возможно, только если в течение одной миллисекунды будет создано более 4294967296 секций, что маловероятно. Таким образом, когда происходил поиск секции, для передачи ей команды, всегда можно было корректно определить, существует ли ещё эта секция или уже удаленна. В случае если адресат команды был уже удалён, то команда благополучно игнорировалась, без попыток вызвать удалённую секцию. Такой GUID позволял его легко копировать и хранить, а также исключал возможность использования его как указателя, для прямого доступа к переменным и функциям секции из другого потока.