Применение многопоточности в играх.
Автор: Алексей Строкин
Введение
Достоинства и недостатки использования многопоточности в играх.
Достоинства
Недостатки
Написание МП движка.
Решение проблемы с указателем from.
Решение проблемы с командами и их параметрами
Простейшая МП программа на описанном движке.
Выводы
Пример увеличения быстродействия игр.
Заключение.
Введение
При написании этой статьи я не ставил себе задачу описать некую программную реализацию, с помощью которой будут решены все проблемы связанные с применением многопоточности (МП) в играх. Здесь приводится пример всего лишь одной из возможных реализаций многопоточности в игровом движке, который был на практике использован в игре PulseRacer для Xbox. В последнее время тема МП в играх, как мне показалось, вызывает большой интерес у многих программистов. Причём существует много различной информации о системных функциях, различных синхро-объектах для использования многопоточности в программах, но как-то слабо освещена тема того, как применить все эти возможности в игре, не вынуждая каждого программиста работающего с этим проектом разбираться в принципах работы многопоточности, способах использования синхро-объектов и других ненужных ему вещах. Сейчас ведь мало кого удивишь тем что, игровой программист может слабо разбираться в системных функциях, D3D или OpenGL, и действительно, зачем ему это, ведь есть графические движки (и их разработчики). Но тогда вполне логично предположить, что должен также существовать МП движок, который будет решать схожие проблемы. Вот об одной из возможных реализаций такого движка, причинах побудивших его написать, о проблемах и некоторых, на мой взгляд, удачных решениях и пойдёт речь в этой статье. Здесь я сразу предупрежу, что тема использования многопоточности в играх очень обширна и мне пришлось для уменьшения размера статьи некоторые очевидные или мало принципиальные, с моей точки зрения, решения не упоминать и не обосновывать, поэтому если возникнут вопросы, то я всегда готов их обсудить.
Достоинства и недостатки использования многопоточности в играх.
В самом деле, прежде чем рассуждать на тему реализации МП игрового движка стоит сперва определиться, нужна ли МП как таковая в играх, какие плюсы и минусы даст её применение. Вот несколько основных достоинств и недостатков МП, повлиявших на мои решения, при разработке движка.
Достоинства
1. Увеличение скорости работы программы, в том числе и в однопроцессорных системах. Может возникнуть вопрос, а откуда вообще появится прирост быстродействия у МП программ в однопроцессорных системах? Причина в том что, хотя центральный процессор всего один, он не единственный процессор, в компьютере есть ещё процессор видеокарты, контроллера дисков, звуковой карты, сетевой карты, контроллеры DMA, различной периферии и т.п., так вот, благодаря распараллеливанию операций со всеми этими процессорами и появится прирост производительности системы в целом. Примеры такого распараллеливания приведены ниже. Также не стоит забывать о таких технологиях как HyperThreading, благодаря которым даже в обычных игровых компьютерах начинает появляться многопроцессорность.
2. Ускорение отклика программы на внешние события, например от устройств ввода или от сетевых устройств. Ведь не секрет, что зачастую сетевой код выносят в отдельный поток, так как не мотивированное ожидание при приёме или отсылке сетевых пакетов может плохо сказаться на и без того не высокой скорости передачи по сети. Обработку устройств ввода (клавиатура, джойстик, мышь …) также, имеет смысл для удобства поместить в отдельный поток, так как очевидно, что работа с ними не должна зависеть от загруженности игры и замедленная реакция на них может ухудшить динамичность игры и вызвать приступ агрессии у пользователя с последующей порчей им периферийных устройств.
Недостатки
1.Усложнение кода игры и его читабельности, так как постоянные вызовы различных синхро-объектов уродуют код и затрудняют его понимание.
2. Необходимость разработки новых приёмов написания программы, так как старые не всегда приемлемы. Например, использование глобальных статических переменных в МП среде, где с переменной одновременно работают из разных потоков, неприемлемо из-за возможности порчи их содержимого.
3. Усложнение процесса отладки программы. Так в случае одновременного вызова одних и тех же функций из разных потоков становится проблемным использование внутри них точек останова и других стандартных приемов отладки.
4. Увеличение количества скрытых ошибок, не всегда выявляемых при отладке. Постоянное использование всеми программистами, работающими над проектом, различных синхронизирующих механизмов увеличивает шансы на возникновение dead lock или live lock в трудно обнаружимые моменты времени.
5. Снижение предсказуемости в работе программы, т.к. порядок выполнения некоторых операций заранее не известен. Программа на разных машинах в разных условиях работает по-разному. К примеру, усложняется ловля утечек и порчи памяти, т.к. карта распределения памяти с каждым запуском программы может меняться.
Итак, недостатков хватает, а достоинств немного. Из чего можно сделать вывод, что если у программы нет проблем с быстродействием или с реакцией на внешние события, то МП ей нужна как собаке пятая нога и вопрос вроде как закрыт. Однако речь идёт о современных играх, которые страдают именно от этих проблем, так как хочется и на ввод пользователя быстро реагировать и fps большой иметь, при этом физику сделать реалистичной, AI продвинутый, анимацию сложной, и т.п. При таких запросах никакое быстродействие не будет лишним, борьба ведётся за каждую лишнюю наносекунду. В такой ситуации использование МП является не роскошью, а крайней необходимостью. Вот и в моём случае быстродействие перевесило все недостатки. Перевесило, но не исправило. В связи с чем и возникла необходимость написать МП движок, который решал хотя бы некоторые из перечисленных проблем.
Написание МП движка.
Когда я начинал писать свой МП движок, мне пришлось перепробовать множество различных вариантов и многократно переписывать свой код. Самое обидное, что его написание походило на изобретение велосипеда, вроде МП всюду и давно используют, а информации о применении её в играх мало, только слухи и ничего конкретного. Поэтому за основу мне пришлось вначале взять уже отработанные методы, применявшиеся мной для написания МП серверов. В данном случае использовался класс потока, объект которого можно было динамически создавать и удалять. Класс потока мог выполнять функции, адреса которых ему передавались в процессе работы программы. Способ хорош тем, что его реализация проста, позволяет упростить процесс создания потоков и исполнения ими кода. Недостатки: сложности с синхронизацией потоков при использовании общих переменных, и относительно невысокая скорость динамического создания новых потоков. В случае применения этого метода в серверных приложениях недостатки нивелировались малым количеством общих переменных, так как каждый клиент на сервере достаточно независим и обособлен, а также невысокой скоростью сети по сравнению с процессором, что частично компенсировало медленное создание новых потоков. Но в игре последствия от применения данного метода оказались катастрофичны. Что привело к возникновению очередной модификации, где вместо создания и удаления потоков использовался созданный при старте программы пул потоков, а все общие переменные были помещены в специальные классы с методами Lock() и Unlock(), для синхронизации работы с ними. Данные изменения устранили недостатки, но привели к возникновению побочного эффекта, в частности ухудшение читабельности кода и провоцирования ошибок связанных с dead lock и live lock. Попытки устранить эти проблемы, сами по себе оказались мало эффективны и сильно усложнили код МП движка. В результате, попробовав еще несколько вариантов, мне пришлось отказаться от такой реализации, признав её неперспективной для применения в играх.
Экспериментируя с различными вариантами МП приложений, я заметил одну интересную особенность у МП оконных программ, а именно их неожиданную устойчивость работы и редкое появление в них dead и live lock в случае использования ими функции PostMessage(). При этом в этих программах почти полностью отсутствовал код посвященный синхронизации. Поэтому я решил попробовать взять за основу своего движка принцип, реализованный в очереди сообщений Windows. Из-за невысокой скорости работы очереди сообщений и её излишней функциональности, в движке была реализована специализированная очередь сообщений с похожим принципом работы. Окна были заменены специальными классами секциями (SECTION) с аналогичной функциональностью плюс некоторые новые возможности связанные непосредственно с многопоточностью.
В результате очередная версия выглядела так:
1. Имеется пул потоков (массив классов THREAD).
2. У потока имеется список всех запущенных на нём секций (SECTION).
3. Секция может принимать и отсылать асинхронные команды другим секциям, а также создавать др. секции и завершатся.
4. Завершение программы происходит, когда в пуле потоков не останется ни одной секции.
Данная реализация действительно имела, в сравнении с предыдущими версиями, более высокую устойчивость и меньшую вероятность появления в коде ошибок. Однако обнаружился ряд очень неприятных недостатков, от которых пришлось избавляться.
Для наглядности небольшой псевдокод объявления секции в hpp файле:
class A_SECTION : public THREAD_SECTION { //Вызывается при приёме сообщения virtual void SystemMessage(int command, DWORD param, const ...* data, const ...* from); //Вызывается при создании секции из другой секции virtual void Start( DWORD param, const ...* data, const ...* from); public: //Команды static THREAD_MESSAGE INIT; static THREAD_MESSAGE ERROR; };
Поясню, что THREAD_MESSAGE это класс, предназначенный для создания уникальных идентификаторов команд отсылаемых секциями:
Файл hpp.
class THREAD_MESSAGE { static int curr_max; int message; public: THREAD_MESSAGE(int count_=1); inline operator int( ) const {return message;} };
Файл cpp.
int THREAD_MESSAGE::curr_max=0; THREAD_MESSAGE::THREAD_MESSAGE(int count_) { message=curr_max; curr_max+=count_; ASSERT( curr_max<32768); }
По коду сразу видно несколько проблем:
1. Сразу бросается в глаза входной параметр функции SystemMessage() - int command, его использование неизбежно приведёт к применению в теле обработчика SystemMessage() этакого мохнатого switch-а. Это не очень хорошо скажется на читабельности кода программы и быстродействие тоже не улучшит.
2. Использование сладкой парочки DWORD param и const ...* data связанно с необходимостью передавать параметры команды. Если параметр один, то его преобразуют и передают в param, в data пишется NULL. Если параметров несколько в data пишется указатель на структуру с параметрами, в param размер структуры. Здесь вообще плохо всё, начиная с ухудшения наглядности и заканчивая необходимостью применения преобразований типов в param и в указателе data, что рано или поздно приведёт к порче памяти и другим трудно обнаружимым ошибкам.
3. И наконец с указателем from, который используется для ссылки на секцию адресата сообщения, тоже не всё гладко. Так как адресат может находиться в другом потоке, то далеко не факт что при получении сообщения или при его обработке он ещё существует и не удалён, что ставит под сомнение его валидность.
Решение проблемы с указателем from.
Проблему обеспечения валидности указателя на секцию можно решить, если использовать вместо обычного указателя умный указатель с подсчетом количества ссылок, тогда если он у кого-то сохранился, то объект, на который он указывает, не удаляется до тех пор, пока не исчезнет последний из указателей. Недостаток такой схемы заключается в том, что память постоянно замусорена ненужными, но не удалёнными объектами, а из-за постоянного копирования этого указателя, при отсылке команды, чрезмерно часто вызываются функции InterlockedIncrement() и InterlockedDecrement(), что не желательно. Поэтому для идентификации секций, вместо указателей я решил использовать уникальные идентификаторы (UID). Так как системные GUID-ы были, на мой взгляд, слишком громоздкими и обладали излишней функциональностью, я использовал свои, которые были компактней и имели аналогичную функциональность. В моём случае использовался класс с четырьмя полями: номер потока, индекс в массиве секций, порядковый номер секции в момент создания, время создания секции в тиках. Поэтому для разных секций одинаковый GUID мог быть создан только в случае переполнения счётчика порядкового номера секции в течении одного тика. В моёй реализации это возможно, только если в течение одной миллисекунды будет создано более 4294967296 секций, что маловероятно. Таким образом, когда происходил поиск секции, для передачи ей команды, всегда можно было корректно определить, существует ли ещё эта секция или уже удаленна. В случае если адресат команды был уже удалён, то команда благополучно игнорировалась, без попыток вызвать удалённую секцию. Такой GUID позволял его легко копировать и хранить, а также исключал возможность использования его как указателя, для прямого доступа к переменным и функциям секции из другого потока.
9 ноября 2003 (Обновление: 17 сен 2009)