Virtual insanity: почему опыт VR такой иммерсивный

Мозг, если верить книге Аси Казанцевой, заставляет нас делать глупости. Гарнитура виртуальной реальности заставляет человека верить, что он летит на космическом корабле в далёкой галактике, когда он на самом деле вот-вот врежется в кухонный стол. Но как?

Хотя VR-девайсы обычно имеют похожую форму, то, как они проецируют изображение перед нашими глазами, значительно варьируется. HTC Vive и Oculus Rift работают на ПК, а крупные игроки вроде Google и Samsung предлагают более доступные гарнитуры на основе смартфонов.

Автономный VR-шлем — это то, о чём вы наверняка не раз слышали. Всё началось с пары моделей, но армия VR-устройств постоянно растёт и расширяется — попробуем разобраться, как они работают на самом деле.

Устройство VR-шлема

VR-гарнитуры, которые у всех на слуху, такие как Oculus Rift и PlayStation VR, являются наголовными дисплеями (head-mounted displays, сокр. HMD), но чаще их называют шлемами или очками виртуальной реальности.

VR-шлемы используют либо два канала, отправленные на один дисплей, либо два жидкокристаллических дисплея, по одному на глаз. В шлеме также есть линзы, которые помещаются между глазами и пиксельным изображением, поэтому устройства часто называют очками.

Эти линзы фокусируют и перестраивают изображение для каждого глаза и создают стереоскопическое 3D-изображение, помещая два 2D-изображения под углом. Попробуйте закрыть один глаз, а затем другой, чтобы увидеть, как отдельные объекты прыгают из стороны в сторону, и вы получите представление об этом.

Эффект погружения: широкий формат и частота кадров

Полное погружение — два волшебных слова, к которым стремится каждый создатель VR-гарнитуры, игры или приложения. Именно оно делает опыт виртуальной реальности настолько реальным, что мы забываем про компьютер, VR-шлем и аксессуары и действуем точно так же, как и в реальном мире. Так как же создаётся эффект погружения?

Начнём с того, что пребывание в виртуальном пространстве уже подразумевает несколько изменённое состояние сознания. Внезапная смена окружающего мира и его правил с непривычки может показаться шокирующей. Вообразите один из моментов в sci-fi шутере Station Zarya: вместо обычной одежды на теле игрока экзоскелет, он мчится на разгоняющейся вагонетке, вокруг простирается космический пейзаж, шаг влево — и под ногами бездна. Впрочем, ступить за пределы вагонетки, буквально шагнув в пропасть, можно — дух захватывает!

cosmic monorail Anvio
cosmic monorail Anvio

Один из способов усилить эффект погружения визуально — увеличить ширину изображения. VR-гарнитуры дают нам увеличенное поле зрения (FOV), то есть более широкий угол обзора по горизонтали — это как делать панорамные снимки или смотреть широкоэкранное кино. Последнее на заре своего появления поразило зрителей «эффектом присутствия». Также популярность сейчас набирают 360-градусные ролики.

Чтобы полученное изображение было хоть сколько-нибудь убедительным, минимальная частота кадров должна составлять около 60 кадров в секунду, чтобы избежать заедания кадров или плохого самочувствия пользователей. Текущее поколение VR-шлемов выходит далеко за рамки этой цифры Oculus способен показать кадровую частоту 90 кадров в секунду, например, в то время как PlayStation VR от Sony справляется со 120-ю.

Ещё один способ повлиять на эффект погружения — задействовать звук. Разработчики приложений и игр используют объёмное звучание, чтобы дать игроку в наушниках ощущение, что звук идёт сзади, сбоку или издалека.

Позиционный трекинг

Голова

Отслеживания движений головы подразумевает, что, когда вы носите VR-шлем, изображение перед вами смещается, если вы смотрите вверх, вниз и из стороны в сторону или наклоняете голову. Система под названием 6DoF (шесть степеней свободы) делит голову на участки с точки зрения размещения осей X, Y и Z и отслеживает движения головы вперёд/назад, вверх/вниз и качаний от плеча к плечу.

В системе трекинга может быть использовано несколько внутренних компонентов: гироскоп, акселерометр и магнитометр. Sony PSVR также использует девять светодиодов, расположенных вокруг шлема, чтобы фиксировать движения головы на 360 градусов — это возможно благодаря внешней камере, отслеживающей эти сигналы.

Чтобы быть эффективной, технология отслеживания головы нуждается в низком времени ожидания — 50 миллисекунд или меньше, или мы обнаружим отставание между тем, когда мы поворачиваем голову и когда меняется виртуальная среда. Лаг у Oculus Rift совершенно незаметный, всего в 30 мс.

Тело

Отслеживание движений головы — большое преимущество, которым обладают премиальные гарнитуры над подобными мобильными VR-гарнитурами. Но крупные игроки всё ещё разрабатывают системы отслеживания движений всего тела. Вот вы надели шлем — что будет первым, что вы захотите сделать? Конечно, вы приметесь рассматривать свои руки и ноги в виртуальном пространстве! И проверять, что ими можно делать: размахивать, пинать предметы, палить из автомата...

Oculus Touch — набор беспроводных контроллеров, предназначенных для того, чтобы вы физически чувствовали, что используете свои собственные руки в VR. Во время игры игрок хватает каждый контроллер и использует кнопки, аналоговые стики и спусковые крючки. Так, например, чтобы выстрелить из пистолета, нужно нажать на ручной спусковой крючок. На каждом контроллере также есть матрица датчиков для обнаружения жестов, таких как указание пальцем и махание.

Другие устройства ввода включают речевое управление и умные перчатки и беговые дорожки (!), как у Virtuix Omni.

Когда же речь идёт об отслеживании положения тела в пределах комнаты, первыми на ум приходят Oculus Rift и HTC Vive, использующиеся на игровых VR-площадках. Oculus всё ещё уступает HTC по уровню. Смотрите сами:

два датчика SteamVR от HTC Vive могут обеспечить отслеживание движений на игровой зоне до 68,6 квадратных метров (225 ft²);

vs.

две камеры с датчиком движения Constellation от Oculus обеспечивают охват в 7,6 квадратных метров (25 ft²), а третья камера доходит до 19,5 квадратных метров.

И глаза!

Отслеживание глаз — это, возможно, последний кусочек VR-головоломки. Айтрекинг не доступен на Vive, Rift и PS VR. Первый VR-шлем, в котором он появился, — это FOVE. Как всё устроено там?

Инфракрасный датчик отслеживает движения глаз внутри шлема. Так FOVE «узнаёт», куда вы смотрите в виртуальной реальности, а значит, персонажи в игре могут более точно реагировать на ваши действия, а глубина резкости изображаемого пространства (ГРИП) станет более реалистичной. В стандартных VR-шлемах вся картинка в резком фокусе, что совсем не похоже на то, как мы привыкли воспринимать мир в реальности. Рассматривая объект на переднем плане, человеческий глаз подобно фотоаппарату (или наоборот?) фокусируется на нём и слегка размывает остальные объекты, не обладающие такой важностью. Система айтрекинга позволяет графическому движку FOVE симулировать зрение, которым мы обладаем в трёхмерном пространстве, в VR.

VR-шлемы по-прежнему нуждаются в изображениях высокого качества, чтобы избежать сетки пикселей на экране. Кроме того, то, на чём фокусируются наши глаза, должно выглядеть как можно более реалистично. Когда всё изображение находится в резком фокусе (а так происходит, если в шлеме нет системы айтрекинга), лёгкое недомогание всё ещё вероятно — ваш мозг понимает, что что-то здесь не сходится. Но к счастью, технологии усмирили вестибулярный аппарат, и пользователи больше не испытывают головокружение и тошноту.

33 показа
1.9K1.9K открытий
11 репост
28 комментариев

На самом деле трекинг глаз нужен для адаптивного рендеринга. Тогда можно экономить ресурсы на объектах вне зоны, куда смотрит игрок.

Ответить

Заменить одну ресурсоемкую технологию (рендеринг) другой ресурсоемкой технологией (айтрекинг). Не получится ли как в истории про шило и мыло?

Ответить

Но крупные игроки всё ещё разрабатывают системы отслеживания движений всего телаа оно нужно? имхо что то вроде VIVE Tracker вполне достаточно, нацепил их на ноги и все, основные 5 точек тела трекаются

Ответить

ну, например, во многих VR-играх нельзя бегать, прыгать и даже пятиться назад, а теперь это возможно

Ответить

Статья слишком поверхностная. Вы упомянули фреймрейт, но не сказали о главном: black frame insertion. Именно на этом эффекте строится реалистичность изображения в движении и именно из-за этого эффекта требуется 90 и более герц(если ниже - будет очевидно мерцание).
И даже головные боли и усталость - это во многом заслуга этой самой вставки черных кадров.
При желании дополните статью описанием принципов работы bfi и о том, почему сетчатка так реагирует на эти мерцания и почему мы наблюдаем смазы при типичном sample and hold методе

Ответить

Спасибо за вашу оценку!
Я только погружаюсь в тему VR, обязательно почитаю о bfi.

Ответить

Пробовал VR, единственное, что понравилось больше чем на обычном большом ТВ, это гонки. Но, к сожалению, не мой любимый жанр.

Ответить