隨著蘋果全新設(shè)備Vision Pro的發(fā)布，我們正在進(jìn)入空間計(jì)算的新時(shí)代，強(qiáng)大的擴(kuò)展現(xiàn)實(shí)（XR）工具和靈活的工作流程使開發(fā)人員能夠在編輯器中添加交互、縮放圖形、原型和測(cè)試等全新視角。2024年Unity游戲報(bào)告預(yù)測(cè)到，未來XR游戲的需求會(huì)更大，許多游戲工作室對(duì)于該預(yù)測(cè)表示認(rèn)同。?

Unity的高級(jí)開發(fā)者安東尼婭·福斯特和Owlchemy實(shí)驗(yàn)室的CEOwl安德魯·艾希在本文中討論了對(duì)于空間計(jì)算未來的看法以及為Apple Vision Pro開發(fā)應(yīng)用的實(shí)用技巧。

讓我們從展望未來開始。你認(rèn)為虛擬現(xiàn)實(shí)和空間計(jì)算的未來是什么？

安德魯·艾希：我們正在經(jīng)歷XR技術(shù)快速發(fā)展的最重要階段——使用XR設(shè)備作為針對(duì)特定領(lǐng)域任務(wù)的通用空間計(jì)算設(shè)備，其中Apple Vision Pro操作系統(tǒng)的出現(xiàn)和Meta操作系統(tǒng)的升級(jí)應(yīng)證了空間計(jì)算時(shí)代的到來。我們正試圖解決如何在虛擬現(xiàn)實(shí)中處理一般工作負(fù)載與極特殊的工作負(fù)載的范例。

當(dāng)我們實(shí)際上在XR環(huán)境中工作時(shí)，看起來會(huì)像什么樣？Unity試圖將現(xiàn)有的任務(wù)轉(zhuǎn)移到空間環(huán)境中的相同范例中。他們希望開發(fā)者能盡快入駐，這有助于他們快速了解這種全新工作環(huán)境的廣度和深度。

這對(duì)Unity來說非常重要，這樣他們就可以發(fā)現(xiàn)這項(xiàng)技術(shù)的實(shí)用性和直觀性。在這個(gè)行業(yè)中，最有潛力的平臺(tái)通常位于高實(shí)用性和高直觀性象限。通過虛擬現(xiàn)實(shí)技術(shù)，我們希望確保它朝著高度實(shí)用和高度直觀的方向發(fā)展，這是手機(jī)、個(gè)人電腦和智能電視所處的象限。

展望未來，空間計(jì)算將有助于使虛擬現(xiàn)實(shí)技術(shù)更加實(shí)用化。如何做到這一點(diǎn)？我們改變了主要輸入向量，以與玩家目前最為關(guān)注的移動(dòng)平臺(tái)保持一致。我們需要專注于消除實(shí)現(xiàn)手部跟蹤的摩擦，使頭顯更輕，并獲得更好的光學(xué)效果。

工作模擬器，由Owlchemy實(shí)驗(yàn)室開發(fā)

關(guān)于XR技術(shù)的發(fā)展。你認(rèn)為未來幾年還有哪些技術(shù)趨勢(shì)可能會(huì)影響XR？

Gaussian splatting技術(shù)令人非常難忘，我認(rèn)為它將是影響更好的動(dòng)作捕捉和動(dòng)畫制作的關(guān)鍵技術(shù)。我們用三維捕捉解決了假設(shè)如果只使用覆蓋空間和相機(jī)或使用光場(chǎng)的錯(cuò)誤問題，但現(xiàn)在高斯透明會(huì)使得效果更好，這有助于我們重新考慮將如何優(yōu)化它。

同時(shí)我也認(rèn)為人工智能（AI）未來將對(duì)XR技術(shù)產(chǎn)生更大的影響。我們正在期待著一個(gè)真正有趣的用例——不必渲染整個(gè)幀，只需渲染其中的一部分。如果我們渲染30%，然后將它交給張量處理單元（TPU），它會(huì)根據(jù)之前和之后的所有數(shù)據(jù)填充它，這樣我們頭顯里的圖形芯片就更加趨向于電腦了。這就是NVIDIA RTX顯示卡計(jì)算光線反射的實(shí)際工作方式，實(shí)際上我們已經(jīng)在這條路上走了一段路。

同時(shí)人工智能技術(shù)的發(fā)展也填補(bǔ)了分重繪畫的空白，生成式人工智能將取代最佳擬合算法作為補(bǔ)間算法。最佳擬合算法通常會(huì)分幾個(gè)部分進(jìn)行構(gòu)建，如果在最佳擬合算法的幾個(gè)部分之間使用生成式人工智能技術(shù)進(jìn)行內(nèi)容生成，并且可以由藝術(shù)家控制，這將變得更加有趣。這對(duì)于那些想要專注于制作有趣內(nèi)容但不想花時(shí)間制作補(bǔ)間動(dòng)畫的動(dòng)畫師來說非常友好。

基于XR空間計(jì)算技術(shù)的發(fā)展趨勢(shì)，您對(duì)進(jìn)入空間計(jì)算時(shí)代的開發(fā)人員有什么建議？

從交互設(shè)計(jì)方向來看，空間計(jì)算技術(shù)首先需要打破傳統(tǒng)VR中與周邊或虛擬事物互動(dòng)的方式，“不要試圖把一個(gè)方釘塞進(jìn)一個(gè)圓孔”。對(duì)于開發(fā)人員來說，跳入其中并深入其中很有誘惑力，但作為一名新開發(fā)人員，我建議慢慢接近空間計(jì)算。并慢慢來堆砌正確的積木。

例如，將《工作模擬器》從VR環(huán)境移植到XR環(huán)境中，我們從使用操作系統(tǒng)級(jí)交互的合適時(shí)機(jī)開始。當(dāng)我們?yōu)锳pple Vision Pro版本安裝Swift?UI窗口時(shí)，我們討論了何時(shí)使用pinch功能。我們關(guān)注了蘋果如何使用它，因?yàn)樗麄兎浅Ｃ鞔_在何時(shí)用于什么目的使用它。

當(dāng)用戶想要結(jié)束窗口應(yīng)用時(shí)，他們可能需要與3D對(duì)象互動(dòng)來結(jié)束這一進(jìn)程。這時(shí)，需要停止窗口并把它顯示成2D顯示器上的一個(gè)應(yīng)用程序，這將更像是在現(xiàn)實(shí)世界中在電腦屏幕前關(guān)閉對(duì)話框相似的產(chǎn)品設(shè)計(jì)。遵循現(xiàn)實(shí)世界中與對(duì)象交互的設(shè)計(jì)原則，以直觀的方式設(shè)計(jì)交互方式將更加適用于XR空間界面設(shè)計(jì)。但需要注意的是，請(qǐng)確保當(dāng)游戲在真實(shí)的空間和設(shè)備上與真實(shí)的用戶進(jìn)行實(shí)際測(cè)試時(shí)持續(xù)關(guān)注您用戶體驗(yàn)情況。這非常重要！

對(duì)開發(fā)者來說，把虛擬物體拿在手中并支持其與用戶完成互動(dòng)將變得非常關(guān)鍵。我建議分配充足的時(shí)間進(jìn)行修改。在不同的平臺(tái)上，體驗(yàn)會(huì)有所不同。規(guī)格可能不同，因此保持靈活性非常重要。

最后，虛擬現(xiàn)實(shí)的特別之處在于如何探索虛擬環(huán)境并與之交互。《工作模擬器》的探索版本中玩家將坐在一張擁有抽屜的桌子前，體驗(yàn)者可以隨意翻找抽屜，拿起每個(gè)物體，看看它們是如何工作和相互作用的，這是一件非常有趣的事情。玩家更喜歡這種互動(dòng)的一個(gè)關(guān)鍵原因是，他們可以把手中的東西放在任意地方，以真正改變周圍的環(huán)境狀態(tài)，我們沒有讓他們與遙遠(yuǎn)的或與他們脫節(jié)的事物互動(dòng)，這有助于提升玩家的沉浸感。

工作模擬器，由Owlchemy實(shí)驗(yàn)室開發(fā)

你會(huì)給希望為Apple Vision Pro移植或開發(fā)游戲的開發(fā)人員什么建議？關(guān)于由Unity制作的Vision?OS《工作模擬器》移植版使用體驗(yàn)如何?

Unity一直與Unity和蘋果密切合作，并致力于以最佳方式實(shí)現(xiàn)我們的希望和愿景。《工作模擬器》在Apple Vision Pro上運(yùn)行非常快速，使用起來與在iOS中構(gòu)建應(yīng)用相類似。但使它成為一個(gè)完全沉浸式的游戲讓我們花費(fèi)了一些精力。Unity必須調(diào)用一個(gè)函數(shù)，將我們想要的輸出傳遞給蘋果操作系統(tǒng)。在此之前，我們只能創(chuàng)建一個(gè)平面窗口，如果你關(guān)閉它，游戲就結(jié)束了。

我們使用Unity開發(fā)的Vision OS《工作模擬器》移植版是一款完全沉浸式的游戲，Vision OS作為一款通用計(jì)算操作系統(tǒng)，退出游戲流程的制作對(duì)我們來說是一件新鮮事。為PC構(gòu)建時(shí)，我們沒有退出應(yīng)用程序的第二步驟，玩家只需點(diǎn)擊x 就可以退出程序，當(dāng)我們將它放在Quest上時(shí)，它實(shí)際上是二進(jìn)制的，游戲要么運(yùn)行，要么關(guān)閉，但當(dāng)游戲被移植到Apple Vision Pro上時(shí)，這個(gè)游戲?qū)嶋H上是可以進(jìn)入到后臺(tái)運(yùn)行的，我們需要做的工作是弄清楚如何真正讓玩家離開應(yīng)用程序。

我們的建議是真正的合作與開放。你永遠(yuǎn)不知道什么時(shí)候會(huì)有人解決你遇到的瓶頸。這不僅對(duì)你我有好處，對(duì)整個(gè)社區(qū)也有好處。Unity擁有非常活躍的論壇討論和論壇票選。這有助于我們找到對(duì)社區(qū)其他人同樣有益的解決方案。在社區(qū)中提交錯(cuò)誤報(bào)告有助于為我們與其他處于類似情況的開發(fā)人員提供合作的機(jī)會(huì)。這無疑加快了我們的學(xué)習(xí)曲線，并有助于我們向前發(fā)展。

你們從Vision?OS開發(fā)中學(xué)到的最有價(jià)值的東西是什么？

多年來，我們一直致力于在Windows PC和Android兩個(gè)生態(tài)系統(tǒng)中進(jìn)行開發(fā)。Vision?OS與蘋果其他操作系統(tǒng)有許多相似之處，因此我們現(xiàn)在更加了解該操作系統(tǒng)的編程潛力與試錯(cuò)方向。我們也找到了可以做得更好的地方。

Vision?OS系統(tǒng)的一個(gè)顯著優(yōu)勢(shì)是Facetime和共享屏幕的價(jià)值與潛力，該功能支持向其他人展示你正在經(jīng)歷的事情——比如說，用于調(diào)試。在Vision Pro屏幕中可以顯示你正在運(yùn)行的應(yīng)用程序，你正在運(yùn)行的代碼，其他人可以完美地看到你所看到的視圖。而現(xiàn)在其他頭顯很難做到這一點(diǎn)。