Enregistrement de sons spatiaux avec ARKit et déplacement à travers des formes d'onde 3D virtuelles

L'artiste du code, Zach Lieberman, a utilisé le nouveau cadre ARKit d'Apple dans iOS 11 pour créer une application audio spatiale de preuve de concept qui peut être utilisée pour enregistrer du son en réalité augmentée et le lire en se déplaçant littéralement à travers des formes d'ondes 3D virtuelles.

Voici une vidéo rapide montrant cela en action (assurez-vous d'activer le son)

Test rapide de l'enregistrement du son dans l'espace et de sa lecture en le parcourant (la vidéo a du son!) #Openframeworks pic.twitter.com/GdZcK3rj1L

- zach lieberman (@zachlieberman) 6 septembre 2017

Il l'a construit en utilisant ARKit et OpenFrameworks, une boîte à outils C ++ open source pour le codage créatif.

Je peux voir les utilisations de cela dans les musées comme une installation artistique interactive en quelque sorte: imaginez enregistrer des compositions musicales de cette façon avec des notes et des rythmes occupant des motifs spatiaux que les gens pourraient jouer en se déplaçant à travers des formes d'onde 3D.

On pourrait même mettre en place une installation ou une piste de fitness dédiée où les gens pourraient parcourir un cours pour jouer de la musique préenregistrée. Ou que diriez-vous d'une chasse au trésor en réalité augmentée où vous devez trouver des indices audio dans toute la maison?

Les possibilités sont infinies - si vous pouvez faire de l'audio spatial avec ARKit, il n'est pas exagéré d'imaginer des mots de réalité augmentée, des tweets, des emoji, des feuilles de musique flottantes, etc..

Voici d'autres démos de Zach montrant comment ARKit détecte les points des objets en temps réel.

Test rapide animant les données du nuage de points pic.twitter.com/34mQvuKXNd

- zach lieberman (@zachlieberman) 1 septembre 2017

Un autre pic.twitter.com/5RSFSzSg5N

- zach lieberman (@zachlieberman) 31 août 2017

C'est cool de regarder les points caractéristiques et de voir le modèle qu'il construit (thx @xavitribo) pic.twitter.com/8rqObs8seI

- zach lieberman (@zachlieberman) 31 août 2017

La démo de Zach rappelle la série The Light Barrier du studio Kimchi and Chips, un projet qui crée des dessins volumétriques dans l'air à l'aide de centaines de projections vidéo calibrées. Comme démontré dans la vidéo ci-dessous, ces projections de lumière fusionnent dans un champ de brouillard pour créer des objets graphiques qui s'animent à travers l'espace physique comme ils le font dans le temps.

Plus tôt dans la journée, nous vous avons montré l'application de mesure ultime du développeur Rinat Khanov, appelée MeasureKit, que vous pouvez utiliser pour mesurer à peu près n'importe quoi, comme la taille d'une personne, la distance aux objets, l'angle entre deux points et plus, en pointant votre iPhone vers des objets..

Comment aimez-vous ces nouvelles démos ARKit?