Synesthesie in Kunst en Wetenschap
Synesthesie: Een neurologisch verschijnsel waarbij iemand dingen via zijn zintuigen op een ongewone manier ervaart, zoals wanneer men kleur als geluid ervaart, of een bepaald nummer als een positie in de ruimte.
Umut Eldem’s onderzoek en kunstwerken richten zich op exploratie van synesthesie als een artistieke expressie. Door gebruik van geluid, kleur, en andere zintuigen als metafoor voor elkaar, doelt zijn werk op de creatie van syneshetische werelden, puttende uit de ervaringen van personen met synesthesie. Zijn experimenten worden gebruikt om de esthetische effecten van de combinatie van zintuigen te onderzoeken, en de creatie van tools voor synesthetische audio-visualisatie en muzikale uitvoering. Umut Eldem geeft workshops en lessen in de audiovisuele geschiedenis, techniek en praktijk.
Synesthetische Werken
“Brief Gaze of the Infinite Maze” is een interactieve web-based installatie waarin de kijker een bijna oneindige synesthetische audiovisuele ruimte kan exploreren. Fractals zijn oneindig complexe, nooit eindigende visuele patronen. In deze installatie wordt elk beeld in real-time vertaald naar een soundscape met behulp van een algoritme dat de perceptie van kleuren en vormen op het scherm analyseert. De oneindig complexe patronen veranderen in een steeds veranderende wereld van geluid: het verkennen van de fractals creëert complementaire sonische gebeurtenissen die de unieke reis van de kijker in deze audiovisuele wereld weerspiegelen. Deze installatie is gecreëerd met de steun van het collectief Screen Dive.
“Shallow Steps” is een audiovisueel installatie dat de synesthetische ruimte tussen geluid, beeld, en oneindigheid ontdekt. De techniek en software voor de vertaling van de beelden naar geluid zijn gemaakt door het onderzoek van de componist naar ‘Cognitive Audiovisual Translation’ – een benadering van synesthetische kunst die prioriteit geeft aan cognitieve elementen in plaats van wiskundige overeenkomsten. De zichzelf herhalende structuur van fractals, vooral wiskundige fractals zoals de ‘Mandelbrot Set’, is het beginpunt van het werk. Door bepaalde wiskundige formules op een visueel vlak toe te passen, ontstaat een specifieke, herhalende vorm. Door in te zoomen op deze vorm ontstaan meer ingewikkelde patronen. Theoretisch gaan deze patronen door tot in het oneindige, steeds wisselend en toch altijd uniek. In dit werk is het dit patroon dat als een automaat-entiteit wordt omgezet in geluid en een audiovisuele vorm krijgt.
Gepresenteerd op het AEC-congres in het Koninklijk Conservatorium van Antwerpen.
“The Road Endless” is een verzameling van drie audiovisuele composities geschreven voor klavecimbel en live-elektronica. Alle stukken maken gebruik van audiovisualisatiemethoden die de componist heeft ontwikkeld in het kader van zijn doctoraatsonderzoek naar synesthesie. Het beginpunt van het visuele ontwerp is de synesthetische ervaring van de muzikant, wiens associaties tussen kleuren en noten worden vertaald als synesthetische visies op het scherm. Het eerste stuk, “As Above”, verwijst naar de oude esthetiek van ‘Visual Music’ van de jaren dertig. “The Hit” is een dialoog tussen de klanken gegenereerd door de computer en het klavecimbel. Het laatste stuk, “B of B”, is gecomponeerd voor het project ‘Music for the Bees’, en zet kleurrijke bijen op het scherm dansend op de muziek. Alle stukken vertellen een abstract verhaal tussen het klavecimbel, de beelden en het publiek.
- Performed by: Liselotte Sels
“Glimmer” is gebaseerd op onze ademhaling, en de moeilijkheden die worden ondervonden als men focus gaat leggen op de verschillende onderdelen van dit natuurlijke proces. De uitvoering legt nadruk op de intuïtieve presentatie van multi-sensorische kunst. Hoewel hier de oriëntatie ligt op de muziek, een live audiovisueel systeem, gecreëerd als onderdeel van het compositorisch onderzoek, accentueert de muzikale elementen (toonhoogte, richting, klankkleur en vorm) en transformeert ze in een visueel element.
- Uitvoering door: Dries Meerts
“Hearing Glass” maakt gebruik van een computer camera die voorbijgangers een synthetische ervaring bezorgd. De camera maakt gebruik van een live feed voor de creatie van een soundscape dat uit twee luidsprekers of hoofdtelefoon,naargelang de locatie en eventuele geluidshinder, bestaat. Een getransformeerde live feed wordt op het computerscherm weergegeven. De audiovisuele transformatie van beeld naar soundscape is gebaseerd op Umut Eldem’s doctoraal onderzoek van Synthesie, de ervaring van meerdere zintuigen op hetzelfde moment, wanneer de kleuren en de vormen van de beelden automatisch overschreven worden in overeenstemming met de synesthetische theorie.
De tekst “Prelude” is gebaseerd op de wereldwijde, antieke scheppingsmythen. Een verhaal verteld in meerdere standpunten over alle continenten heen, dat met muziek, soundscape en kleurlichten samen het scheppingsverhaal verwoordt.
- Verteller: Atilla Filiz
“Color FM” is onderdeel van Eldem’s kunstwerken die zich concentreren rondom synesthesie – de ervaring van de samensmelting tussen muziek en kleur. Hij verborg verschillende geluidsboxen, elk met hun eigen relatie van kleur en originele muziek, in Mirador tijdens het Kolla Festival in Luxemburg. De festivalgangers konden hen ontdekken via een schattenjacht of een toevallige ontdekking tijdens een individuele wandeltocht. Elke box werd geplaatst in relatie met de kleur en de geassocieerde gevoelens: een gevaarlijke plaats voor rood, een plaats diep in de natuur voor groen, enz.
Artikels / Interviews
- Brief Conversation of the Infinite Maze – Interview door Screen Dive
- Junction Between The Senses
gepubliceerd in het academische tijdschrift FORUM+. (Nederlands / Engels) - Towards a ‘Live Synaesthetic Visualisation’? Considerations in artistically visualised sound
gepubliceerd in het conferentieboek ‘Music and Synesthesia’. - Hearing Colors – Interview door Newline 2019, Hackerspace Gent
- Interview With an Artist – Colors & Music – Interview door Nina Petrov
Conferenties
- Screen Dive Live Discourse
– ZER0|1NE II Festival 2021, Jeruzalem, Israel - Navigating Cross-modal Spaces in Visual Music
UPDag #3 2021, Antwerpen, Belgie - Techniques and Aesthetics in Cross-modal Audiovisual Translation
CREATIE Sessions 2021, Antwerpen, Belgie - Live Synaesthetic Visualisation”? Considerations in Artistically Visualised Sound
Expanded Animation 2020 – Synaesthetic Syntax, Hagenberg, Oostenrijk - The Sound/Colour Relationship in Artistic Practice: Visualising Synaesthetic Principles
European Platform for Artistic Research in Music (EPARM) Conferentie, Cluj-Napoca, Roemenië, 2019 - Consolidating The Artistic And The Scientific
Methods in Artistic Research, Antwerpen, Belgie, 2019 - Beyond The Pitch – Applying Synaesthetic Principles to The Artistic Practice
IASAS Moscow Synesthesie Conferentie, Rusland, 2019 - Between The Senses: Sound, Colour, and Synaesthesia
Newline 2019, Gent, Belgie - Between The Senses: What Our Brains Reveal About Our Connection Between Sound and Colour
RE:SOUND – Media Art History Conference, Aalborg, Denemarken, 2019