联觉转译为光:MET博物馆的音乐身体可穿戴装置
synesthesia translated into light across audrey wright’s musical body at the MET
小提琴家Audrey Wright与创意伙伴Geoff Robertson在纽约大都会艺术博物馆展示可穿戴发光装置,将作曲家Stephanie Ann Boyd的联觉体验转化为随音乐流动的灯光。装置含46块显示面板、3000多颗LED,由平板实时控制。团队正开发PRISMBODY新作,升级为RGB LED与360度环绕透明屏幕,探索如何将他人的音乐感知变成全场可见的视觉体验。
深度解读
当一位作曲家把自己脑中“声音—颜色”的联觉编码成乐谱,再由一位小提琴手穿上一件布满3000多颗LED的可穿戴装置把它翻译成光,音乐表演就不再只是听觉事件,而变成一场关于“别人如何感知世界”的公开实验。这是PRISMBODY项目的核心命题,也是2026年9月20日在大都会艺术博物馆(The Met)“Creative Convening: Musical Bodies”活动上被部分展示、尚未完成的新作。它的真正价值不在于技术炫技,而在于它试图回答一个几乎无法回答的问题:一个人私有的感知方式,能否被转译成整个房间都能接收到的图像?
三个人,三种“乐器”
这个项目由三方构成。小提琴手Audrey Wright负责“音频”;她的丈夫兼创作伙伴Geoff Robertson负责视觉系统,站在一旁用平板电脑实时操控;作曲家Stephanie Ann Boyd提供起点——她本人的联觉(synesthesia)体验。Robertson在Met的演讲中给出一个异常朴素的类比:
“It's like subtitles along with audio on a screen.”
他进一步说:“Audrey是音频,而服装必须是字幕的颜色版本。”这个比喻把整个项目的逻辑说透了:光不是装饰,而是信息,是试图与声音同步传递的第二种语言。问题在于,字幕翻译的是语义,而这里要翻译的是感知本身。
46块面板、3000多颗LED、47块电池
Robertson是自学成才的电气工程师和程序员,第一代Garment完全由他手工搭建。技术规格值得逐一拆开看:46块显示面板分布在Wright的前胸与后背,超过3000颗LED,47块电池供电,装置自建Wi-Fi网络,Robertson通过平板接入并触发不同的视觉程序。板上还有一枚麦克风,实时采集Wright的演奏,把音频数值喂给部分特效。整套系统以大约每秒30帧运行。
Wright称这件可穿戴物是“a sensory musical instrument itself”——它本身就是一件感官乐器。Robertson也认同自己的角色类似乐手:“There is a bit of that where I'm actually playing the instrument, kind of in tandem with Audrey.” 他的平板位于表演边缘,但他的时机判断成为观众所见的一部分。Wright拉小提琴,Robertson“演奏”她周围的光。
从多感官到多模态
第一代Garment的局限在于:每块显示面板只有五种固定LED颜色,无法呈现Boyd所关联的那些细微色相。这正是Garment 2.0要解决的问题——引入RGB LED,色域大幅扩展。Robertson在Met的表述是:
“The garment transitions from something that is multisensory to something that is more multimodal.”
这个区分很关键。多感官(multisensory)只是同时刺激多种感官;多模态(multimodal)意味着不同通道承载的是相互关联、可对应的信息。目标是让声音与图像同时传达关联内容,且色彩精度足以让Boyd在Wright身上认出自己感知的一部分。换句话说,判断这套系统成功与否的标准,不是观众觉得好看,而是联觉者本人能否认领它。
屏幕开始环绕身体
第二代Garment在物理形态上也在扩张。Robertson正在开发透明显示面板,计划完全环绕Wright,把第一代“前后两块清晰朝向”的结构替换为连续的视觉表面。每块面板将包含独立控制的白色LED加一层RGB层,同时有额外灯光向内投射,把颜色打在Wright身上。外部聚光灯也在演化,成为可穿戴显示的雕塑性延伸,把图像推向房间更深处。
360度视角是Robertson从第一代起就惦记的事。他回忆项目起源于新冠时期,当时他设想的是发生在传统舞台之外的表演。PRISMBODY把那个想法又推进了一步。
所以呢:谁在翻译谁
整条链路是这样的:Boyd的联觉进入乐谱,Wright和Robertson把材料转成声音与光,观众接收到的是一层又一层经过每个人重塑的解释。在Met的展示中,作品明显仍在进行中,而这恰恰让它的核心问题更清晰——你如何把另一个人感知音乐的方式,变成一屋子人都能经历的图像?
对从业者的意义有三层。第一,可穿戴计算正在从健康监测和消费电子转向表演与感知研究,技术指标(帧率、色域、供电、无线控制)不再是工程问题,而是美学参数。第二,无障碍与感知转译的边界正在被艺术实践重新划定——联觉不是病理,而是一种可以被编码、被共享的认知差异。第三,对现场表演而言,“演奏者”的定义正在松动:当一个人的平板时机与另一个人的琴弓同等重要,舞台的权力结构就变了。
PRISMBODY尚未完成。但它已经把一个很少被认真对待的问题摆上台面:如果感知可以被部分转译,那么“理解他人”这件事,究竟是在理解内容,还是在理解对方接收世界的方式?
