服務(wù)聽障人士的聲音可視化互動(dòng)設(shè)計(jì)

所屬分類：電子論文閱讀次時(shí)間：2021-04-25 10:36

本文摘要：摘要：眾所周知，聲音是由振動(dòng)產(chǎn)生的。在傳統(tǒng)意義上，音樂屬于耳朵，是用聽覺體驗(yàn)美感的藝術(shù)。人們在欣賞音樂時(shí)，往往是在傾聽的基礎(chǔ)上，通過音響感知與情緒感受形象聯(lián)想與理性感悟以及音樂美的體驗(yàn)與感悟等階段，完成對音樂作品由感性到理性的審美體驗(yàn)過程

　　摘要：眾所周知，聲音是由振動(dòng)產(chǎn)生的。在傳統(tǒng)意義上，音樂屬于耳朵，是用聽覺體驗(yàn)美感的藝術(shù)。人們在欣賞音樂時(shí)，往往是在傾聽的基礎(chǔ)上，通過“音響感知與情緒感受”“形象聯(lián)想與理性感悟”以及“音樂美的體驗(yàn)與感悟”等階段，完成對音樂作品由感性到理性的審美體驗(yàn)過程。音樂具有形象思維的特點(diǎn)，在情感的伴隨下，通過想象聯(lián)想，獲得音樂形象、生活情景以及意境等形象，音樂可視化變?yōu)楝F(xiàn)實(shí)。

　　關(guān)鍵詞：聲音可視化;processing編程藝術(shù);數(shù)字媒體藝術(shù)

數(shù)字媒體藝術(shù)

　　一、簡介

　　(一)項(xiàng)目背景及作品創(chuàng)意眾所周知，聲音是由振動(dòng)產(chǎn)生的。在傳統(tǒng)意義上，音樂屬于耳朵，是用聽覺體驗(yàn)美感的藝術(shù)。人們在欣賞音樂時(shí)，往往是在傾聽的基礎(chǔ)上，通過“音響感知與情緒感受”“形象聯(lián)想與理性感悟”以及“音樂美的體驗(yàn)與感悟”等階段，完成對音樂作品由感性到理性的審美體驗(yàn)過程。音樂具有形象思維的特點(diǎn)，在情感的伴隨下，通過想象聯(lián)想，獲得音樂形象、生活情景以及意境等形象，音樂可視化變?yōu)楝F(xiàn)實(shí)。我們計(jì)劃塑造一個(gè)能將音樂可視化的產(chǎn)品，以更好地呈現(xiàn)音樂所帶來的情緒。同時(shí)，我們期望這款產(chǎn)品在未來的迭代過程中，實(shí)現(xiàn)能夠幫助聽障人士感受音樂的功能。

　　媒體技術(shù)論文范例：基于大數(shù)據(jù)可視化技術(shù)的信息系統(tǒng)AC審計(jì)

　　(二)作品功能

　　第一部分的作品包括MySong和麥克風(fēng)輸入。這兩者都是將音頻進(jìn)行圖像化處理的程序，這兩者是根據(jù)音頻的振幅變化來生成圖像，所以使用Processing自身創(chuàng)建amplitude對象。第二部分的作品包括鍵盤鋼琴與電子琴，這一部分的作品是對于圖像音頻化的詮釋。其中，電子琴一共有32個(gè)鍵位，鍵盤上的三排字母都可以成為按鍵。最低音是G3最高音到D8，因?yàn)镚3是揚(yáng)聲器所能發(fā)出的最低音;而最高音則是受限于鍵盤數(shù)所以只排到D8，實(shí)際最高音未知。電子琴的琴音是電腦自生成音，與鋼琴不同，不需要data文件夾來添加音頻文件。

　　(三)系統(tǒng)開發(fā)平臺(tái)

　　開發(fā)工具與編程語言：Processing;源碼支持環(huán)境：Windows/Linux/MacOS，需在ProcessingDevelopmentEnvironment-processing.exe中運(yùn)行;開發(fā)使用的庫文件：Minim2.2.2，Sound2.2.3;音樂、視覺效果均為團(tuán)隊(duì)原創(chuàng)，使用工具有：AdobeIllustrator，AdobePhotoshop，庫樂隊(duì)，AdobeAudition。

　　(四)作品特色第一部分的作品包括MySong和麥克風(fēng)輸入。

　　這兩者都是將音頻進(jìn)行圖像化處理的程序，在使用方面，如果想要套入使用的音頻格式不是mp3，則需要去源碼中找到XXX=newSoundFile(this,”Xxx.mp3”)這一行，將雙引號(hào)中的文件名與格式改成想要播放的音頻文件。如果還是無法播放則降低音頻質(zhì)量，因?yàn)槭躊rocessing自身頻譜分析限制，無法分析過高質(zhì)量音頻。麥克風(fēng)輸入則如其字面意思一般，通過輸入、捕捉外界聲音，利用minim庫來分析音頻，進(jìn)而生成圖案變化——聲音越低沉波動(dòng)越平緩，音調(diào)越高則波動(dòng)越劇烈。

　　第二部分的作品包括鍵盤鋼琴與電子琴，這一部分的作品是對于圖像音頻化的詮釋。琴音是根據(jù)每個(gè)鍵位輸入的每個(gè)音所代表的頻率來產(chǎn)生的。在編程時(shí)考慮的聽眾感受，采用的是體感最舒適的矩形波所生成的電子音。當(dāng)然，也可以通過將源碼第三行第一個(gè)單詞改成SinOsc、SawOsc、TriOsc或Pulse來分別用正弦波、鋸齒波、三角波或脈沖波形成音頻。另外，電子琴在彈奏的時(shí)候屏幕隨機(jī)出現(xiàn)會(huì)變化顏色的矩形，這些顏色變化是根據(jù)音頻頻率變化而產(chǎn)生的。

　　二、多媒體系統(tǒng)詳細(xì)設(shè)計(jì)

　　程序系統(tǒng)設(shè)計(jì)與編程(參考非媒體類的系統(tǒng)結(jié)構(gòu)設(shè)計(jì)與數(shù)據(jù)庫結(jié)構(gòu)設(shè)計(jì))：全部使用Processing開發(fā)完成，調(diào)用的庫文件有：Minim2.2.2，Sound2.2.3。美術(shù)、聲效：團(tuán)隊(duì)成員使用鋼琴、架子鼓錄制基礎(chǔ)音頻，在庫樂隊(duì)，AdobeAudition中進(jìn)行優(yōu)化處理。編劇、角色、道具、場景：本作品中不涉及任何人物角色、道具與場景。界面設(shè)計(jì)：由Processing封裝的基礎(chǔ)可視化界面。

　　二、多媒體系統(tǒng)詳細(xì)設(shè)計(jì)

　　根據(jù)作品類別任選一類(可包含但不限于下列內(nèi)容)。構(gòu)想(創(chuàng)意)：我們作品的設(shè)計(jì)方向是圍繞著“圖像”與“音頻”這兩個(gè)概念展開的。其背后想法就是將“圖像”可聽化以及將“音頻”可視化。交互規(guī)則：我們參考了諸多樂器與麥克風(fēng)的聲音呈現(xiàn)方式，探索視覺、觸覺對聽覺具象化的可能性。視覺藝術(shù)：采用AdobeIllustrator、AdobePhotoshop設(shè)計(jì)樣稿，在Processing中通過編程實(shí)現(xiàn)樣稿的可視化效果。程序系統(tǒng)設(shè)計(jì)與編程(參考非媒體類的系統(tǒng)結(jié)構(gòu)設(shè)計(jì)與數(shù)據(jù)庫結(jié)構(gòu)設(shè)計(jì))：全部使用Processing開發(fā)完成，調(diào)用的庫文件有：Minim2.2.2，Sound2.2.3。

　　美術(shù)、聲效：團(tuán)隊(duì)成員使用鋼琴、架子鼓錄制基礎(chǔ)音頻，在庫樂隊(duì)，AdobeAudition中進(jìn)行優(yōu)化處理。編劇、角色、道具、場景：本作品中不涉及任何人物角色、道具與場景。界面設(shè)計(jì)：由Processing封裝的基礎(chǔ)可視化界面。Processing進(jìn)行圖形設(shè)計(jì)的編程語言并不是Java，而是重新開發(fā)了一門類C的編程語言，這也讓非計(jì)算機(jī)科班出身的設(shè)計(jì)師很容易上手。

　　(一)構(gòu)建Processing環(huán)境第一步是安裝Processing環(huán)境。去Processing.org(https://processing.org/download/)，單擊DownloadProcessing并選擇您的操作系統(tǒng)。此外，還需要確保Java技術(shù)已經(jīng)可用。在windows上，下載解壓后直接運(yùn)行processing.exe即可。這應(yīng)該會(huì)彈出ProcessingDevelopmentEnvironment(PDE或ProcessingIDE)。占此窗口較大的部分是文本編輯器。如果輸入圖中所示的兩行代碼，然后單擊Run(左上角的三角形)，出現(xiàn)一個(gè)窗口，顯示您所輸入的簡單程序(或Processing術(shù)語所指的sketch)的結(jié)果。單擊Stop(左上角的方框)退出程序，窗口消失。

　　四、結(jié)語

　　我們作品的設(shè)計(jì)方向是圍繞著“圖像”與“音頻”這兩個(gè)概念展開的。其背后想法就是將“圖像”可聽化以及將“音頻”可視化。本作品采用視覺、觸覺等方式，令每一位體驗(yàn)者充分動(dòng)用五感，感受音樂的魅力，其采用的交互效果也是音樂行業(yè)值得參考的。我們期待這款產(chǎn)品在未來的迭代過程中能夠通過可視化的形式幫助聽障人士認(rèn)識(shí)、理解音樂。

　　作者：陶雨琦