在2018年，美國加州大學洛杉磯分校(UCLA)的Ozcan實驗室提出了結合繞射光學與深度學習的繞射神經網路，並成功登上著名的Science期刊。此研究在當時吸引了許多光學領域研究人員的注意，正在從事軟體開發工作的Chip也因此激起了申請這間實驗室念博士班的念頭。就在去年Chip終於成功申請到Ozcan實驗室，現在正在UCLA進行相關研究。對Chip來說，這個研究主題不僅展現出神經網路與光學機制驚奇的相似性，同時活用了繞射光學的各種特性。無論是對光學或者是神經網路有興趣的朋友都可以來看看。
繞射神經網路並非單純的光學系統，也不是一般AI深度學習技術常見的神經網路。它利用繞射元件實現了神經網路層到層的運算，以此基礎建構了可在光速下運算的深度學習架構。以下Chip將一一介紹相關的技術與具體是如何實現。
甚麼是神經網路？
AI深度學習的核心：神經網絡的基本思想是創建一個可以通過模擬人腦工作方式來學習和做出預測的人工智能系統。 神經網絡由處理信息和執行計算的互連節點或“神經元”層組成。神經網絡的基本架構包括一個輸入層、一個或多個隱藏層和一個輸出層。 輸入層接收數據，然後使用一組稱為激活函數的數學函數通過隱藏層處理數據。 輸出層根據輸入數據產生最終的預測或決策。
在訓練階段，神經網絡調整神經元的權重和偏差以優化其性能。 這是通過將預測輸出與實際輸出進行比較並調整權重和偏差以最小化誤差來完成的。 這個過程會重複多次，直到網絡達到可接受的準確度水平。
一旦神經網絡經過訓練，它就可以用於對新數據進行預測。 輸入數據被送入網絡，網絡通過層處理數據並產生預測或決策。
神經網絡由於能夠解決圖像識別、自然語言處理和自動駕駛等各個領域的複雜問題，近年來越來越受歡迎。 它們還被用於開發智能係統，例如聊天機器人和虛擬助手。特別是ChatGPT，它的潛力想必很多人已經見識到了，既可以用來諮詢各種問題，還可以翻譯英文、寫文章，甚至寫情書。在另一篇文章中會提到在Chip的博班研究生活是怎麼使用這個強大的工具。ChatGPT在短短兩個月的時間就達到了史無前例的1億用戶，是歷史中最快達到這個數字的APP，AI科技也再度被推上了最熱門的話題。
繞射元件：
繞射是光波在穿過障礙物或孔徑時發生的彎曲和傳播。 繞射元件（例如光柵或透鏡）操縱光以創建複雜的圖案，這些圖案可用於各種應用，例如傳感、成像和通信。一般來說繞射元件會藉由傳統的光學演算法模擬光傳遞進行優化計算，比如使用角頻譜、以及近場/遠場繞射等模擬方法。
結合繞射元件和神經網絡：
Ozcan實驗室在2018年發明的繞射深度神經網路(Diffractive Deep Neural Network, D2NN)即是結合了前面敘述的神經網路和繞射元件的新型物理架構。它是首個成功在全光學系統中處理深度學習計算的方法，有可能利用光學計算改變處理和分析數據的方式。繞射神經網路在邊緣運算上極具優勢：它無須額外的電源和光源，只需要原始成像或顯示系統的光訊號即可進行神經網路運算。而Chip的研究重點就是將D2NN應用於各類的光學成像與影像重建中，建構低能耗、低耗材、光速運算的邊緣裝置。它能夠大幅提升計算資源的利用效率，減少計算所需的能耗和耗材。這不僅符合永續發展指標(ESG)，還能減少科技產業在開發和製造上的成本，有潛力徹底改變計算處理和分析數據的方式。
繞射神經網路架構在運算上捨棄了電腦程式作為虛擬神經元，改採用繞射光學的物理機制實現神經網路架構，以惠更斯原理的子波疊加來模擬神經網路中層到層的運算。我們可以理解繞射神經網路的每一個神經層都是一個繞射元件，所有繞射元件經由倒傳遞進行學習，以優化整個繞射架構。
從上圖可以看到兩組神經網路架構的比較，圖(b)是一般電子神經網路的神經層，有虛擬神經元(X)，權重(weights)，和偏置項(biases)，並以圖右的式子進行張量運算。而圖(a)中的繞射神經網路層則用繞射材料上的振幅衰減和相位延遲作為biases，繞射角度形成不同的weights，最後利用惠更斯子波疊加來計算下一層的Y，計算公式如圖b右。
這個架構有甚麼優勢呢：簡單來說，在使用神經網路模型時，可以直接將待處理的光資訊投射到訓練好的繞射系統，此系統即能直接進行神經網路運算，而不須任何額外電源和電腦，因此得以實現低能耗又光速運算的計算系統。
然而，現階段的繞射神經網路還存在許多待克服的難題：例如非線性激發函數 (nonlinear activation functions)在光學上如何實現、如何有效校正並避免系統的距離誤差、如何平衡能量效率與辨識準確度、如何在非同調光源的系統下實現。相關研究仍在如火如荼的進行。
應用前景：
目前D2NN 已經展示並實現了許多應用，包括光學傳感、圖像重建和光學成像。 例如，D2NN 可以檢測光強度的微小變化，這可用於感測生物或化學物質和重建生物樣本的3D結構。 此外，D2NN 可以從模糊或扭曲的數據中重建圖像，這有助於醫學或天文成像的進一步發展。 最後，D2NN 可以通過繞射成像來創建高分辨率圖像，以此提高光學成像系統的分辨率，如下圖應用於倍增顯示器解析度的繞射神經網路架構。
人工智能和光學的交叉為開發創新技術創造了新的機會。而繞射神經網絡在各個領域的應用展示了這項技術徹底改變處理和分析數據的方式的潛力。相信在接下來的十年內可以看到此技術更加成熟、更接近產品端。Chip也希望自己成為幕後推手之一，今年沒有意外Chip會發表在實驗室裡的第一篇期刊，到時再跟大家分享！如果有興趣的朋友，也歡迎留言或是email給我。
參考資料：
All-optical machine learning using diffractive deep neural networks. Science，2018/7/26
http://www.doeopticalworkshop.com.tw/
Super-resolution image display using diffractive decoders. Science Advances
Chip & Dale的洛杉磯留學生活 
發表留言