資料科學實驗室: 2022

照片來自Sakon

這次在疫情之後，第一次實體到訪泰國參與 Google 所舉辦的ML Community Summit 2022 這個活動一連舉辦兩天，從中間可以學習最新的產品的訊息，包含最新產品資訊包含Vertex AI、JAX, TPU, 圓桌討論、Team building活動等

加入Google Developer Expert Program之後，最多的收穫就是跟來自不同國家的交流，這次出席的開發專家有來自印度、韓國、土耳其、美國、英國、新加坡、臺灣、摩洛哥、巴西、義大利、哥倫比亞、法國、馬來西亞（按照簡報順序排序）等國家。

第一天見面禮超讚

照片來自Sakon

開場的時候我們的ML計畫主持人，幫大家準備了驚喜，就是Jeff Dean 幫大家親自簽名的論文，真的很榮幸能夠拿到他親自發表的論文以及簽名

照片來自Sakon

真的很棒。

接著就是陸續專家分享機器學習當紅議題，當然目前Google Cloud上面最流行的機器學習工具是Vertex AI，Google邀請了AI Platform Core的專家，從MLOps的角度做了完整的介紹，以及產品的發展方向，當然這個有簽NDA就不能透露太多，總之Vertex AI會是一個雲端在機器學習上會很便利的工具，當然這要結合GCP才能發揮對應價值，

有興趣可參閱這個網址與影片

Vertex AI

https://cloud.google.com/vertex-ai

What is Vertex AI?

https://youtu.be/gT4qqHMiEpA

如果您想要自己弄一個，當然也有開源的，可以參考Google開源的Kubeflow, TFX

https://www.kubeflow.org/

以及

https://www.tensorflow.org/tfx

kubeflow + TFX + JupyterLab再搭配基礎設施，就能弄一個類似的東西，就端看我們要快速便利，還是要自己弄，Jerry老師認為能否自己弄的關鍵，應該就是團隊強不強，再來就是管理工具要自己花時間設計與開發囉。

接著是現在Google DeepMind團隊用很兇的JAX，您可以想像他是Python Numpy當中的進階版，因為它可以直接支援GPU跟TPU，Jerry老師在讀書會中有一個簡單分享，請參閱這裡

https://youtu.be/SllsasgVntg

以現行的各種AI演算法，最吃重的運算資源，需要快速的透過程式碼去操控，但是目前很多框架都是包起來，所以都要透過工具去觀察狀況，但是不一定能夠做很快速的修改，Jerry老師認為JAX的強項在於，把很多要做深度學習的事情函式化了，像是vmap可以輕鬆實現向量化的操作，把很多維度的工作處理得很簡單，還有很多其他像是jit、grad等功能，網路上有人寫了鐵人賽

https://ithelp.ithome.com.tw/users/20129616/ironman/5220

有興趣可以參考一下

最後就是TPU，這個高技術含量的議題，大家都知道AI在算力上一直都是一個重要的議題，因為所有模型除了「訓練」之外，連「推論」基本上都已經要GPU進行，在這次活動，Jerry老師看到了Google對TPU研發的實力，包含即將推出的Cloud TPU v4，可以超過250 teraflops(萬億次浮點運算每秒)，重點是耗電量比原來2018年推出的Cloud TPU v3還少了30%~40%真的很不容易，處理頻寬可以到PB等級，實在是很讓人期待。

有興趣的朋友可以看這部影片

Cloud TPU v4: Fast, flexible, and easy-to-use ML accelerators

https://youtu.be/W7A-9MYvPwI

中午Jerry老師就跟一群來自印度的朋友一起吃飯，分享自己的心得。

照片來自Sakon

下午就是輪流報告GDE在各國的狀況以及自己的動態等

照片來自Sakon

再來就是圓桌會議，討論未來大家的方向

照片來自Margaret

照片來自Sakon

第二天我們參觀了泰國幾個重要的廟宇以及運河，很開心跟來自Hugging Face的專家Merve還有Margaret以及幾個同車的各國朋友一起互動，最開心的是拿到了遠從法國搭飛機過來的貼紙，Merve她是Hugging Face的法國NLP專家

照片來自Jerry

大家可以到這裡看到她的風采

https://huggingface.co/merve

https://www.youtube.com/watch?v=IBaDGxgY3Po

https://github.com/merveenoyan

以及跟一樣自然語言專業的新加坡同行交流了虛擬人的市場與技術

照片來自Sakon

最後我們有一個完美的合照

照片來自Sakon

跟各國專家互動交流，除了可以學習到不同的國家文化、談吐、價值觀，更可以了解全球大家對於機器學習這個技術的發展看法，以及最新的做法，最後恭喜下面中間這位印度朋友Sayak正式加入Hugging Face成為Developer Advocate Engineer。

照片來自Jerry

您也可以在這裡看到Sayak，他也是一個知名的ML專家

https://sayak.dev/

https://youtu.be/Q6BqBlUN8Lc

Hugging Face儼然已經成為機器學習的中立國家，大家快點加入台灣的Hugging Face群組

https://huggingface.co/TFUGT

為台灣爭光：Ｄ

最後也很榮幸認識Margaret，她也算是相當活躍的ML專家，同時具備藝術專長，可以到這裡看到她資訊 https://margaretmz.art/

還有來自英國的NLP專家Grigory 剛好要在2023年出全球第一本JAX的書，有興趣也可以參考一下

https://www.manning.com/books/jax-in-action

對JAX想研究可以參考他的medium

https://moocaholic.medium.com/jax-a13e83f49897

請大家加入台灣Google開發者社群行列

https://developers.google.com/

還有關注全球的開發者活動

https://developers.google.com/community/devfest

如果對Google專家計畫有興趣可以參考這裡

還有太多資訊可以說了，但是工作太多，只能說收穫滿滿，只好改天找機會再跟大家分享囉。

下次見！

今年Google IO 2022在AI 上必須知道的十件事

大家好我是Jerry老師，已經有一段時間因為公司忙碌沒發文，今天要跟大家分享的是關於今年Google在Google I/O的活動上分享最近透過AI方法做的十件事，特別在Google產品上都透過AI做了許多附加價值的事情，包含在Google翻譯、Google地圖、Youtube、Google Meet、Google Doc、Google搜尋、 Google助理、 Google手機、Google眼鏡等9種產品上，全文參考內容來自於這裡

今年的開頭讓Jerry老師覺得很棒，因為疫情、環境的關係，Google做了很多對社會有很大幫助的事情，像是「預測洪水的預警時間，發送超過2300萬則的災害警報給印度的民眾」，「透過翻譯技術協助烏克蘭人跟波蘭人能夠互相溝通」，「協助彙整全球Covid-19的照護資訊，有超過20億人次使用來找附近診所」，「透過Google手機發送數億條的空襲訊息讓烏克蘭人能夠避難」，這些都是對社會非常有幫助的事情。

接下來Jerry老師彙整了Google IO上10件必須要知道的事

1. Google翻譯能夠自主學習新的語言

過去學習語言翻譯是採用雙語學習(Bilingual learning)，像是英文轉西班牙文，他就要有對應的英文跟西班牙文，但是全世界語言很多，不一定每個語言轉換都有成對的訓練資料可以用。Google的團隊發表了一種做法叫單語學習(Monolingual learning)這種方法可以在Zero-Resource的情況下去學習新的語言翻譯，使用了Transformer-based的模型架構與半監督學習(Semi-supervised)的方式，學習了24種新語言的翻譯，包含阿薩姆語(Assamese)、林加拉語(lingala)、米佐语(Mizo)等。

細節請參閱文章

2. Google Map建立最佳環保路徑

Google也透過機器學習的技術，提出了eco-friendly的概念，自動生成最佳的環保路徑提供給使用者使用。

細節請參閱文章

3. Youtube能夠提供自動章節分段功能

能夠自動透過機器學習的方式去分析影片中的內容，進行自動分段的工作，這個技術解決了影片過長，但是使用者想分段去觀賞的問題，同時也可以提升搜尋的效率與結果。

4. Google Meet自動加亮

在Google Meet上也透過機器學習的方式去做了畫面加亮、去背、增強背景等功能

5. Google Doc 自動摘要功能

這是一個很特別的機器學習技術，在影片中可以看到包含了自然語言理解(NLU)、資訊壓縮(IC)、自然語言生成(NLG)等技術，可以讓Google文件能夠有自動摘要的功能，方便使用者能夠先閱讀摘要掌握文本資訊。當然主要先從英文的會議記錄開始，但是可以想得到未來大量的文本閱讀上，在Google文件上面可以變得非常方便。

6. Google搜尋可以用照片作為搜尋關鍵字