2022年11月2日 星期三

Google Machine Learning Community Summit 2022 活動速記

照片來自Sakon


這次在疫情之後,第一次實體到訪泰國參與 Google 所舉辦的ML Community Summit 2022 這個活動一連舉辦兩天,從中間可以學習最新的產品的訊息,包含最新產品資訊包含Vertex AI、JAX, TPU, 圓桌討論、Team building活動等

加入Google Developer Expert Program之後,最多的收穫就是跟來自不同國家的交流,這次出席的開發專家有來自印度、韓國、土耳其、美國、英國、新加坡、臺灣、摩洛哥、巴西、義大利、哥倫比亞、法國、馬來西亞(按照簡報順序排序)等國家。




第一天見面禮超讚

照片來自Sakon

開場的時候我們的ML計畫主持人,幫大家準備了驚喜,就是Jeff Dean 幫大家親自簽名的論文,真的很榮幸能夠拿到他親自發表的論文以及簽名

照片來自Sakon

照片來自Sakon

真的很棒。


接著就是陸續專家分享機器學習當紅議題,當然目前Google Cloud上面最流行的機器學習工具是Vertex AI,Google邀請了AI Platform Core的專家,從MLOps的角度做了完整的介紹,以及產品的發展方向,當然這個有簽NDA就不能透露太多,總之Vertex AI會是一個雲端在機器學習上會很便利的工具,當然這要結合GCP才能發揮對應價值,

有興趣可參閱 這個網址與影片

Vertex AI 

https://cloud.google.com/vertex-ai

What is Vertex AI? 

https://youtu.be/gT4qqHMiEpA

如果您想要自己弄一個,當然也有開源的,可以參考Google開源的Kubeflow, TFX

https://www.kubeflow.org/

以及

https://www.tensorflow.org/tfx

kubeflow + TFX + JupyterLab再搭配基礎設施,就能弄一個類似的東西,就端看我們要快速便利,還是要自己弄,Jerry老師認為能否自己弄的關鍵,應該就是團隊強不強,再來就是管理工具要自己花時間設計與開發囉。


接著是現在Google DeepMind團隊用很兇的JAX,您可以想像他是Python Numpy當中的進階版,因為它可以直接支援GPU跟TPU,Jerry老師在讀書會中有一個簡單分享,請參閱這裡

https://youtu.be/SllsasgVntg

以現行的各種AI演算法,最吃重的運算資源,需要快速的透過程式碼去操控,但是目前很多框架都是包起來,所以都要透過工具去觀察狀況,但是不一定能夠做很快速的修改,Jerry老師認為JAX的強項在於,把很多要做深度學習的事情函式化了,像是vmap可以輕鬆實現向量化的操作,把很多維度的工作處理得很簡單,還有很多其他像是jit、grad等功能,網路上有人寫了鐵人賽

https://ithelp.ithome.com.tw/users/20129616/ironman/5220

有興趣可以參考一下

最後就是TPU,這個高技術含量的議題,大家都知道AI在算力上一直都是一個重要的議題,因為所有模型除了「訓練」之外,連「推論」基本上都已經要GPU進行,在這次活動,Jerry老師看到了Google對TPU研發的實力,包含即將推出的Cloud TPU v4,可以超過250 teraflops(萬億次浮點運算每秒),重點是耗電量比原來2018年推出的Cloud TPU v3還少了30%~40%真的很不容易,處理頻寬可以到PB等級,實在是很讓人期待。

有興趣的朋友可以看這部影片

Cloud TPU v4: Fast, flexible, and easy-to-use ML accelerators

https://youtu.be/W7A-9MYvPwI

中午Jerry老師就跟一群來自印度的朋友一起吃飯,分享自己的心得。

照片來自Sakon

下午就是輪流報告GDE在各國的狀況以及自己的動態等

照片來自Sakon

再來就是圓桌會議,討論未來大家的方向

照片來自Margaret

照片來自Sakon

第二天我們參觀了泰國幾個重要的廟宇以及運河,很開心跟來自Hugging Face的專家Merve還有Margaret以及幾個同車的各國朋友一起互動,最開心的是拿到了遠從法國搭飛機過來的貼紙,Merve她是Hugging Face的法國NLP專家

照片來自Jerry


大家可以到這裡看到她的風采

https://huggingface.co/merve

https://www.youtube.com/watch?v=IBaDGxgY3Po

https://github.com/merveenoyan

以及跟一樣自然語言專業的新加坡同行交流了虛擬人的市場與技術

照片來自Sakon


最後我們有一個完美的合照

照片來自Sakon

跟各國專家互動交流,除了可以學習到不同的國家文化、談吐、價值觀,更可以了解全球大家對於機器學習這個技術的發展看法,以及最新的做法,最後恭喜下面中間這位印度朋友Sayak正式加入Hugging Face成為Developer Advocate Engineer。

照片來自Jerry

您也可以在這裡看到Sayak,他也是一個知名的ML專家

https://sayak.dev/

https://youtu.be/Q6BqBlUN8Lc

Hugging Face儼然已經成為機器學習的中立國家,大家快點加入台灣的Hugging Face群組

https://huggingface.co/TFUGT

為台灣爭光:D

最後也很榮幸認識Margaret,她也算是相當活躍的ML專家,同時具備藝術專長,可以到這裡看到她資訊 https://margaretmz.art/

還有來自英國的NLP專家Grigory 剛好要在2023年出全球第一本JAX的書,有興趣也可以參考一下

https://www.manning.com/books/jax-in-action

對JAX想研究可以參考他的medium

https://moocaholic.medium.com/jax-a13e83f49897


請大家加入台灣Google開發者社群行列

https://developers.google.com/

還有關注全球的開發者活動

https://developers.google.com/community/devfest

如果對Google專家計畫有興趣可以參考這裡

還有太多資訊可以說了,但是工作太多,只能說收穫滿滿,只好改天找機會再跟大家分享囉。

下次見!








2022年6月9日 星期四

Google IO 2022必須知道的十件事

今年Google IO 2022在AI 上必須知道的十件事

 

大家好我是Jerry老師,已經有一段時間因為公司忙碌沒發文,今天要跟大家分享的是關於今年Google在Google I/O的活動上分享最近透過AI方法做的十件事,特別在Google產品上都透過AI做了許多附加價值的事情,包含在Google翻譯、Google地圖、Youtube、Google Meet、Google Doc、Google搜尋、 Google助理、 Google手機、Google眼鏡等9種產品上,全文參考內容來自於這裡

 

今年的開頭讓Jerry老師覺得很棒,因為疫情、環境的關係,Google做了很多對社會有很大幫助的事情,像是「預測洪水的預警時間,發送超過2300萬則的災害警報給印度的民眾」,「透過翻譯技術協助烏克蘭人跟波蘭人能夠互相溝通」,「協助彙整全球Covid-19的照護資訊,有超過20億人次使用來找附近診所」,「透過Google手機發送數億條的空襲訊息讓烏克蘭人能夠避難」,這些都是對社會非常有幫助的事情。





接下來Jerry老師彙整了Google IO上10件必須要知道的事

 

1.     Google翻譯能夠自主學習新的語言



過去學習語言翻譯是採用雙語學習(Bilingual learning),像是英文轉西班牙文,他就要有對應的英文跟西班牙文,但是全世界語言很多,不一定每個語言轉換都有成對的訓練資料可以用。Google的團隊發表了一種做法叫單語學習(Monolingual learning)這種方法可以在Zero-Resource的情況下去學習新的語言翻譯,使用了Transformer-based的模型架構與半監督學習(Semi-supervised)的方式,學習了24種新語言的翻譯,包含阿薩姆語(Assamese)、林加拉語(lingala)、米佐语(Mizo)等。

 

細節請參閱文章


 


 

 

2.     Google Map建立最佳環保路徑

 



Google也透過機器學習的技術,提出了eco-friendly的概念,自動生成最佳的環保路徑提供給使用者使用。


細節請參閱文章


 

 

3.     Youtube能夠提供自動章節分段功能


能夠自動透過機器學習的方式去分析影片中的內容,進行自動分段的工作,這個技術解決了影片過長,但是使用者想分段去觀賞的問題,同時也可以提升搜尋的效率與結果。

 

 

4.     Google Meet自動加亮


在Google Meet上 也透過機器學習的方式去做了畫面加亮、去背、增強背景等功能


5.     Google Doc 自動摘要功能

這是一個很特別的機器學習技術,在影片中可以看到包含了自然語言理解(NLU)、資訊壓縮(IC)、自然語言生成(NLG)等技術,可以讓Google文件能夠有自動摘要的功能,方便使用者能夠先閱讀摘要掌握文本資訊。當然主要先從英文的會議記錄開始,但是可以想得到未來大量的文本閱讀上,在Google文件上面可以變得非常方便。 

 

6.     Google搜尋可以用照片作為搜尋關鍵字



混合搜尋(Multi search)是一個重要的技術,突破了過去搜尋只能用文字處理,過去我們曾用過以圖搜尋、以文搜圖的方式去獲取資訊,但是今年Google搜尋將會提供用圖+文字的混合搜尋的方式,可以把圖片當作文字的一部分,搭配文字進行搜尋。

 

 

7.     Google助理可以透過擬人化的方式喚醒與互動



Google助理變得更擬人化了,過去我們使用音箱上面會常常會不小心喚醒音箱服務,但是現在音箱多了視覺辨識功能,我們可以用「Look and Talk」的功能,用看然後再說話的方式,喚醒音箱,想像就是對人講話的方式來做互動。

 

詳細請參閱影片


 

 

8.     更強大的自然語言理解模型PaLM


去年Google才出了LaMDA,今年又出了一個PaLM,事實上Google希望能夠打造出跨語言的自然語言理解模型,這個PaLM能夠處理的自然語言理解任務又更多了,Jerry老師將會再另外找時間去做比較深度的分享,基本上應該會出現在Google Devfest的活動上,敬請期待!


 

9.     Google手機自動檢測車禍、自動撥打緊急電話


在影片中介紹不少Google手機、手錶應用,讓我印象深刻的是自動檢測車禍、自動撥打電話功能,請參閱影片來感受一下這個技術對於人們有多大的幫助

 

詳細請參閱影片


 

 

10.  Google眼鏡與翻譯的結合



 

最後是Google測試中的產品,目標也是在希望能夠讓人與人溝通能夠更加便利,透過這個Google眼鏡,能夠做快速翻譯的動作,透過分析雙方的聲音,能夠直接在眼鏡上用自己習慣的語言做互動,對於語言不通的兩個人,可以做有效率的溝通。


詳細請參閱影片


 


以上做簡單分享,供大家參考!