前往
大廳
主題

【2024日誌】 黃仁勳台大演講筆記

%%鼠 拒收病婿 | 2024-06-03 00:40:52 | 巴幣 4174 | 人氣 602

前言
有幸參加老師帶團去台科大聽校園直播趴,分享一下筆記 (滿多拼錯字,請見諒)。



從Perception 到Generation

以前AI大多用在detection , regression , classification...,皆是接收訊息後輸出答案。 但GPT的出現讓一切不同了,Generative AI會帶來一波革命。

在Perception 的時代可能會用filter來篩選資訊,現在有了Generative AI,我們tokenize everything,人類能學得(如語言、數學、物理...)都能轉成token,讓AI學習。 且token是scalable, repeatable的,讓AI模型更有彈性。


AI Factory化

  • 就像個AI warehouse,未來我們可以把"AI"當成商品一樣生產、銷售。
  • 現今的AI大多是將蒐集到的資料回答給用戶,未來Generative AI的普及將會讓大部分的回答都是Generated的,而非現有data。



AI in a box

  • 提出Nvidia Inference Microservice(NIM),讓模型的每個parameter都具有商業價值。 具體作法聽起來像是把AI商品包裝成SAAS(Software as a Service)或像是offices那樣的套裝軟體。不論是cuda, tensro RT , API, pertrained model,都能使用雲端計算,把服務內嵌在用戶的軟體中。
  • 多個不同專長的NIM形成expert team,用戶會先對team leader的NIM問問題,leader會跟其他NIM單元"討論"(反覆reasoning)以確保最終回饋給用戶的答案的品質。




Physics-based AI

在transformer架構出來之前,大多的研究都是針對Supervised learning,有了transformer之後,我們能大量學習弱結構的資料,train出更強大的模型。在未來可能更多是無監督學習、RL、Constractive learning...例如從synthetic data學習  (直接在虛擬或生成的資料上學習,等於解放收集data對ML的限制)。



Blackwell chip

硬體的東西聽不懂,總之就是有個又大又黑的酷炫GPU晶片。
軟體的重點在於提升Engine的可靠度與穩定度。


Physical AI

大多指機器人用的技術。
Nvidia提出Omniverse framework,能快速、真實的建構出虛擬環境,提供model訓練空間,達到Robotic warehouse。



心得

從電腦普及之後,商品內容不斷在更新,以前一開始賣的是光碟軟體,有了網路後開始賣套裝軟體,現在開始賣AI。 感覺自己卡在一個興盛卻尷尬的時代,很想跳進產業去一探秘辛,但又感嘆自己學得還不夠。







送禮物贊助創作者 !
1
留言

創作回應

樂小呈
我們演講完抽黃爸親筆簽名的 RTX 4080super ,然後就被抽到的人賣掉了 wwwwwwwwwwwwww
2024-06-03 20:29:40
%%鼠 拒收病婿
嗚嗚嗚嗚沒抽到
2024-06-04 11:11:57
御姐+蘿莉=雙飛
恩 很好完全看不懂ㄋ
2024-06-03 21:24:42
%%鼠 拒收病婿
沒關係,我也是
2024-06-04 11:12:08
M•三尾喵·噗噗·Anita
馬斯克都開始嘗試人機一體了QQ,以後感覺是AI跟生化人合力襲擊人類生存的年代..
2024-06-04 11:00:41
%%鼠 拒收病婿
人口本來就過剩ㄌ
2024-06-04 11:12:36
勸退姬n帶雪
感謝up分享♡
ps.硬體部分看不懂+1
說發佈會也難免吸引眼球

&結論說得是這句吧<AI Factory化就像個AI warehouse,未來我們可以把"AI"當成商品一樣生產、銷售。>
這個其實蠻有趣的,但軟體終究是內部,實用還得外殼硬體……

所以離普及可能還有一段距離,或人類還有一點時間?……讓我想到電視劇,大魔王為了找出勇者,反而促使勇者誕生……

&另外這句話總感覺話中有話……
<現今的AI大多是將蒐集到的資料回答給用戶,未來Generative AI的普及將會讓大部分的回答都是Generated的,而非現有data。>這不是等於說ai生成概不負責嗎?或者……“就是要”這個不負責?

尤其共x黨、智械危機的,都分不清到底是誰先說謊了?因為都能推給機械……
2024-06-04 22:37:29
%%鼠 拒收病婿
網路上很多人講話也沒在負責任的,相比之下,AI生成的內容至少是 AI的"專家群"之間互相討論出來的,反而更具備一定水準。
這讓我想起,有實驗表明AI醫生準確率比真人醫生高,只是大多人還是想要"有人負責",所以選擇看真人醫生。
2024-06-05 13:09:31
悠露向創作者進行贊助 ✦
感謝!
2024-06-04 23:45:04
%%鼠 拒收病婿
謝謝
2024-06-05 13:09:43
追蹤 創作集

作者相關創作

更多創作