斯坦福年初剛教完機(jī)器人炒菜，現(xiàn)在又教機(jī)器人系鞋帶！

他們還發(fā)布了全球首個(gè)機(jī)器人自主系鞋帶演示視頻：

與之前的炒菜版1.0相比，這個(gè)版本的它可以執(zhí)行更加輕巧、復(fù)雜的任務(wù)。

評(píng)論區(qū)的網(wǎng)友也是一片夸夸：

網(wǎng)友一：小手怪巧的，我系鞋帶都沒他系的好！

網(wǎng)友二：OMG！是個(gè)好東西！量產(chǎn)！

網(wǎng)友三：可愛捏！它甚至?xí)蚝Y(jié)！

小手怪巧的

除了系鞋帶，視頻中的Aloha 2機(jī)器人還會(huì)掛衣服、擰齒輪、收拾廚房，甚至是給“同事”換不同用途的配件。

咱們一起來(lái)看一下它的表現(xiàn)~

先是掛衣服。演示視頻中，Aloha 2先是乖乖的把衣服擺好，然后一氣呵成地就把衣服套在了衣架上（它甚至知道抵一下防止衣服掉落）。

數(shù)據(jù)庫(kù)中的沒有的衣服類型也可以掛。

在擰齒輪的測(cè)試中，它的表現(xiàn)也不錯(cuò)。成功地把三個(gè)塑料齒輪插進(jìn)了一個(gè)帶摩擦力的插座，完美咬合。

“收拾廚房”的環(huán)節(jié)：Aloha 2乖乖地把桌面散落的餐具規(guī)整到一起，擺放整齊。

到了給“同事”換配件的時(shí)候，也是一氣呵成。先摘下舊的，再拿起新的對(duì)準(zhǔn)后安上！

怎么學(xué)會(huì)的

為了訓(xùn)練Aloha 2機(jī)器人，研究團(tuán)隊(duì)使用擴(kuò)散策略進(jìn)行大規(guī)模訓(xùn)練，共在5個(gè)任務(wù)中收集2.6萬(wàn)個(gè)示范數(shù)據(jù)。

值得一提的是，他們的訓(xùn)練僅僅是基于模仿學(xué)習(xí)的方法，并不涉及強(qiáng)化學(xué)習(xí)。

而Aloha 2機(jī)器人的神經(jīng)網(wǎng)絡(luò)架構(gòu)則是參考了ACT模型，沒有用到條件VAE編碼器（變分自動(dòng)編碼器）。

他們具體是這么做的：

研究人員給嵌入加了個(gè)位置嵌入，然后喂了一個(gè)8500萬(wàn)的Transformer編碼器，之后用雙向注意力進(jìn)行解碼，就得到了觀察結(jié)果的潛在嵌入。

這些潛在的東西再傳給一個(gè)5500萬(wàn)參數(shù)且?guī)щp向注意力的Transformer編碼器。

解碼器的輸入是個(gè)50x14的張量，就是一個(gè)帶位置信息的噪聲動(dòng)作塊。這些嵌入跟觀察編碼器的潛在嵌入和時(shí)間步（用獨(dú)熱向量表示）進(jìn)行交叉注意力。

解碼器最后輸出一個(gè)50x512的維度，然后用線性層映射成50x14，這就是對(duì)接下來(lái)50個(gè)動(dòng)作的預(yù)測(cè)噪聲。

基礎(chǔ)模型總共有2.17億個(gè)可學(xué)習(xí)的參數(shù)。小模型的話，研究人員用1700萬(wàn)的編碼器和3700萬(wàn)的解碼器，總共1.5億參數(shù)。

訓(xùn)練時(shí)，研究人員基于JAX框架，在64個(gè)TPUv5e上并行訓(xùn)練，批量大小256，總共進(jìn)行了200萬(wàn)步的訓(xùn)練。

并且使用帶權(quán)重衰減的Adam優(yōu)化器，權(quán)重衰減是0.001，線性學(xué)習(xí)率預(yù)熱5000步，之后保持恒定速率為1e-4

最終結(jié)果如下：

研究人員對(duì)最終的結(jié)果很滿意，發(fā)文感嘆：

實(shí)驗(yàn)的總體成功率很高！模仿學(xué)習(xí)可能是實(shí)現(xiàn)99%成功率的有效途徑！

One more thing

Aloha 2的研究團(tuán)隊(duì)主要由DeepMind和斯坦福研究小組組成。

Aloha 2是對(duì)原始Aloha系統(tǒng)的增強(qiáng)版本，為了更加支持雙手的遠(yuǎn)程操作。

與之前的版本相比Aloha 2在硬件方面進(jìn)行了多項(xiàng)改進(jìn)，使其能夠執(zhí)行更復(fù)雜和細(xì)致的操作任務(wù)，

目前研究團(tuán)隊(duì)已經(jīng)開源了Aloha 2的所有硬件設(shè)計(jì)，并提供詳細(xì)的教程和模擬模型，以便于研究人員和開發(fā)者進(jìn)行大規(guī)模的雙手操作研究。

論文地址：https://openreview.net/pdf?id=gvdXE7ikHI
項(xiàng)目地址：https://aloha-unleashed.github.io/