3、CUDA semanticsui
2、Broadcasting semantics 廣播機制spa
廣播機制要第一項對齊,第一項對齊後(相等)才能廣播,或者某個第一項爲1。code
但若是兩個size個數相等,則第一項必須相等,某一項爲1也不行。blog
1、Autograd mechanicsast
x=torch.randn(5,5) y=torch.randn(5,5) z=torch.randn((5,5),requires_grad=True) a=x+y a.requires_grad Out[135]: False b=a+z b.requires_grad Out[137]: True