tensorflow基礎

import tensorflow as tf
matrix1=tf.constant([[3,3]])
matrix2=tf.constant([[2],
                    [2]])
product=tf.matmul(matrix1,matrix2)

with tf.Session() as sess:#打開Session以sess命名，不用管關不關Session,運行完with裏的語句自動關Session
    result2=sess.run(product)
    print("行乘以列:",result2)

輸出：
行乘以列: [[12]]

#定義變量
import tensorflow as tf

state=tf.Variable(0,name='counter')#Variable(初始值,name='變量名子')
print(state.name)#打印出它的名字

one=tf.constant(1)

new_value=tf.add(state,one)#輸出爲Tensor("Add_4:0", shape=(), dtype=int32)可見new_value只是一個表明，
                            #並非真正的值，更像是表明這裏的add這個運算過程，
                                                        #其實真正的值實在變量state中。
update=tf.assign(state,new_value)#將new_value加載到state

init=tf.global_variables_initializer()#激活全部變量

with tf.Session() as sess:
    sess.run(init)
    for _ in range(3):#三次循環
        sess.run(update)

        print(sess.run(state))#必需要用sess這個指針去run一下

輸出：
counter_7:0
1
2
3

什麼是placeholder？

在這裏用了placeholder()，那麼就要與feed_dict傳如至關對應的數據，feed_dict是python中 字典的形式。

import tensorflow as tf

input1=tf.placeholder(tf.float32)
input2=tf.placeholder(tf.float32)

output=tf.multiply(input1,input2)

with tf.Session() as sess:
  print(sess.run(output,feed_dict={input1:[7.],input2:[8.0]}))##feed_dict與placeholder相對應

輸出：
[56.]
什麼是激勵函數？

激勵函數強行將線性結果給「掰彎」。你也能夠定義本身的激勵函數，但激勵函數必須可微分的， 由於在偏差反向傳播只有可微的函數才能將偏差傳遞回去。。 在隱藏層較少時激勵函數均可以嘗試，但多層時激勵函數選擇不當就涉及到梯度爆炸和梯度消失問題了。。

#定義激勵函數 並 定義一個添加神經層函數

import tensorflow as tf 
import numpy as np

def add_layer(inputs,in_size,out_size,activation_function):
  Weights=tf.Variable(tf.random_normal([in_size,out_size]))#定義一個in_siz行，out_size列的矩陣。
                                                           #注：矩陣相乘輸出爲：前面項的行數，後面項的列數。
  biases=tf.Variable(tf.zeros([1,out_size])+0.1)#定義一個偏置
  Wx_plus_b=tf.matmul(inputs,Weights)+biases
  if activation_function is None:
    outputs=Wx_plus_b
  else:
    outputs=activation_function(Wx_plus_b)
  return outputs

x_data=np.linspace(-1,1,300)[:,np.newaxis]##這一行中的[:,np.newxis]是將數據在行上增長n多行，列數爲1
noise=np.random.normal(0,0.05,x_data.shape)
y_data=np.square(x_data)-0.5+noise

xs=tf.placeholder(tf.float32,[None,1])#數據爲float32形式
ys=tf.placeholder(tf.float32,[None,1])

l1=add_layer(xs,1,10,activation_function=tf.nn.relu)#用placeholder中傳來的值
prediction=add_layer(l1,10,1,activation_function=None)

loss=tf.reduce_mean(tf.reduce_sum(tf.square(ys-prediction),reduction_indices=[1]))

train_step=tf.train.GradientDescentOptimizer(0.1).minimize(loss)

init=tf.initialize_all_variables()

sess=tf.Session()
sess.run(init)

for i in range(1000):
  sess.run(train_step,feed_dict={xs:x_data,ys:y_data})
  if i%100==0:
    print("第%d次："%(i),sess.run(loss,feed_dict={xs:x_data,ys:y_data}))

輸出：
第0次： 0.552953
第100次： 0.0048867096
第200次： 0.004147886
第300次： 0.0036950905
第400次： 0.0032849575
第500次： 0.0030228847
第600次： 0.0029233024
第700次： 0.002866037
第800次： 0.0028031832
第900次： 0.0027658343
x_data=np.linspace(-1,1,300)[:,np.newaxis] 什麼意思？

numpy.linspace使用詳解：numpy.linspace(start, stop, num=50, endpoint=True, retstep=False, dtype=None)

在指定的間隔內返回均勻間隔的數字。
參數：
start：起始點；stop：結束；num：個數（默認50）；endpoint：若是是真，則必定包括stop，若是爲False，必定不會有stop； 等

Returns:
samples : ndarray