Lan truyền xuôi mạng nơ-ron 2 lớp
DễAImạng nơ-ron4 test · 12 giây · sai số 1e-5
Tính đầu ra của mạng nơ-ron 2 lớp (MLP):
h = ReLU(x @ W1 + b1)
out = h @ W2 + b2
Viết hàm
mlp_forward(x, W1, b1, W2, b2)Tham số
x: (n, d)W1: (d, h)b1: (h,)W2: (h, k)b2: (k,)
Trả về
Ma trận (n, k).
Ví dụ
Tham số
x = [[1,-1]] W1 = [[1,0],[0,1]] b1 = [0,0] W2 = [[2],[3]] b2 = [0.5]
Kết quả
[[2.5]]
h = ReLU([1, −1]) = [1, 0] → out = 2.5
Tham số
x = [[0,0,0],[0,0,0]] W1 = [[-1.8425,-1.474,-1.1153,-0.4004],[-2.1872,2.5074,-1.6984,1.8845],[-1.449,0.7819,-0.6329,-0.3238]] b1 = [1,-1,2,0] W2 = [[0.5169,-0.4173],[1.0261,-0.2797],[0.9455,1.7135],[2.1318,0.4514]] b2 = [0,0]
Kết quả
[[2.4079,3.0097],[2.4079,3.0097]]
Bài tiếp theo: Batch Normalization (lúc huấn luyện) →
Python · NumPy
Bấm “Chạy thử” để gọi mlp_forward() với 2 ví dụ trong đề và so sánh kết quả. Dùng print() thoải mái để gỡ lỗi.