Một bước huấn luyện hồi quy logistic
Trung bìnhAIhồi quy logisticgradient descent4 test · 12 giây · sai số 1e-5
Hồi quy logistic dự đoán xác suất p = σ(Xw + b). Với hàm mất mát binary cross-entropy trung bình, gradient rất gọn:
- ∂L/∂w = (1/n) Xᵀ(p − y)
- ∂L/∂b = (1/n) Σ (p − y)
Thực hiện một bước cập nhật với tốc độ học lr và trả về [w₁, …, w_d, b] mới.
Viết hàm
logistic_step(X, y, w, b, lr)Tham số
X: ma trận (n, d)y: mảng 0/1 (n,)w: mảng (d,)b: số thựclr: tốc độ học
Trả về
Mảng (d + 1,): trọng số mới rồi tới b mới.
Ví dụ
Tham số
X = [[1],[-1]] y = [1,0] w = [0] b = 0 lr = 1
Kết quả
[0.5,0.0]
Tham số
X = [[1,2]] y = [0] w = [0.5,-0.5] b = 0.1 lr = 0.5
Kết quả
[0.29934383,-0.90131234,-0.10065617]
Bài tiếp theo: Phân cụm K-means →
Python · NumPy
Bấm “Chạy thử” để gọi logistic_step() với 2 ví dụ trong đề và so sánh kết quả. Dùng print() thoải mái để gỡ lỗi.