Một bước huấn luyện hồi quy logistic

Trung bình

AIhồi quy logisticgradient descent4 test · 12 giây · sai số 1e-5

Hồi quy logistic dự đoán xác suất p = σ(Xw + b). Với hàm mất mát binary cross-entropy trung bình, gradient rất gọn:

  • ∂L/∂w = (1/n) Xᵀ(p − y)
  • ∂L/∂b = (1/n) Σ (p − y)

Thực hiện một bước cập nhật với tốc độ học lr và trả về [w₁, …, w_d, b] mới.

Viết hàm

logistic_step(X, y, w, b, lr)

Tham số

  • X: ma trận (n, d)
  • y: mảng 0/1 (n,)
  • w: mảng (d,)
  • b: số thực
  • lr: tốc độ học

Trả về

Mảng (d + 1,): trọng số mới rồi tới b mới.

Ví dụ

Tham số

X = [[1],[-1]]
y = [1,0]
w = [0]
b = 0
lr = 1

Kết quả

[0.5,0.0]

Tham số

X = [[1,2]]
y = [0]
w = [0.5,-0.5]
b = 0.1
lr = 0.5

Kết quả

[0.29934383,-0.90131234,-0.10065617]

Bài tiếp theo: Phân cụm K-means →

Python · NumPy

Bấm “Chạy thử” để gọi logistic_step() với 2 ví dụ trong đề và so sánh kết quả. Dùng print() thoải mái để gỡ lỗi.