Python实现李航《统计学习方法》感知机算法详解

栗子

发布时间：2026-10-13| 5人浏览过

原创

本文通过Python代码演示李航《统计学习方法》中感知机算法的具体实现。以正例(3,3)、(4,3)和负例(1,1)为例，展示数据可视化及模型训练过程。代码使用NumPy进行向量运算，通过迭代更新权重w和偏置b，最终绘制决策边界，帮助读者理解感知机工作原理。

本文分享了使用Python语言实现感知机算法的具体代码示例，供读者参考学习。

一、实现案例

本例源自李航所著《统计学习方法》第29页的例2.1。训练数据包含两个正例：x1=(3,3)和x2=(4,3)，以及一个负例：x3=(1,1)。

二、最终效果展示

三、代码实现部分

import numpy as np
import matplotlib.pyplot as plt
p_x = np.array([[3, 3], [4, 3], [1, 1]])
y = np.array([1, 1, -1])
plt.figure()
for i in range(len(p_x)):
 if y[i] == 1:
 plt.plot(p_x[i][0], p_x[i][1], 'ro')
 else:
 plt.plot(p_x[i][0], p_x[i][1], 'bo')
 
w = np.array([1, 0])
b = 0
delta = 1
 
for i in range(100):
 choice = -1
 for j in range(len(p_x)):
 if y[j] != np.sign(np.dot(w, p_x[0]) + b):
  choice = j
  break
 if choice == -1:
 break
 w = w + delta * y[choice]*p_x[choice]
 b = b + delta * y[choice]
 
line_x = [0, 10]
line_y = [0, 0]
 
for i in range(len(line_x)):
 line_y[i] = (-w[0] * line_x[i]- b)/w[1]
 
plt.plot(line_x, line_y)
plt.savefig("picture.png")

以上内容为本文的全部分享，希望能为读者的学习提供有益帮助，同时也感谢大家的支持。