机器学习核心算法解析

创作时间:

作者:

@小白创作中心

机器学习核心算法解析

引用

CSDN

https://blog.csdn.net/2401_89761379/article/details/145592520

机器学习是人工智能的核心技术之一，它通过从数据中学习模式并做出预测或决策。本文将深入解析机器学习的核心算法，包括监督学习、无监督学习和强化学习，并通过具体案例和代码示例帮助读者理解这些算法的实际应用。

1. 监督学习典型算法

监督学习是通过标注数据训练模型，使其能够对新数据进行预测。以下是几种典型的监督学习算法：

1.1 线性回归

线性回归用于预测连续值，通过拟合数据点的最佳直线来建立输入特征与输出目标之间的关系。

# 示例：使用Scikit-learn实现线性回归
from sklearn.linear_model import LinearRegression
import numpy as np

# 生成数据
X = np.array([[1], [2], [3], [4], [5]])
y = np.array([1, 3, 2, 3, 5])

# 训练模型
model = LinearRegression()
model.fit(X, y)

# 预测
print(f"预测结果：{model.predict([[6]])}")  # 输出：预测结果：[5.2]

1.2 支持向量机（SVM）

SVM通过寻找最佳超平面来实现分类任务，特别适合高维数据。

# 示例：使用SVM进行分类
from sklearn.svm import SVC
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split

# 加载数据
data = load_iris()
X_train, X_test, y_train, y_test = train_test_split(data.data, data.target, test_size=0.2)

# 训练模型
model = SVC(kernel='linear')
model.fit(X_train, y_train)

# 测试模型
accuracy = model.score(X_test, y_test)
print(f"模型准确率：{accuracy:.2f}")

1.3 决策树

决策树通过递归分割数据集构建树状结构，适用于分类和回归任务。

# 示例：使用决策树进行分类
from sklearn.tree import DecisionTreeClassifier

# 训练模型
model = DecisionTreeClassifier()
model.fit(X_train, y_train)

# 测试模型
accuracy = model.score(X_test, y_test)
print(f"模型准确率：{accuracy:.2f}")

2. 无监督学习应用场景

无监督学习用于未标注数据，目标是发现数据中的潜在结构或模式。

2.1 K-means聚类

K-means将数据划分为K个簇，每个簇的中心由簇内点的均值决定。

# 示例：使用K-means进行聚类
from sklearn.cluster import KMeans
import matplotlib.pyplot as plt

# 生成数据
X = np.array([[1, 2], [1, 4], [1, 0], [4, 2], [4, 4], [4, 0]])

# 训练模型
kmeans = KMeans(n_clusters=2)
kmeans.fit(X)

# 可视化结果
plt.scatter(X[:, 0], X[:, 1], c=kmeans.labels_)
plt.show()

2.2 主成分分析（PCA）

PCA通过降维技术减少数据特征数量，同时保留主要信息。

# 示例：使用PCA进行降维
from sklearn.decomposition import PCA

# 生成数据
X = np.array([[1, 2], [2, 3], [3, 4], [4, 5]])

# 训练模型
pca = PCA(n_components=1)
X_reduced = pca.fit_transform(X)
print(f"降维后的数据：\n{X_reduced}")

3. 强化学习基础

强化学习通过试错法优化决策策略，广泛应用于游戏AI和机器人控制。

3.1 Q-learning

Q-learning是一种经典的强化学习算法，通过更新Q值表来学习最优策略。

# 示例：Q-learning算法
import numpy as np

# 定义Q表
q_table = np.zeros((5, 5))  # 5个状态，5个动作

# 定义奖励矩阵
rewards = np.array([
    [0, -1, 0, -1, 100],
    [-1, 0, -1, 0, -1],
    [0, -1, 0, -1, 0],
    [-1, 0, -1, 0, -1],
    [0, -1, 0, -1, 100]
])

# Q-learning算法
def q_learning(q_table, rewards, episodes=1000, alpha=0.1, gamma=0.9):
    for _ in range(episodes):
        state = np.random.randint(0, 5)
        while state != 4:  # 目标状态
            action = np.argmax(q_table[state])
            next_state = np.random.choice(np.where(rewards[state] >= 0)[0])
            q_table[state, action] += alpha * (rewards[state, action] + gamma * np.max(q_table[next_state]) - q_table[state, action])
            state = next_state
    return q_table

# 运行算法
q_table = q_learning(q_table, rewards)
print("Q表：\n", q_table)