svm
支持向量机(SVM)分类预测 —— 基于 sklearn 实现,智能判断是否需要高斯核,支持二分类与多分类。 当用户提到"SVM"、"支持向量机"、"svm"、"Support Vector Machine"、 "帮我用SVM分类"、"SVM预测"、"用支持向量机"、"高斯核"、"核函数分类"、 "最大间隔分类器"、"支持向量"等类似场景时触发。 适用于任何"给一堆 x,y 分类标签,想用 SVM 预测新样本类别"的需求。 不要手动写代码——必须调用此技能来统一处理。
muralidharsoth-tech · 已有静态检查记录
安装与使用
运行命令前先阅读来源与依赖说明。复制命令不会自动安装或执行。
npx skills add muralidharsoth-tech/andrew-ng-ml-claude-skills --skill svm技能说明
name: svm description: | 支持向量机(SVM)分类预测 —— 基于 sklearn 实现,智能判断是否需要高斯核,支持二分类与多分类。 当用户提到"SVM"、"支持向量机"、"svm"、"Support Vector Machine"、 "帮我用SVM分类"、"SVM预测"、"用支持向量机"、"高斯核"、"核函数分类"、 "最大间隔分类器"、"支持向量"等类似场景时触发。 适用于任何"给一堆 x,y 分类标签,想用 SVM 预测新样本类别"的需求。 不要手动写代码——必须调用此技能来统一处理。
支持向量机(SVM)分类预测
概述
此技能基于 sklearn 实现 SVM 分类器,核心特点:
| 特性 | 说明 |
|---|---|
| 🔍 自动核函数判断 | 先训练线性核探针 → 准确率低则建议升级高斯核 |
| ⚙️ 智能参数推荐 | 根据数据特征自动推荐 C 和 gamma,每次推荐都征求确认 |
| 📊 支持向量可视化 | 在决策边界图中高亮标注支持向量,直观展示"谁在决定边界" |
| 🎯 二分类 + 多分类 | sklearn SVC 自动 One-vs-One 处理多分类 |
核心决策逻辑
用户提供数据
│
▼
Step 3: 训练线性核探针 → 看准确率
│
├── 准确率 ≥ 阈值(默认 85%)
│ └── 推荐线性核 → 跳过 gamma 选择
│
└── 准确率 < 阈值
└── 建议高斯核(RBF) → 进入 gamma 推荐
│
▼
Step 4: 推荐 C 值 → 询问确认
Step 5: 推荐 gamma → 询问确认
│
▼
Step 7: 读取 references/gaussian-kernel-svm.md 生成代码
交互流程
严格按以下 9 步执行,不要跳过任何一步。
Step 1:收集数据
向用户提问:
📊 请提供你的训练数据
- 特征(X):每个样本有几个特征?每个特征叫什么名字、有什么单位?
- 例如:"2 个特征——保温厚度(cm) 和 窗墙比(无单位)"
- 标签(y):要分几类?每类叫什么名字?
- 例如:"2 类——节能 和 不节能"
- 数据:请把你的训练样本贴过来(任意格式,我来解析)
- 例如:
保温厚度 3, 窗墙比 0.20 → 不节能 保温厚度 8, 窗墙比 0.40 → 节能 ...- 预测主题:给这个任务起个英文标题(用于图表显示)
从用户回复中提取并确认以下变量:
| 变量 | 含义 | 示例 |
|---|---|---|
n_features | 特征数量 | 2 |
x_names | 特征名列表 | ["保温厚度", "窗墙比"] |
x_units | 特征单位列表 | ["cm", ""] |
X_raw | 特征矩阵(list of lists) | [[3, 0.20], [8, 0.40], ...] |
y_raw | 原始标签列表 | ["不节能", "节能", "不节能", ...] |
title_topic | 英文预测主题 | "Building Energy Efficiency" |
字符串标签自动编码: 检测到字符串标签时,自动编码为 0, 1, 2... 并打印映射表确认:
检测到标签 {原始值},已自动编码为:
- 0 → {类别0名称}
- 1 → {类别1名称}
是否正确?(直接回复"可以"确认)
数据校验(发现问题时立即警告):
- 最少
n_features + 2条样本 → 不满足则拒绝继续 - 二分类每类至少 2 个样本 → 不满足则拒绝继续
m < 5 × n_features→ ⚠️ 提醒数据偏少,SVM 可能过拟合n_features / m > 3→ 标记p_gt_n = True,这是 SVM 优势场景
Step 2:判断分类类型
K = len(set(y_raw))
检测到 y 有 {K} 个类别({类别列表}),这是**{二分类 / 多分类}**问题。
- K = 2 →
is_binary = True - K > 2 →
is_binary = False,告知用户:SVM 将使用 sklearn SVC 的 One-vs-One 策略,共训练 {K×(K-1)/2} 个二分类器。
Step 3:核函数判断(线性优先策略)
这是本技能的核心差异化步骤。生成一个轻量探针脚本并运行,根据实际训练结果做判断。
3.1 确定自适应阈值
根据数据情况选择判断阈值:
| 场景 | 阈值 | 原因 |
|---|---|---|
| 默认 | 85% | 通用标准 |
| 用户明确要求高准确率 | 90% | 严格标准 |
| 多分类 K > 5 | 70% | 多类天然更难 |
| 数据量 m < 20 | 85% | 小数据该阈值防止过早换核 |
| p >> n(特征数/样本数 > 3) | 80% | SVM 经典优势场景,线性核通常够用 |
3.2 生成探针脚本
生成 svm_probe_{YYYYMMDD}_{HHMMSS}.py,内容精简(只含数据加载 + 标准化 + 线性 SVC 训练 + 输出准确率):
import numpy as np
from sklearn.svm import SVC
# 数据
X_raw = np.array({X_DATA})
y = np.array({Y_DATA}).ravel()
# z-score 标准化
X_mean = X_raw.mean(axis=0, keepdims=True)
X_std = X_raw.std(axis=0, keepdims=True)
X = (X_raw - X_mean) / X_std
# 线性核 SVC
svm_linear = SVC(kernel='linear', C=1.0, random_state=42)
svm_linear.fit(X, y)
train_acc = svm_linear.score(X, y)
print(f"ACCURACY: {train_acc:.4f}")
print(f"ACC_PCT: {train_acc*100:.1f}%")
print(f"N_SV: {len(svm_linear.support_vectors_)}")
print(f"N_SAMPLE: {len(y)}")
3.3 运行探针并解读
运行 python svm_probe_{timestamp}.py,解析输出获取 train_acc。
3.4 决策逻辑
train_acc ≥ 阈值?
├── 是 → 推荐线性核,use_gaussian = False
├── 阈值×0.8 ≤ train_acc < 阈值 → 建议高斯核,让用户决定
├── train_acc < 阈值×0.8 → 强烈建议高斯核,默认 use_gaussian = True
└── train_acc < 50% → ⚠️ 警告数据质量,但仍建议高斯核试试
3.5 告知用户结果
线性够用时:
🔍 线性可分性检测结果
- 线性核训练准确率:{acc_pct}%
- 判断:数据大致线性可分 ✅
- 建议:使用线性核(简单、快速、可解释、过拟合风险低)
是否使用线性核继续?(直接回复"可以",或回复"换高斯核"尝试更复杂的非线性边界)
线性不够用时:
🔍 线性可分性检测结果
- 线性核训练准确率:{acc_pct}%(低于 {threshold}% 阈值)
- 判断:数据可能非线性可分 🔄
- 建议:升级到高斯核(RBF)——通过核函数将数据映射到高维空间,构建弯曲的决策边界
是否使用高斯核?(直接回复"可以"确认,或回复"用线性核"保持线性)
Step 4:推荐 C 值
C 控制"分类准确"和"边界宽度"的平衡:
- C 大 → 惩罚大 → 边界窄 → 尽力分对每个样本 → 过拟合风险
- C 小 → 惩罚小 → 边界宽 → 容忍误分类 → 欠拟合风险
C 值推荐查表(从上到下匹配,命中即停):
| 场景 | 条件 | 推荐 C | 原因 |
|---|---|---|---|
| 高维小样本 | 线性核 + p>>n | 0.5 | 高维需加强正则化防过拟合 |
| 小样本 | m < 30 | 5.0 | 数据少时需强拟合 |
| 数据充裕 | m ≥ 200 + 高斯核 | 0.5 | 数据多时保守正则化 |
| 高度非线性 | 线性探针准确率 < 60% | 10.0 | 数据复杂,需要更强拟合 |
| 用户提到噪声 | 用户描述数据含噪 | 0.1 | 宽边界容忍噪声 |
| 默认(线性核) | 以上都不匹配 + 线性核 | 1.0 | sklearn 默认,通用性好 |
| 默认(高斯核) | 以上都不匹配 + 高斯核 | 1.0 | 通用起点 |
⚙️ C 参数推荐
当前场景:{场景描述} 建议 C = {recommended_C}
- C = {recommended_C}:{一行解释}
- C 更大(如 {C×10}):边界更窄,更贴合训练数据(可能过拟合)
- C 更小(如 {C÷10}):边界更宽,允许一些误分类(可能欠拟合)
是否需要调整?(直接回复"可以"使用建议值,或输入新值如
C=5)
Step 5:(条件)推荐 gamma 值
仅在 use_gaussian = True 时执行此步骤,否则直接跳到 Step 6。
gamma 控制高斯核的"影响范围":
- gamma 大(σ 小)→ 钟形曲线窄 → 每个样本影响范围小 → 边界扭曲 → 过拟合风险
- gamma 小(σ 大)→ 钟形曲线宽 → 每个样本影响范围大 → 边界平滑 → 欠拟合风险
gamma 推荐查表:
| 场景 | 条件 | 推荐 gamma | 原因 |
|---|---|---|---|
| 默认 | 通用 | 'scale' | sklearn 默认,= 1/(n×Var(X)),自适应 |
| 小样本 | m < 30 | 'scale' | 默认即可,注意观察过拟合 |
| 高维 | n > 10 | 'scale' | 高维下默认值通常最优 |
| 极度非线性 | 线性探针准确率 < 50% | 'scale' | 先试默认值,效果差再调整 |
🎯 Gamma(核宽度)参数推荐
建议 gamma = 'scale'(sklearn 默认)
'scale'= 1 / ({n_features} × 特征方差),会根据你的数据自动调整。
- gamma 越小 → 边界越平滑(可能欠拟合)
- gamma 越大 → 边界越弯曲(可能过拟合)
'scale'在大多数情况下是最佳默认选择是否需要调整?(直接回复"可以"使用
'scale',或输入数值如gamma=0.5)
记录: gamma_value = 'scale' 或用户指定的数值(作为字符串,如 '0.5')
Step 6:确认预测目标
🔮 你要预测什么?
请提供新样本的特征值:
- {x1_name} = ?
- {x2_name} = ?
- ...
提取 predict_x 列表。
Step 7:生成代码
模板选择决策树
use_gaussian(Step 3 确定)?
│
├── 否(线性核)→ 使用本文件的代码模板
│ ├── n_features ≥ 2 → 「模板 A:线性核(2+ 特征)」
│ └── n_features = 1 → 「模板 B:线性核(1 特征)」
│
└── 是(高斯核)→ 读取 references/gaussian-kernel-svm.md 的代码模板
(该模板自动适配二分类/多分类、1 特征/2+ 特征)
占位符替换
无论使用哪个模板,统一进行以下占位符替换:
| 占位符 | 来源 | 说明 |
|---|---|---|
{X_DATA} | Step 1 | np.array 格式,如 [[3, 0.20], [8, 0.40]] |
{Y_DATA} | Step 1 | np. |