博客
关于我
KNN —— 基本介绍与简要实现
阅读量:347 次
发布时间:2019-03-04

本文共 522 字,大约阅读时间需要 1 分钟。

KNN算法

介绍

KNN(K-Nearest Neighbors)是一种经典的分类算法,其基本思想是通过找到某个样本的K个最近邻来预测其类别。这种方法在数据局部进行分类,属于局部方法。

K值的选择至关重要,通常K取奇数以避免平票。例如,在二分类问题中,K常设为1、3、5等。算法步骤包括计算测试点与所有训练点的距离、排序后选择前K个最近点,并根据这些点的类别分布归类测试点。

实现步骤

  • 计算距离:对于每个测试点,计算其到所有训练点的欧氏距离。
  • 排序:对所有距离按从小到大排序,找出最近的K个点。
  • 统计类别:统计前K个最近点中各类别的数量,选择数量最多的类别归类测试点。
  • 案例分析

    以鸢尾花数据集为例,数据包含四个特征:花萼长度、花萼宽度、花瓣长度、花瓣宽度。类别分为山鸢尾花(0)、变色鸢尾花(1)、维吉尼亚鸢尾花(2)。此处采用K=5进行分类。

    通过上述算法,实现分类任务。代码使用sklearn中的鸢尾花数据集,切分训练集和测试集,应用KNN算法进行预测。最终结果表现在分类报告中,展示准确率、召回率及F1值等评估指标。

    该方法具有高效性和简单性,但适用场景主要限于小规模数据集。对于大规模数据集,可能需要降维或使用其他优化技术以提高性能。

    转载地址:http://hehe.baihongyu.com/

    你可能感兴趣的文章
    plotloss记录
    查看>>
    Plotly (Python) 子图:填充构面和共享图例
    查看>>
    Plotly 中的行悬停文本
    查看>>
    Plotly 停用 x 轴排序
    查看>>
    Plotly 域变量解释(多图)
    查看>>
    Plotly 绘制表面 3D 未显示
    查看>>
    Plotly-Dash 存在未知问题并创建“加载依赖项时出错“;通过使用 Python-pandas.date_range
    查看>>
    Plotly-Dash:如何过滤具有多个数据框列的仪表板?
    查看>>
    Plotly:如何为 x 轴上的时间序列设置主要刻度线/网格线的值?
    查看>>
    Plotly:如何从 x 轴删除空日期?
    查看>>
    Plotly:如何从单条迹线制作堆积条形图?
    查看>>
    Plotly:如何以 Root 样式绘制直方图,仅显示直方图的轮廓?
    查看>>
    Plotly:如何使用 Plotly Express 组合散点图和线图?
    查看>>
    Plotly:如何使用 plotly.graph_objects 和 plotly.express 定义图形中的颜色?
    查看>>
    Plotly:如何使用 Python 对绘图对象条形图进行颜色编码?
    查看>>
    Plotly:如何使用 updatemenus 更新一个特定的跟踪?
    查看>>
    Plotly:如何使用长格式或宽格式的 pandas 数据框制作线图?
    查看>>
    Plotly:如何向烛台图添加交易量
    查看>>
    Plotly:如何在 plotly express 中找到趋势线的系数?
    查看>>
    Plotly:如何在桑基图中设置节点位置?
    查看>>