- 浏览: 562786 次
- 性别:
- 来自: 济南
文章分类
- 全部博客 (270)
- Ask chenwq (10)
- JSF (2)
- ExtJS (5)
- Life (19)
- jQuery (5)
- ASP (7)
- JavaScript (5)
- SQL Server (1)
- MySQL (4)
- En (1)
- development tools (14)
- Data mining related (35)
- Hadoop (33)
- Oracle (13)
- To Do (2)
- SSO (2)
- work/study diary (10)
- SOA (6)
- Ubuntu (7)
- J2SE (18)
- NetWorks (1)
- Struts2 (2)
- algorithm (9)
- funny (1)
- BMP (1)
- Paper Reading (2)
- MapReduce (23)
- Weka (3)
- web design (1)
- Data visualisation&R (1)
- Mahout (7)
- Social Recommendation (1)
- statistical methods (1)
- Git&GitHub (1)
- Python (1)
- Linux (1)
最新评论
-
brandNewUser:
楼主你好,问个问题,为什么我写的如下的:JobConf pha ...
Hadoop ChainMap -
Molisa:
Molisa 写道mapred.min.split.size指 ...
Hadoop MapReduce Job性能调优——修改Map和Reduce个数 -
Molisa:
mapred.min.split.size指的是block数, ...
Hadoop MapReduce Job性能调优——修改Map和Reduce个数 -
heyongcs:
请问导入之后,那些错误怎么解决?
Eclipse导入Mahout -
a420144030:
看了你的文章深受启发,想请教你几个问题我的数据都放到hbase ...
Mahout clustering Canopy+K-means 源码分析
算法:基于密度的局部离群点检测(lof算法)
输入:样本集合D,正整数K(用于计算第K距离)
输出:各样本点的局部离群点因子
过程:
- 计算每个对象与其他对象的欧几里得距离
- 对欧几里得距离进行排序,计算第k距离以及第K领域
- 计算每个对象的可达密度
- 计算每个对象的局部离群点因子
- 对每个点的局部离群点因子进行排序,输出。
Node.java:
import java.util.ArrayList; import java.util.List; public class Node { private String nodeName; // 样本点名 private double[] dimensioin; // 样本点的维度 private double kDistance; // k-距离 private List<Node> kNeighbor = new ArrayList<Node>(); // k-邻域 private double distance; // 到给定点的欧几里得距离 private double reachDensity; // 可达密度 private double reachDis; // 可达距离 private double lof; // 局部离群因子 public Node() { } public Node(String nodeName, double[] dimensioin) { this.nodeName = nodeName; this.dimensioin = dimensioin; } public String getNodeName() { return nodeName; } public void setNodeName(String nodeName) { this.nodeName = nodeName; } public double[] getDimensioin() { return dimensioin; } public void setDimensioin(double[] dimensioin) { this.dimensioin = dimensioin; } public double getkDistance() { return kDistance; } public void setkDistance(double kDistance) { this.kDistance = kDistance; } public List<Node> getkNeighbor() { return kNeighbor; } public void setkNeighbor(List<Node> kNeighbor) { this.kNeighbor = kNeighbor; } public double getDistance() { return distance; } public void setDistance(double distance) { this.distance = distance; } public double getReachDensity() { return reachDensity; } public void setReachDensity(double reachDensity) { this.reachDensity = reachDensity; } public double getReachDis() { return reachDis; } public void setReachDis(double reachDis) { this.reachDis = reachDis; } public double getLof() { return lof; } public void setLof(double lof) { this.lof = lof; } }
OutlierNodeDetect.java:
import java.util.Collections; import java.util.Comparator; import java.util.List; public class OutlierNodeDetect { private static int MIN_PTS = 5; // 1.找到给定点与其他点的欧几里得距离 // 2.对欧几里得距离进行排序,找到前5位的点,并同时记下k距离 // 3.计算每个点的可达密度 // 4.计算每个点的局部离群点因子 // 5.对每个点的局部离群点因子进行排序,输出。 public List<Node> getOutlierNode(List<Node> allNodes) { List<Node> kdAndKnList = getKDAndKN(allNodes); calReachDis(kdAndKnList); calReachDensity(kdAndKnList); calLof(kdAndKnList); Collections.sort(kdAndKnList, new LofComparator()); return kdAndKnList; } private void calLof(List<Node> kdAndKnList) { for (Node node : kdAndKnList) { List<Node> tempNodes = node.getkNeighbor(); double sum = 0.0; for (Node tempNode : tempNodes) { double rd = getRD(tempNode.getNodeName(), kdAndKnList); sum = rd / node.getReachDensity() + sum; } sum = sum / (double) MIN_PTS; node.setLof(sum); } } private void calReachDensity(List<Node> kdAndKnList) { for (Node node : kdAndKnList) { List<Node> tempNodes = node.getkNeighbor(); double sum = 0.0; double rd = 0.0; for (Node tempNode : tempNodes) { sum = tempNode.getReachDis() + sum; } rd = (double) MIN_PTS / sum; node.setReachDensity(rd); } } private void calReachDis(List<Node> kdAndKnList) { for (Node node : kdAndKnList) { List<Node> tempNodes = node.getkNeighbor(); for (Node tempNode : tempNodes) { double kDis = getKDis(tempNode.getNodeName(), kdAndKnList); if (kDis < tempNode.getDistance()) { tempNode.setReachDis(tempNode.getDistance()); } else { tempNode.setReachDis(kDis); } } } } private double getKDis(String nodeName, List<Node> nodeList) { double kDis = 0; for (Node node : nodeList) { if (nodeName.trim().equals(node.getNodeName().trim())) { kDis = node.getkDistance(); break; } } return kDis; } private double getRD(String nodeName, List<Node> nodeList) { double kDis = 0; for (Node node : nodeList) { if (nodeName.trim().equals(node.getNodeName().trim())) { kDis = node.getReachDensity(); break; } } return kDis; } private List<Node> getKDAndKN(List<Node> allNodes) { List<Node> kdAndKnList = new ArrayList<Node>(); for (int i = 0; i < allNodes.size(); i++) { List<Node> tempNodeList = new ArrayList<Node>(); Node nodeA = new Node(allNodes.get(i).getNodeName(), allNodes .get(i).getDimensioin()); for (int j = 0; j < allNodes.size(); j++) { Node nodeB = new Node(allNodes.get(j).getNodeName(), allNodes .get(j).getDimensioin()); double tempDis = getDis(nodeA, nodeB); nodeB.setDistance(tempDis); tempNodeList.add(nodeB); } // 对tempNodeList进行排序 Collections.sort(tempNodeList, new DistComparator()); for (int k = 1; k < MIN_PTS; k++) { nodeA.getkNeighbor().add(tempNodeList.get(k)); if (k == MIN_PTS - 1) { nodeA.setkDistance(tempNodeList.get(k).getDistance()); } } kdAndKnList.add(nodeA); } return kdAndKnList; } private double getDis(Node A, Node B) { double dis = 0.0; double[] dimA = A.getDimensioin(); double[] dimB = B.getDimensioin(); if (dimA.length == dimB.length) { for (int i = 0; i < dimA.length; i++) { double temp = Math.pow(dimA[i] - dimB[i], 2); dis = dis + temp; } dis = Math.pow(dis, 0.5); } return dis; } class DistComparator implements Comparator<Node> { public int compare(Node A, Node B) { return A.getDistance() - B.getDistance() < 0 ? -1 : 1; } } class LofComparator implements Comparator<Node> { public int compare(Node A, Node B) { return A.getLof() - B.getLof() < 0 ? -1 : 1; } } public static void main(String[] args) { ArrayList<Node> dpoints = new ArrayList<Node>(); double[] a = { 2, 3 }; double[] b = { 2, 4 }; double[] c = { 1, 4 }; double[] d = { 1, 3 }; double[] e = { 2, 2 }; double[] f = { 3, 2 }; double[] g = { 8, 7 }; double[] h = { 8, 6 }; double[] i = { 7, 7 }; double[] j = { 7, 6 }; double[] k = { 8, 5 }; double[] l = { 100, 2 };// 孤立点 double[] m = { 8, 20 }; double[] n = { 8, 19 }; double[] o = { 7, 18 }; double[] p = { 7, 17 }; double[] q = { 8, 21 }; dpoints.add(new Node("a", a)); dpoints.add(new Node("b", b)); dpoints.add(new Node("c", c)); dpoints.add(new Node("d", d)); dpoints.add(new Node("e", e)); dpoints.add(new Node("f", f)); dpoints.add(new Node("g", g)); dpoints.add(new Node("h", h)); dpoints.add(new Node("i", i)); dpoints.add(new Node("j", j)); dpoints.add(new Node("k", k)); dpoints.add(new Node("l", l)); dpoints.add(new Node("m", m)); dpoints.add(new Node("n", n)); dpoints.add(new Node("o", o)); dpoints.add(new Node("p", p)); dpoints.add(new Node("q", q)); OutlierNodeDetect lof = new OutlierNodeDetect(); List<Node> nodeList = lof.getOutlierNode(dpoints); for (Node node : nodeList) { System.out.println(node.getNodeName() + " " + node.getLof()); } } }
发表评论
-
EM算法小结
2012-07-20 12:16 3424描述 EM是一种基于模型的聚类算法,假设样本符合高斯混 ... -
研究生能力培养手册
2012-06-10 21:00 8681. 如果平时几乎没看过英文原文,读不懂怎么办? ... -
[转]中科院分词工具ICTCLAS Java JNI接口
2012-06-04 15:07 1859ICTCLAS,网址:http://www.ictcla ... -
正则表达式学习资源
2012-05-30 11:37 731不懂正则表达式,怎么好意思说是玩文本挖掘的? 下面 ... -
基于向量空间模型的文本聚类算法
2012-05-29 18:26 27241 文本聚类研究现状 Internet 已经发 ... -
再往前一步,学会更专业地看待问题,尝试去解决问题。
2012-05-22 14:11 939在科研工作中,有一个很基本的技能,就是对自己和别人的工 ... -
Bloom filter
2012-04-24 21:08 1185Bloom filter的优点: 大小固定,增加更多 ... -
[转]非均衡数据集的分类问题
2012-03-31 21:36 2963传统的机器学习分类 ... -
LDA(线性判别分析)&PCA(主成分分析)
2012-03-23 21:16 1442推荐解释得非常好的两篇博文 http://blog.c ... -
Porter Stemming
2012-02-29 10:57 899摘要: 在英语中,一个单词常常是另一个单词的“变种”,如:h ... -
Hadoop Browse the filesystem无法访问
2012-02-23 22:17 1094问题如题. 解决方法: 修改/windows/system ... -
数据挖掘数据集
2012-02-18 17:35 942收集数据挖掘过程中用到的数据集。欢迎补充! TREC ... -
分类器的动态选择
2012-02-18 17:15 1054XMU DM一师兄写的动态集成分类器的选择, 内容挺新颖的, ... -
book reading plan
2012-02-09 15:50 706Mining of Massive Datasets ... -
[转]学术论文的标准格式是什么?写论文有哪些小技巧
2012-02-08 21:45 951我有一篇谈研究生开题报告的文章,你可以参考下: ... -
Rapid-I, 一个JAVA的数据挖掘开源平台
2012-01-30 18:29 1013当前主要使用的weka3.6,Hadoop的MapR ... -
Weka分析结果参数解释
2012-01-17 17:20 4237Kappa Statistic 假设有两个相互独立的人分别将 ... -
一淘背后的数据野心
2012-01-05 23:11 1202摘要:马云你能 ... -
多标记(multi-label)学习和Mulan
2011-12-21 20:33 3026概念澄清: ... -
数据挖掘最基础.
2011-12-15 11:34 01. 过拟合和泛化性的联系和区别? 过拟合:为了 ...
相关推荐
《基于密度的局部离群点检测算法DLOF》 在数据挖掘领域,异常检测是至关重要的技术之一,它旨在找出与数据集大部分对象显著不同的异常或离群点。离群点分为全局离群点和局部离群点,而在许多实际应用中,局部离群点...
本文提出了一种新的基于密度的局部离群点检测算法NLGF,该算法可以提高离群点检测的精度,降低时间复杂度,实现有效的局部离群点检测。该算法的主要思想是在数据对象邻域查询过程中,尽可能地利用已知信息优化邻近...
《NLOF:一种新的基于密度的局部离群点检测算法》 离群点检测是数据挖掘中的一个重要领域,其目标是找出与正常数据模式显著不同的数据对象。传统的基于密度的局部离群点检测算法(Local Outlier Factor,LOF)在...
在本文中,作者刘亚梅和闫仁武结合传统局部离群点检测算法LOF(Local Outlier Factor)与Hadoop分布式计算框架,提出了基于密度聚类的分布式离群点检测算法。该算法通过引入MapReduce编程模型实现了并行化策略,显著...
4. **基于密度的方法**:这类方法认为离群点与其周围环境的密度差异较大,通过计算局部密度来进行离群点识别。常见的算法如局部离群因子(LOF),它通过估计数据对象的局部可达密度来衡量离群程度。近年来,基于核的...
在数据挖掘中,离群点检测方法可以分为多种类型,包括基于统计的方法、基于密度的方法、基于聚类的方法以及基于距离的方法。这里重点讨论的是基于距离的离群点检测。这种方法主要依赖于数据点与其最近邻居之间的...
针对NDOD(outlier detection algorithm based on neighborhood and density)算法在判断具有不同密度分布的聚类间过渡区域对象时存在的不足,以及为了降低算法时间复杂度,提出一种基于方形对称邻域的局部离群点检测...
离群点检测算法主要分为基于邻域的方法和基于统计的方法,其中常用的算法包括基于局部离群因子(SLOF)和基于局部离群因子(SLOM)的算法。 局部离群因子(SLOF)算法和局部离群因子(SLOM)算法都是用于检测空间数据中的...
局部离群点检测的关键在于识别那些在局部区域中密度显著低于周围对象的数据点。在图1所示的例子中,C1和C2是两个密度不同的簇,LOF算法可能会错误地标记位于簇边缘的正常对象p为离群点,因为它仅考虑k-近邻而不充分...
基于密度的方法通过引入对象邻域的概念,能够更有效地检测局部密度异常的对象,如DBSCAN和LOF(局部离群因子)等。 LOF算法是基于密度的离群点检测方法,它通过比较对象与其邻域对象的局部可达密度,来评估对象的...
根据不同的特性,离群点可以分为几种类型:全局离群点和局部离群点,前者在整个数据集中都显得异常,后者仅在特定局部区域中表现出异常;数值型离群点和分类型离群点,前者基于数值属性,后者基于非数值属性;一维...
### 计算机研究 - 基于近似密度构造的聚类分析与离群点检测算法研究 #### 一、研究背景与意义 在信息技术迅速发展的半个世纪中,计算机科学与技术的进步不仅极大地改变了人类的生活方式,还为科学研究和社会发展...
总结来说,LOF算法是一种基于密度的离群检测方法,通过比较数据点的局部密度来识别异常点,而MATLAB中的"LOF.m"函数则提供了便捷的工具来实现这一过程。在实际应用中,根据数据特性调整算法参数和阈值,可以更准确地...
DBSCAN则基于密度连接寻找离群点,能够发现任意形状的异常区域。 一旦检测到离群点,系统会立即触发告警机制,通知运维人员进行检查和维修。这不仅可以提前预警潜在的设备故障,减少因设备过热引发的停电事故,还能...
通过综合考虑多尺度邻域的信息,算法能够对样本的异常因子进行局部和全局的细化,实现对复杂数据集的离群检测。 离群数据挖掘的应用领域广泛,它在网络安全领域中用于网络入侵检测,可以识别异常的访问模式或攻击...
关键词“基于密度的离群点检测”指的是一种通过分析数据点的局部密度特性来识别离群点的方法。在本研究中,这种方法被融入到分布式算法的框架下,并通过网格划分和权重分配机制进行了优化。 关键词“分布式算法”...