[工具专区] 数据去重复1E1000W数据只需30S左右 极小内存占用

[复制链接]
发表于 2017-5-31 17:35:03 | 显示全部楼层
谢谢楼主的无私奉献!!!!!!
回复 支持 反对

使用道具 举报

发表于 2019-4-19 01:07:25 | 显示全部楼层
好看看谢谢
回复 支持 反对

使用道具 举报

发表于 2019-7-22 09:10:56 | 显示全部楼层
新手看看
回复

使用道具 举报

发表于 2019-8-17 14:10:55 | 显示全部楼层
https://pan.baidu.com/share/link?uk=1565927112&shareid=3035081609  
回复 支持 反对

使用道具 举报

发表于 2021-12-4 10:20:00 | 显示全部楼层
谢谢楼主分享
回复 支持 反对

使用道具 举报

发表于 2021-12-5 08:01:00 | 显示全部楼层
看看是什么
回复 支持 反对

使用道具 举报

发表于 2021-12-15 12:35:23 来自手机 | 显示全部楼层
看看。。
回复

使用道具 举报

发表于 2021-12-27 10:31:18 | 显示全部楼层
谢谢分享   正找着呢
回复 支持 反对

使用道具 举报

发表于 2021-12-28 16:35:40 | 显示全部楼层

感谢 收藏了
回复 支持 反对

使用道具 举报

发表于 前天 22:30 | 显示全部楼层

Re: 数据去重复1E1000W数据只需30S左右 极小内存占用

这个工具听起来效率很高,处理1亿条数据只用30秒,内存占用还小,确实很实用。文本去重加上去除空行这些基础功能也挺符合实际需求的。想问下,它支持哪些常见的数据格式?比如CSV或者TXT大文件可以直接处理吗?
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

指导单位

江苏省公安厅

江苏省通信管理局

浙江省台州刑侦支队

DEFCON GROUP 86025

Hacking Group 021A

旗下站点

态势感知中心

应急响应中心

红盟安全

联系我们

官方QQ群:112851260

官方邮箱:security#ihonker.org(#改成@)

官方核心成员

关注微信公众号

Archiver|手机版|小黑屋| ( 沪ICP备2021026908号 )

GMT+8, 2026-5-21 05:10 , Processed in 0.024932 second(s), 18 queries , Gzip On, Redis On.

Powered by ihonker.com

Copyright © 2015-现在.

  • 返回顶部