搜索资源列表
aspseek
- ASPSeek是一个C++编写的互联网搜索引擎，并使用了STL库。它主要包括一个检索机器人，一个搜索守护程序,和一个搜索前端(CGI或者是Apache模块)。它大概可以检索几百万个URLs,来查找给定的短语和单词,并使用通配符，进行布尔搜索。搜索结果可以限定在给定的时间或站点，站点空间，并按照相关性或者时间进行排序（这里面使用了一些非常酷的技术）。ASPSeek可以应用于很多语言和编码中（甚至包括多字节语言如中文）。它为多个站点做了优化。(多线程检索，同步DNS查询, 按站点将结果分组, Web
hyperestraier-1.4.13
- 一个小型的分布式的搜索引擎，速度还快，并且内置了爬虫，能够处理CJK字符集（多字节字符），是个小型站内引擎的首选，能够运行在Unix/Linux平台
hyperestraier-1.4.13
- 1.Hyper Estraier是一个用C语言开发的全文检索引擎,他是由一位日本人开发的.工程注册在sourceforge.net(http://hyperestraier.sourceforge.net). 2.Hyper的特性: 高速度,高稳定性,高可扩展性…(这可都是有原因的,不是瞎吹) P2P架构(可译为端到端的,不是咱们下大片用的p2p) 自带Web Crawler 文档权重排序 良好的多字节支持(想一想，它是由日本人开发的….) 简单实用的A
spider2006
- 可配置：线程数、线程等待时间，连接超时时间，可爬取文件类型和优先级、下载目录等。 状态栏显示统计信息：排入队列URL数，已下载文件数，已下载总字节数，CPU使用率和可用内存等。 有偏好的爬虫：可针对爬取的资源类型设置不同的优先级。 健壮性：十几项URL正规化策略以排除冗余下载、爬虫陷阱避免策略的使用等、多种策略以解析相对路径等。 较好的性能：基于正则表达式的页面解析、适度加锁、维持HTTP连接等。 -C# spider.
NWebCrawler
- 网络爬虫, * 可配置：线程数、线程等待时间，连接超时时间，可爬取文件类型和优先级、下载目录等。 * 状态栏显示统计信息：排入队列URL数，已下载文件数，已下载总字节数，CPU使用率和可用内存等。 * 有偏好的爬虫：可针对爬取的资源类型设置不同的优先级。 * 健壮性：十几项URL正规化策略以排除冗余下载、爬虫陷阱避免策略的使用等、多种策略以解析相对路径等。 * 较好的性能：基于正则表达式的页面解析、适度加锁、维持HTTP连接等。-Web crawler