搜索资源列表
aspseek
- ASPSeek是一个C++编写的互联网搜索引擎,并使用了STL库。它主要包括一个检索机器人,一个搜索守护程序,和一个搜索前端(CGI或者是Apache模块)。它大概可以检索几百万个URLs,来查找给定的短语和单词,并使用通配符,进行布尔搜索。搜索结果可以限定在给定的时间或站点,站点空间,并按照相关性或者时间进行排序(这里面使用了一些非常酷的技术)。ASPSeek可以应用于很多语言和编码中(甚至包括多字节语言如中文)。它为多个站点做了优化。(多线程检索,同步DNS查询, 按站点将结果分组, Web
spider_demo
- C#编写的spider demo 主要实现多线程的网页抓取及网页内容中URL的提取-prepared by the spider demo main multithreaded website crawls and website content URL Extraction
search22
- 用C#编写的一个多线程搜索引擎的源代码,能够并行或串行从多个位置进行搜索。-C# prepared in a multi-threaded search engine source code to parallel or serial number from the location of the search.
Threadsource
- 用C#编写多线程搜索引擎。可实现不用的数据库服务器与文件服务器。-prepared multithreaded search engine. May not realize the database server and file server.
WebApplication1
- 用C#编写多线程搜索引擎,程序名称:WebApplication1
spider_demo.rar
- C#多线程网络爬虫,使用线程池来控制线程,效率不错。,C# multi-threaded network reptiles, use the thread pool to control the thread, good efficiency.
caiji
- 多线程采集C#源代码 (包含全部源码)-Multi-threaded collection C# Source code (including all source code)
WebApplication1
- 利用c#实现的一个多线程搜索引擎例子,当检索完成时,就可以得到每一个线程的返回结果-Multi-threaded search
CSharpcrawler
- 网络爬虫实现源代码 c++语言开发 可以设置线程数和爬行目标网址-Web crawler source code c++ language development can set the number of threads and crawling destination URL
spider2006
- 可配置:线程数、线程等待时间,连接超时时间,可爬取文件类型和优先级、下载目录等。 状态栏显示统计信息:排入队列URL数,已下载文件数,已下载总字节数,CPU使用率和可用内存等。 有偏好的爬虫:可针对爬取的资源类型设置不同的优先级。 健壮性:十几项URL正规化策略以排除冗余下载、爬虫陷阱避免策略的使用等、多种策略以解析相对路径等。 较好的性能:基于正则表达式的页面解析、适度加锁、维持HTTP连接等。 -C# spider.
NwebCrawler
- NwebCrawler是用C#写的一款多线程网络爬虫程序,它的实现原理是先输入一个或多个种子URL到队列中,然后从队列中提取URL(先进先出原则),分析此网页寻找相应标签并获得其href属性值,爬取有用的链接网页并存入网页库中,其中用爬取历史来记录爬过的网页,这样避免了重复爬取。提取URL存入队列中,进行下一轮爬取。所以NwebCrawler的搜索策略为广度优先搜索。采用广度优先策略有利于多个线程并行爬取而且抓取的封闭性很强。-NwebCrawler is a multi-threaded w