Merge: nitwebcrawl: add a simple crawler for nitweb
authorJean Privat <jean@pryen.org>
Mon, 4 Jul 2016 15:26:31 +0000 (11:26 -0400)
committerJean Privat <jean@pryen.org>
Mon, 4 Jul 2016 15:26:31 +0000 (11:26 -0400)
commit21a4c7adbdb90f09d7b9d6e470d443e7ef1f5005
treecfabd5d16c95a50a3265729e72c1f25240c82094
parent6f1c8997d81e4cba77c2d14740ee9f327bb6faa5
parentdb8eed63e0624e8d1d261907201d8f0ba673ed50
Merge: nitwebcrawl: add a simple crawler for nitweb

I do not remember why I developed this, but it works so why not publish it.

This can be a base to bench IO-bound parallel problem, or something to test nitweb.
For information, if I crawl a nitweb server on lib/core. I get 5209 entities in 1m51s real time (0m50s user time)

Pull-Request: #2214
Reviewed-by: Romain Chanoir <romain.chanoir@viacesi.fr>
Reviewed-by: Alexandre Terrasa <alexandre@moz-code.org>