0

我正在尝试使用 crawler4j，就像在此示例中使用的那样，无论我如何定义爬虫的数量或更改根文件夹，我都会继续从代码中收到此错误：

“需要的参数：rootFolder（它将包含中间爬取数据）numberOfCralwers（并发线程数）”主要代码如下：

public class Controller {

    public static void main(String[] args) throws Exception {

            if (args.length != 2) {
                    System.out.println("Needed parameters: ");
                    System.out.println("\t rootFolder (it will contain intermediate crawl data)");
                    System.out.println("\t numberOfCralwers (number of concurrent threads)");
                    return;
            }

            /*
             * crawlStorageFolder is a folder where intermediate crawl data is
             * stored.
             */
            String crawlStorageFolder = args[0];


            /*
             * numberOfCrawlers shows the number of concurrent threads that should
             * be initiated for crawling.
             */
            int numberOfCrawlers = Integer.parseInt(args[1]);

有一个类似的问题问我到底想知道什么，但我不太明白解决方案，比如我在哪里输入java BasicCrawler Controller "arg1" "arg2"。我在 Eclipse 上运行这段代码，但我对编程世界还是很陌生。如果有人帮助我理解这个问题，我将不胜感激

4

3 回答 3

0

要在您的项目中使用 crawler4j，您必须创建两个类。其中一个是CrawlController（根据参数启动爬虫），另一个是Crawler。

只需运行Controller类中的main方法，即可查看爬取的页面

这是 Controller.java 文件：

import edu.uci.ics.crawler4j.crawler.CrawlConfig;
import edu.uci.ics.crawler4j.crawler.CrawlController;
import edu.uci.ics.crawler4j.fetcher.PageFetcher;
import edu.uci.ics.crawler4j.robotstxt.RobotstxtConfig;
import edu.uci.ics.crawler4j.robotstxt.RobotstxtServer;

public class Controller {
public static void main(String[] args) throws Exception {


    RobotstxtConfig robotstxtConfig2 = new RobotstxtConfig();

    System.out.println(robotstxtConfig2.getCacheSize());
    System.out.println(robotstxtConfig2.getUserAgentName());

    String crawlStorageFolder = "/crawler/testdata";
    int numberOfCrawlers = 4;
    CrawlConfig config = new CrawlConfig();
    config.setCrawlStorageFolder(crawlStorageFolder);

    PageFetcher pageFetcher = new PageFetcher(config);
    RobotstxtConfig robotstxtConfig = new RobotstxtConfig();

    System.out.println(robotstxtConfig.getCacheSize());
    System.out.println(robotstxtConfig.getUserAgentName());

    RobotstxtServer robotstxtServer = new RobotstxtServer(robotstxtConfig, pageFetcher);
    CrawlController controller = new CrawlController(config, 
                 pageFetcher, robotstxtServer);

    controller.addSeed("http://cyesilkaya.wordpress.com/");
    controller.start(Crawler.class, numberOfCrawlers);
  }
   }

这是 Crawler.java 文件：

   import java.io.IOException;
   import edu.uci.ics.crawler4j.crawler.Page;
   import edu.uci.ics.crawler4j.crawler.WebCrawler;
   import edu.uci.ics.crawler4j.url.WebURL;

   public class Crawler extends WebCrawler {

    @Override
    public boolean shouldVisit(WebURL url) {
         // you can write your own filter to decide crawl the incoming URL or not.
        return true;
    }

    @Override
    public void visit(Page page) {          
        String url = page.getWebURL().getURL();
        try {
        String url = page.getWebURL().getURL();
                System.out.println("URL: " + url);   
    }
    catch (IOException e) {
    }
      }
   }
于 2013-02-07T14:16:19.173 回答
0

如果您在运行文件时没有提供任何参数，您将收到该错误。将以下内容作为注释放入您的代码中或将其删除。

if (args.length != 2) {
                System.out.println("Needed parameters: ");
                System.out.println("\t rootFolder (it will contain intermediate crawl data)");
                System.out.println("\t numberOfCralwers (number of concurrent threads)");
                return;
        }

然后将根文件夹设置为要存储元数据的文件夹。

于 2013-02-11T09:34:30.587 回答
0

在 Eclipse 中：->单击运行->单击运行配置...

在弹出窗口中：

首先，左栏：确保在子目录 Java Application 中选择了您的应用程序，否则创建一个新的（单击新建）。

然后在中央窗口中，继续“参数”

在“程序参数”下写下你的参数一旦你写了你的第一个参数，按回车键输入第二个参数，依此类推......（=换行，因为 args 是 []）

然后点击应用

然后单击运行。

于 2016-02-02T22:36:38.080 回答