6

我在 Ubuntu 12.04 上使用 Node v0.10.11。我无法弄清楚我缺少什么来使 URL 流与请求模块一起工作。这个程序试图去一个邮件列表站点，找到每个月的下载链接，然后下载每个月的页面。

Mikael 的自述文件说“第一个参数可以是 url 或选项对象。唯一需要的选项是 URI，所有其他选项都是可选的。uri || url - 完全限定的 uri 或来自 url.parse() 的解析 url 对象”

如果我打电话url.parse(www.targeturl.com)，我会得到

Error: options.uri is a required argument

如果我不使用url.parse，我会得到

Error: Invalid URI "www.freelists.org/archive/si-list/06-2013"

（此链接在我的浏览器中运行良好）

我已将代码缩减为 42 行。欢迎任何建议

var request = require('request'),
  url = require('url'),
  stream = require('stream'),
  cheerio = require('cheerio'), // a reduced jQuery style DOM library
  Transform = require('stream').Transform

var DomStripStream = function(target) {
  this.target = target;
  stream.Transform.call(this,{objectMode: true});
}

DomStripStream.prototype = Object.create(
  Transform.prototype, {constructor: {value: DomStripStream}} 
)

DomStripStream.prototype.write = function () {
  this._transform.apply(this, arguments);
};

DomStripStream.prototype.end = function () {
  this._transform.apply(this, arguments);
  this.emit("end");
};

DomStripStream.prototype._transform = function(chunk, encoding, callback) {
  chunk = chunk ? chunk.toString() : "";
  $ = cheerio.load(chunk);
  domLinks = $(this.target);
  $(domLinks).each(function (i, link) {
    currLink = 'www.freelists.org' + $(link).attr('href') 
//  currLink = url.parse(currLink)
    request(currLink, function (error, response, body) {
      console.log(error);
    })
  });
}

var fs = require("fs"),
  output = fs.createWriteStream("out.txt"),
  mainPage = new DomStripStream('td a')

request('http://www.freelists.org/archive/si-list').
pipe(mainPage).
pipe(output);
4

1 回答 1

13

在网址中添加 http:// 或 https://

于 2013-07-04T22:55:03.170 回答