我知道
program1 | program2
和
program1 | tee outputfile | program2
但是有没有办法将 program1 的输出同时输入到 program2 和 program3 中？
问问题
4167 次
6 回答
33
您可以使用tee并处理替换来执行此操作。
program1 | tee >(program2) >(program3)
的输出program1将通过管道传输到内部的任何内容( )，在本例中为program2和program3。
于 2012-04-18T21:27:33.387 回答
25
并行化简介
这看似微不足道，但这样做不仅是可能的，而且这样做会产生并发或同时的进程。
您可能需要注意一些特定的影响，例如执行顺序、执行时间等。
这篇文章的末尾有一些示例。
首先兼容的答案
由于这个问题被标记为 shell和unix，我将首先给出一个POSIX 兼容的答案。（对于bashisms，走得更远。）
是的，有一种使用未命名管道的方法。
在这个示例中，我将生成 100'000 个数字的范围，将它们随机化并使用 4 种不同的压缩工具压缩结果以比较压缩率...
为此，我将首先运行准备工作：
GZIP_CMD=`which gzip`
BZIP2_CMD=`which bzip2`
LZMA_CMD=`which lzma`
XZ_CMD=`which xz`
MD5SUM_CMD=`which md5sum`
SED_CMD=`which sed`
注意：指定命令的完整路径会阻止某些 shell 解释器（如 busybox）运行内置压缩器。并且这样做将确保相同的语法将独立于操作系统安装运行（MacOs、Ubuntu、RedHat、HP-Ux 等之间的路径可能不同......）。
语法NN>&1（其中 NN 是 3 到 63 之间的数字）确实会生成未命名管道，可以通过 find at 来生成/dev/fd/NN。（文件描述符 0 到 2 已经为 0：STDIN、1：STDOUT 和 2：STDERR 打开）。
(((( seq 1 100000 | shuf | tee /dev/fd/4 /dev/fd/5 /dev/fd/6 /dev/fd/7 | $GZIP_CMD >/tmp/tst.gz ) 4>&1 | $BZIP2_CMD >/tmp/tst.bz2 ) 5>&1 | $LZMA_CMD >/tmp/tst.lzma ) 6>&1 | $XZ_CMD >/tmp/tst.xz ) 7>&1 | $MD5SUM_CMD
或更具可读性：
GZIP_CMD=`which gzip`
BZIP2_CMD=`which bzip2`
LZMA_CMD=`which lzma`
XZ_CMD=`which xz`
MD5SUM_CMD=`which md5sum`
(
(
(
(
seq 1 100000 |
shuf |
tee /dev/fd/4 /dev/fd/5 /dev/fd/6 /dev/fd/7 |
$GZIP_CMD >/tmp/tst.gz
) 4>&1 |
$BZIP2_CMD >/tmp/tst.bz2
) 5>&1 |
$LZMA_CMD >/tmp/tst.lzma
) 6>&1 |
$XZ_CMD >/tmp/tst.xz
) 7>&1 |
$MD5SUM_CMD
2e67f6ad33745dc5134767f0954cbdd6 -
和shuf随机放置一样，如果你尝试这个，你必须得到不同的结果，
ls -ltrS /tmp/tst.*
-rw-r--r-- 1 user user 230516 oct 1 22:14 /tmp/tst.bz2
-rw-r--r-- 1 user user 254811 oct 1 22:14 /tmp/tst.lzma
-rw-r--r-- 1 user user 254892 oct 1 22:14 /tmp/tst.xz
-rw-r--r-- 1 user user 275003 oct 1 22:14 /tmp/tst.gz
但您必须能够比较md5校验和：
SED_CMD=`which sed`
for chk in gz:$GZIP_CMD bz2:$BZIP2_CMD lzma:$LZMA_CMD xz:$XZ_CMD;do
${chk#*:} -d < /tmp/tst.${chk%:*} |
$MD5SUM_CMD |
$SED_CMD s/-$/tst.${chk%:*}/
done
2e67f6ad33745dc5134767f0954cbdd6 tst.gz
2e67f6ad33745dc5134767f0954cbdd6 tst.bz2
2e67f6ad33745dc5134767f0954cbdd6 tst.lzma
2e67f6ad33745dc5134767f0954cbdd6 tst.xz
使用bash功能
使用一些bashims，这可能看起来更好，用于示例使用/dev/fd/{4,5,6,7}，而不是tee /dev/fd/4 /dev/fd/5 /...
(((( seq 1 100000 | shuf | tee /dev/fd/{4,5,6,7} | gzip >/tmp/tst.gz ) 4>&1 |
bzip2 >/tmp/tst.bz2 ) 5>&1 | lzma >/tmp/tst.lzma ) 6>&1 |
xz >/tmp/tst.xz ) 7>&1 | md5sum
29078875555e113b31bd1ae876937d4b -
将同样工作。
最终检查
这不会创建任何文件，但可以让您比较 4 种不同压缩工具之间的排序整数压缩范围的大小（为了好玩，我使用了 4 种不同的方式来格式化输出）：
(
(
(
(
(
seq 1 100000 |
tee /dev/fd/{4,5,6,7} |
gzip |
wc -c |
sed s/^/gzip:\ \ / >&3
) 4>&1 |
bzip2 |
wc -c |
xargs printf "bzip2: %s\n" >&3
) 5>&1 |
lzma |
wc -c |
perl -pe 's/^/lzma: /' >&3
) 6>&1 |
xz |
wc -c |
awk '{printf "xz: %9s\n",$1}' >&3
) 7>&1 |
wc -c
) 3>&1
gzip: 215157
bzip2: 124009
lzma: 17948
xz: 17992
588895
这演示了如何使用在 subshell 中重定向并在控制台中合并以进行最终输出的stdin和stdout 。
语法>(...)和<(...)
最近的bash版本允许新的语法特性。
seq 1 100000 | wc -l
100000
seq 1 100000 > >( wc -l )
100000
wc -l < <( seq 1 100000 )
100000
作为|一个未命名管道，/dev/fd/0该语法确实会生成带有其他文件描述符的<()临时未命名管道/dev/fd/XX。
md5sum <(zcat /tmp/tst.gz) <(bzcat /tmp/tst.bz2) <(
lzcat /tmp/tst.lzma) <(xzcat /tmp/tst.xz)
29078875555e113b31bd1ae876937d4b /dev/fd/63
29078875555e113b31bd1ae876937d4b /dev/fd/62
29078875555e113b31bd1ae876937d4b /dev/fd/61
29078875555e113b31bd1ae876937d4b /dev/fd/60
更复杂的演示
这需要安装GNUfile实用程序。将根据扩展名或文件类型确定要运行的命令。
for file in /tmp/tst.*;do
cmd=$(which ${file##*.}) || {
cmd=$(file -b --mime-type $file)
cmd=$(which ${cmd#*-})
}
read -a md5 < <($cmd -d <$file|md5sum)
echo $md5 \ $file
done
29078875555e113b31bd1ae876937d4b /tmp/tst.bz2
29078875555e113b31bd1ae876937d4b /tmp/tst.gz
29078875555e113b31bd1ae876937d4b /tmp/tst.lzma
29078875555e113b31bd1ae876937d4b /tmp/tst.xz
这使您可以通过以下语法执行相同的操作：
seq 1 100000 |
shuf |
tee >(
echo gzip. $( gzip | wc -c )
) >(
echo gzip, $( wc -c < <(gzip))
) >(
gzip | wc -c | sed s/^/gzip:\ \ /
) >(
bzip2 | wc -c | xargs printf "bzip2: %s\n"
) >(
lzma | wc -c | perl -pe 's/^/lzma: /'
) >(
xz | wc -c | awk '{printf "xz: %9s\n",$1}'
) > >(
echo raw: $(wc -c)
) |
xargs printf "%-8s %9d\n"
raw: 588895
xz: 254556
lzma: 254472
bzip2: 231111
gzip: 274867
gzip, 274867
gzip. 274867
注意我使用了不同的方法来计算gzip压缩计数。
注意由于此操作是同时完成的，输出顺序将取决于每个命令所需的时间。
进一步了解并行化
如果您运行一些多核或多处理器计算机，请尝试比较：
i=1
time for file in /tmp/tst.*;do
cmd=$(which ${file##*.}) || {
cmd=$(file -b --mime-type $file)
cmd=$(which ${cmd#*-})
}
read -a md5 < <($cmd -d <$file|md5sum)
echo $((i++)) $md5 \ $file
done |
cat -n
可能会呈现：
1 1 29078875555e113b31bd1ae876937d4b /tmp/tst.bz2
2 2 29078875555e113b31bd1ae876937d4b /tmp/tst.gz
3 3 29078875555e113b31bd1ae876937d4b /tmp/tst.lzma
4 4 29078875555e113b31bd1ae876937d4b /tmp/tst.xz
real 0m0.101s
有了这个：
time (
i=1 pids=()
for file in /tmp/tst.*;do
cmd=$(which ${file##*.}) || {
cmd=$(file -b --mime-type $file)
cmd=$(which ${cmd#*-})
}
(
read -a md5 < <($cmd -d <$file|md5sum)
echo $i $md5 \ $file
) & pids+=($!)
((i++))
done
wait ${pids[@]}
) |
cat -n
可以给：
1 2 29078875555e113b31bd1ae876937d4b /tmp/tst.gz
2 1 29078875555e113b31bd1ae876937d4b /tmp/tst.bz2
3 4 29078875555e113b31bd1ae876937d4b /tmp/tst.xz
4 3 29078875555e113b31bd1ae876937d4b /tmp/tst.lzma
real 0m0.070s
其中排序取决于每个fork使用的类型。
于 2013-10-01T20:43:11.023 回答
2
该bash手册提到了它如何>(...)使用命名管道或命名文件描述符来模拟语法，因此如果您不想依赖bash，也许您可以在脚本中手动执行此操作。
mknod FIFO
program3 < FIFO &
program1 | tee FIFO | program2
wait
rm FIFO
于 2012-04-19T20:48:16.217 回答
2
其他答案介绍了这个概念。这是一个实际的演示：
$ echo "Leeroy Jenkins" | tee >(md5sum > out1) >(sha1sum > out2) > out3
$ cat out1
11e001d91e4badcff8fe22aea05a7458 -
$ echo "Leeroy Jenkins" | md5sum
11e001d91e4badcff8fe22aea05a7458 -
$ cat out2
5ed25619ce04b421fab94f57438d6502c66851c1 -
$ echo "Leeroy Jenkins" | sha1sum
5ed25619ce04b421fab94f57438d6502c66851c1 -
$ cat out3
Leeroy Jenkins
当然你可以> /dev/null代替out3。
于 2018-01-22T05:05:16.947 回答
1
You can always try to save output of program1 to a file and then feed it into program2 and program3 input.
program1 > temp; program2 < temp; program3 < temp;
于 2012-04-18T21:21:51.320 回答
-1
使用(;)语法...试试ps aux | (head -n 1; tail -n 1)
于 2017-12-08T18:23:38.183 回答