2

我正在编写一个 FastCGI 来为网络提供商提供静态内容的 zlib 压缩,但我mmap()在 NetBSD 上遇到了问题。

#include <magic.h>
#ifndef MADV_DONTFORK
#define MADV_DONTFORK 0
#endif
#ifndef MADV_MERGEABLE
#define MADV_MERGEABLE 0
#endif
#ifndef MADV_HUGEPAGE
#define MADV_HUGEPAGE 0
#endif
#ifndef MADV_DONTDUMP
#define MADV_DONTDUMP 0
#endif

struct stat sb;
int fd=strcatn_open((char *)REQUEST_URI,"index.html")?:strcatn_open((char *)REQUEST_URI,"index.htm")?:open(REQUEST_URI, O_RDONLY);
if (fd==0)
    HTTP_Return_Code("Status: 404 Not Found");
if(!strcmp(HTTP_CACHE_CONTROL?:"ch","no-cache")) { //avoid to compare with a NULL pointer
    if(IfModifiedSince)
        if(tdate_parse((char *)IfModifiedSince)==sb.st_mtime) // UNIX : can compare directly
            HTTP_Return_Code("Status: 304 Not Modified\nCache-Control: public; max-age=2678400");
    if(IfUnmodifiedSince)
        if(tdate_parse((char *)IfUnmodifiedSince)==sb.st_mtime) // UNIX : can compare directly
            HTTP_Return_Code("Status: 304 Not Modified\nCache-Control: public; max-age=2678400");
}
strftime(LastModified, sizeof(char)*30, "%a, %d %b %Y %H:%M:%S GMT", gmtime(&(sb.st_mtime)) ); // RFC1123 format : "%a, %d %b %Y %H:%M:%S GMT"
magic_t mime_type=magic_open(MAGIC_PRESERVE_ATIME|MAGIC_DEVICES|MAGIC_SYMLINK|MAGIC_MIME|MAGIC_COMPRESS);
magic_load(mime_type,NULL); // load default magic database
posix_fadvise(fd,0,sb.st_size,POSIX_FADV_SEQUENTIAL | POSIX_FADV_NOREUSE | POSIX_FADV_WILLNEED);
send_HTTP_Headers("Content-encoding: gzip\nContent-Type: %s\nLast-Modified: %s\n",magic_descriptor(mime_type,fd),LastModified);
magic_close(mime_type);

//the problem is here
void * HTTP_file=mmap(NULL,sb.st_size,PROT_READ,MAP_SHARED|MAP_FILE,fd,0);
if(HTTP_file==(void *)-1)
    err(1,"errno=%d",errno);
uLong maxCompressLen=compressBound(sb.st_size);
Bytef* destbuffer=(Bytef *)malloc((size_t)maxCompressLen);
compress2(destbuffer,&maxCompressLen,(const Bytef *)HTTP_file,sb.st_size,Z_BEST_COMPRESSION);
munmap(HTTP_file,sb.st_size);
close(fd);
madvise(destbuffer,(size_t)maxCompressLen,MADV_SEQUENTIAL | MADV_WILLNEED | MADV_DONTFORK | MADV_MERGEABLE | MADV_HUGEPAGE | MADV_DONTDUMP);
write(STDOUT_FILENO, destbuffer, (size_t)maxCompressLen);

当我将 fastCGI 函数转换为 printf()/scanf() 进行调试时,我在 NetBSD 上得到了这个:

Content-encoding: gzip
Content-Type: text/html; charset=utf-8
Last-Modified: Wed, 27 May 2015 01:15:28 GMT

压缩器:errno=9:对应于 mmap 手册页描述的 EBADF 的错误文件描述符为fd is not a valid open file descriptor. 我不明白,因为文件描述符对我来说似乎非常有效,因为它与 fstat 和 libmagic 一起使用。当我通过 sshfs 挂载 NetBSD 文件系统并为 Linux 编译/运行代码时,我得到:

Content-encoding: gzip
Content-Type: text/html; charset=utf-8
Last-Modified: Wed, 27 May 2015 01:15:28 GMT

xڭW_o�6/���d�I�8��4��+4-0��E�,������(Я����3�a�&amp;��
;R�#�v�
       �X�����~w��Ͽ��%��▒(��wd@���,%,�ڀ�Mã�5�Y[����a�k��4<SyI�H$���B�
                                                                     �=C{iAs▒S�Riې�     n�!��`��"
a��aT°�Mô(�PEC�6IZ�L�mBR��9

�cb�S:u+"���j��0:�c ��ϿSƠr��BwÐ<^jE�4���?��`�����SyL
                                        �-۾m��̘x�9E�_�ũ�\��l����2V夞%���f�
�� F�k}7A��Q���0b                                                        y)�����▒!����ހ�h�ߗCR�Ǣ▒��ҥ2`"�D�[B����s������1p�ajz#R"-y���
a*$��ZML0▒ĵ����H߶�&amp;?�z��1��     -8y�Uq\��S�.ΉJ� !��3^8.(y_����G�?����
                                                                     �M����L���.�Цi�0zu����n�W�Nw������n��-��X v^bJZ���qc%9��   ����^V
                                                                                                                                      ��ݾ%:e[
?5Q▒�+▒$��=�9�*�&amp;1�����0�ƺ5�:▒"�*q5��4                                                                                                       L�;D٦U46��H��j�rw�|��PH6���O9�q�U5��k���ޏ���2U6��Y����R    ��iS��'��K9)��m�(��V���qf����9՘*���
����y�����@VqɌ)��ո�������%�s��WLo��j�ǯ.p��nW_l���X
P�nK��F0���m.*�k$*$~a���9W�&amp;                      �s%�6�ö�A�▒�� �.G��oc���
                            �(���}@▒��L
'K�����z��@�D���l6�$
         �0▒�E=@VtB�FW�������:�r�%E�M��mw�)i���;_�^0z   �AG+RRYgg˖[)�i�*BFW�I���v��3m���)�駖��i�r.)Cz��+�-������Q~\b\b%V▒u)b۠�-��N�e4Vj��Z
S�`�VW����s�(�.֪z���ܤ���h���Wm�^a0;U9�;�K�`���bR�������a��뇗A�UpMuc6
                                                                   0<�K�&gt;��Q��pB<��NyyB�*�$<�Ǎ|��'�7XԌ��C(
�}r�|N▒٠�       0[��N�$��y���!�y���4<>L���������|�ݧNQ[�:v���Ng/Xض▒�8
^�h�s���L���Z�����Ѐ�����?ꌲ
1������R�J8���.IL��f���Wv�N��w�&amp;c���-d����%>�_�/��4R®�S�C6a��-�1C��
                                                                   ���^�G�k~q}���Ӎ�V�@� Y�$uo▒Ĺf�4q��
                                                                                                     �Ȓ�k���
                                                                                                            Xn�'>kn�&gt;[�WO���(P�l�[jZ�R0#�
                                                                                                                                         �&gt;��ͨ�׸-�&gt;�ƶ�H)+����z�S����x,�������p�▒j���ǹ���7Rg]�k~���b��֯[o�[��_���_�F^F

这意味着相同的代码无需任何修改即可在 Linux 上运行。

附加信息:

  • uname -a 在 NetBSD 返回NetBSD odin 6.1.2 NetBSD 6.1.2 (GENERIC) amd64
  • Linux 上的 uname -a 返回Linux localhost.localdomain 3.16.0-rc7-ck2 #1 SMP Fri May 1 13:38:34 CEST 2015 x86_64 GNU/Linux
  • gcc-4.5.3 是 NetBSD 上的编译器版本
  • gcc-4.9.2是Linux上的编译器版本
  • 两种架构都是相同的,并且两个编译器都使用相同的通用标志,并且禁用了所有优化。

更新

似乎出于未知原因magic_descriptor()正在关闭 NetBSD 上的文件描述符,实际上以下简单代码不起作用:

// test case for a libmagic bug. Libmagic is part of NetBSD packages and is used with the file command
#include <errno.h>
#include <err.h>
#include <magic.h>
#include <sys/types.h>
#include <sys/mman.h>
#include <fcntl.h>
#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
/* gcc test.c -o test
./test a_regular_file_with read permissions*/
int main(int argc,char * argv[]) {
        int fd=open(argv[1],O_RDONLY); // set fd to 8
        struct stat sb;
        fstat(fd, &sb);

        magic_t mime_type=magic_open(MAGIC_PRESERVE_ATIME|MAGIC_DEVICES|MAGIC_SYMLINK|MAGIC_MIME|MAGIC_COMPRESS);
        magic_load(mime_type,NULL); // load default libmagic database
        printf("Content-encoding: gzip\nContent-Type: %s\n\r\n",magic_descriptor(mime_type,fd)); // after this fd still ==8 but the file is closed whereas it shouldn’t. And indeed it doesn’t on SUA and Linux distros.
        //magic_close(mime_type);

        void * HTTP_file=mmap(NULL,sb.st_size,PROT_READ,MAP_SHARED|MAP_FILE,fd,0); // always returns -1
        if(HTTP_file==(void *)-1)
                err(1,"errno=%d",errno); // errno is equal to 9 which mean the file descriptor is invalid
        write(STDOUT_FILENO, HTTP_file, sb.st_size);
}
4

1 回答 1

1

正如谷歌可以告诉你的那样,这是原始来源中的错误功能/错误:

0000276:magic_descriptor() 完成时关闭底层文件描述符 (fd)

您可能应该将此视为5.18和之前magic_descriptor()的所有版本中的已知行为。即,除非您知道您正在使用更新的版本,否则不要期望描述符在该调用之后保持打开状态。filelibmagic

的固定版本file将包含在 NetBSD 7.0 中——在适当的 NetBSD 邮件列表中温和地推动当前版本分支的上拉也可能会将其包含在 NetBSD-6.x 的下一个版本中。

于 2015-06-04T00:31:24.550 回答