4

我正在寻找通过指纹识别图像重复的方法。我知道这是通过在图像上应用哈希函数来完成的,并且每个图像都有一个唯一的哈希值。

我对图像处理相当陌生,对散列了解不多。我应该如何应用哈希函数并生成哈希值?

提前致谢

4

3 回答 3

4

您需要小心散列,某些图像格式(例如 JPEG 和 PNG)会在图像中存储日期/时间和其他信息,这会使两个相同的图像看起来与普通工具(例如md5cksum.

这是一个例子。使用ImageMagick在终端的命令行中制作两个相同的 128x128 红色方块图像

convert -size 128x128 xc:red a.png
convert -size 128x128 xc:red b.png

在此处输入图像描述 在此处输入图像描述

现在检查他们的 MD5 和:

md5 [ab].png
MD5 (a.png) = b4b82ba217f0b36e6d3ba1722f883e59
MD5 (b.png) = 6aa398d3aaf026c597063c5b71b8bd1a

或者他们的校验和:

cksum [ab].png
4158429075 290 a.png
3657683960 290 b.png

糟糕,根据md5和,它们是不同的cksum。为什么?因为日期相隔 1 秒。

我建议您使用ImageMagick来校验“只是图像数据”而不是元数据 - 当然,除非日期对您很重要:

identify -format %# a.png
e74164f4bab2dd8f7f612f8d2d77df17106bac77b9566aa888d31499e9cf8564

identify -format %# b.png
e74164f4bab2dd8f7f612f8d2d77df17106bac77b9566aa888d31499e9cf8564

现在它们都是一样的,因为图像是一样的——只是元数据不同。

当然,您可能对“Perceptual Hashing”更感兴趣,您可以在其中了解两个图像是否“看起来相似”。如果是这样,请看这里

或者您可能对允许亮度、方向或裁剪的细微差异感兴趣——这完全是另一个主题。

于 2016-10-15T11:46:29.530 回答
1

如果您有兴趣查找附近的重复项,其中包括已调整大小的图像,您可以应用差异散列。更多关于散列在这里。下面的代码是从Real Python blog post 编辑的,以使其在 python 3 中工作。它使用上面链接的散列库,其中包含有关不同类型散列的信息。您应该能够只复制和粘贴脚本并直接从命令行运行它们,而无需编辑脚本。

第一个脚本 ( index.py) 为每个图像创建一个差异散列,然后将散列与具有该散列的图像文件名一起放在架子或持久字典中,您可以稍后像数据库一样访问它:

from PIL import Image
import imagehash
import argparse
import shelve
import glob

# This is just so you can run it from the command line
ap = argparse.ArgumentParser()
ap.add_argument('-d', '--dataset', required = True,
                help = 'path to imput dataset of images')

ap.add_argument('-s', '--shelve', required = True,
                help = 'output shelve database')
args = ap.parse_args()

# open the shelve database
db = shelve.open(args.shelve, writeback = True)

# loop over the image dataset
for imagePath in glob.glob(args.dataset + '/*.jpg'):
    # load the image and compute the difference in hash
    image = Image.open(imagePath)
    h = str(imagehash.dhash(image))
    print(h)

    # extract the filename from the path and update the database using the hash
    # as the key and the filename append to the list of values

    filename = imagePath[imagePath.rfind('/') + 1:]
    db[h] = db.get(h, []) + [filename]

db.close()

在命令行上运行:

python index.py --dataset ./image_directory --shelve db.shelve

在 Jupyter 笔记本中运行

%run index.py --dataset ./image_directory --shelve db.shelve

现在所有的东西都存储在一个架子上,你可以用你要检查的图像文件名来查询架子,它会打印出匹配的图像的文件名,并打开匹配的图像(search.py):

from PIL import Image
import imagehash
import argparse
import shelve

# arguments for command line
ap = argparse.ArgumentParser()
ap.add_argument("-d", "--dataset", required=True,
            help="path to dataset of images")
ap.add_argument("-s", "--shelve", required=True,
            help="output the shelve database")
ap.add_argument("-q", "--query", required=True,
            help="path to the query image")
args = ap.parse_args()

# open the shelve database
db = shelve.open(args.shelve)

# Load the query image, compute the difference image hash, and grab the images
# from the database that have the same hash value
query = Image.open(args.query)
h = str(imagehash.dhash(query))
filenames = db[h]
print("found {} images".format(len(filenames)))

# loop over the images
for filename in filenames:
    print(filename)
    image = Image.open(args.dataset + "/" + filename)
    image.show()

# close the shelve database
db.close()

在命令行上运行以查看image_directory具有相同哈希的图像./directory/someimage.jpg

python search.py —dataset ./image_directory —shelve db.shelve —query ./directory/someimage.jpg

同样,这是从Real Python上面链接的博客文章中修改的,它是为 python2.7 编写的,应该可以解决!只需根据需要更改命令行。如果我没记错的话,python 2/3 问题只是与图像库有关,argparse而不是图像库。

于 2017-05-04T01:35:22.997 回答
0

有很多方法可以实现这一点,但最简单的方法是将图像转换为 base64 字符串,然后使用标准哈希库。在 python 中,它看起来像:

import base64
import md5



with open("foo.png", "rb") as image_file:
    encoded_string = base64.b64encode(image_file.read())
    m = md5.new()
    m.update(encoded_string)
    fingerprint = m.hexdigest()
    print(fingerprint)

如果您只是将哈希函数视为将一个(可能很大)字符串转换为另一个字符串,那么您应该没问题。在上面的代码中,m.update() 只是将encoded_string(一个非常大的base64 字符串)转换为一个较小的十六进制字符串,我们通过调用m.hexdigest() 得到它。

您可以在此处阅读 md5 库的 python 文档,但无论您使用什么语言,都应该有类似的内容。

于 2016-10-15T10:28:03.963 回答