類似画像を見つけるためのアルゴリズム


83

2つの画像が「類似」しているかどうかを判断し、色、明るさ、形状などの類似パターンを認識するアルゴリズムが必要です。人間の脳が画像を「分類」するために使用するパラメータについて、いくつかのポインタが必要になる場合があります。..

私はハウスドルフベースのマッチングを見てきましたが、それは主に変換されたオブジェクトと形状のパターンをマッチングするためのようです。


この他の同様の問題のいくつかの良い答えがあります。stackoverflow.com/questions/25977/...
BLAK

2
多くの「可能性」と「可能性」。誰もがこれらすべての提案を試して、何が最善か知っていますか?
john ktejik 2013年

回答:


60

ウェーブレット変換を使用して画像を署名に分解することにより、同様のことを行いました。

私のアプローチは、変換された各チャネルから最も重要なn個の係数を選択し、それらの位置を記録することでした。これは、abs(power)に従って(power、location)タプルのリストをソートすることによって行われました。類似した画像は、同じ場所に有意な係数を持つという点で類似性を共有します。

画像をYUV形式に変換するのが最善であることがわかりました。これにより、形状(Yチャネル)と色(UVチャネル)の重みの類似性が効果的に得られます。

あなたはmactoriiで上記の私の実装を見つけることができます、それは残念ながら私が持っているべきほど多くに取り組んでいませんでした:-)

私の友人の何人かが驚くほど良い結果で使用した別の方法は、単に画像のサイズを4x4ピクセルに縮小し、それを署名として保存することです。対応するピクセルを使用して、2つの画像間のマンハッタン距離を計算することにより、2つの画像がどの程度類似しているかをスコアリングできます。サイズ変更の実行方法の詳細がわからないため、そのタスクで使用できるさまざまなアルゴリズムを試して、適切なアルゴリズムを見つける必要がある場合があります。


7
4x4へのサイズ変更方法は素晴らしいアイデアです(あなたの方法も素晴らしいわけではありません)が、最初の方法はより簡単です。
Alix Axel

@freespace、この「対応するピクセルを使用して、2つの画像間のマンハッタン距離を計算する」について説明してください
Ambika

1
@Ambika:各ピクセルの色を長さ3のベクトルとして扱い、比較される画像内の対応するピクセル間のマンハッタン距離を計算します。それはあなたに4つのマンハッタン距離を与えます。それから単一のメジャーをどのように導き出すかはあなた次第です。最も明白なのは、それらを合計することです。
フリースペース2016年

45

pHashはあなたに興味があるかもしれません。

知覚ハッシュn。中に含まれるオーディオまたはビジュアルコンテンツに数学的に基づいたオーディオ、ビデオ、または画像ファイルのフィンガープリント。入力の小さな変化が出力の劇的な変化につながるアバランシェ効果に依存する暗号化ハッシュ関数とは異なり、入力が視覚的または聴覚的に類似している場合、知覚ハッシュは互いに「近い」です。


8
pHashのウェブサイトをチェックしてください。彼らは現在、2つの画像をアップロードできるこの機能をサイトに持っており、それらが類似しているかどうかを教えてくれます。似ている画像を10枚、似ていない画像を10枚ほど試しました。残念ながら、成功率はそれほど印象的ではありませんでした。
rodrigo-silveira 2012年

2
pHashは実際にはかなり厳密です。「ahash」または平均ハッシュを使用することをお勧めします。これは、それほど厳密ではない傾向があります。Pythonの実装はここで見つけることができますgithub.com/JohannesBuchner/imagehash/blob/master/…–
Rohit

13

私はSIFTを使用して、異なる画像内の同じオブジェクトを再検出しました。それは本当に強力ですが、かなり複雑で、やり過ぎかもしれません。画像が非常に似ていると思われる場合は、2つの画像の違いに基づいたいくつかの簡単なパラメータで、かなりのことがわかります。いくつかの指針:

  • 画像を正規化します。つまり、両方の平均輝度を計算し、比率に応じて最も明るいものを縮小することで、両方の画像の平均輝度を同じにします(最高レベルでのクリッピングを回避するため)。特に、形状に関心がある場合は、色。
  • チャネルごとの正規化された画像の色差の合計。
  • 画像内のエッジを見つけて、両方の画像のエッジピクセル間の距離を測定します。(形状用)
  • 画像を一連の個別の領域に分割し、各領域の平均色を比較します。
  • 1つ(または一連)のレベルで画像をしきい値設定し、結果の白黒画像が異なるピクセル数をカウントします。

画像の類似性を計算するためにふるいのような特徴を使用するコードを指すことができますか?
mrgloom 2012

申し訳ありませんが、公開されているコードがあると確信していますが、私が知っているコードはありません。このサイトにはいくつかの例があります。例:stackoverflow.com/questions/5461148/…–
jilles de wit 2012

.Net用のAccordFrameworkaccord-framework.net)には、多数のさまざまなカーネルとクラスタリングアルゴリズムを使用して、SURF、BagOfVisualWords、Harris CornerDetectionなどを実行するための優れたクラスがいくつかあります。
dynamichael 2018

6

私のラボでもこの問題を解決する必要があり、Tensorflowを使用しました。これは、画像の類似性を視覚化するための完全なアプリの実装です。

類似性計算のために画像をベクトル化するチュートリアルについては、このページをチェックしてください。これがPythonです(ここでも、完全なワークフローについては投稿を参照してください):

from __future__ import absolute_import, division, print_function

"""

This is a modification of the classify_images.py
script in Tensorflow. The original script produces
string labels for input images (e.g. you input a picture
of a cat and the script returns the string "cat"); this
modification reads in a directory of images and 
generates a vector representation of the image using
the penultimate layer of neural network weights.

Usage: python classify_images.py "../image_dir/*.jpg"

"""

# Copyright 2015 The TensorFlow Authors. All Rights Reserved.
#
# Licensed under the Apache License, Version 2.0 (the "License");
# you may not use this file except in compliance with the License.
# You may obtain a copy of the License at
#
#     http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing, software
# distributed under the License is distributed on an "AS IS" BASIS,
# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
# See the License for the specific language governing permissions and
# limitations under the License.
# ==============================================================================

"""Simple image classification with Inception.

Run image classification with Inception trained on ImageNet 2012 Challenge data
set.

This program creates a graph from a saved GraphDef protocol buffer,
and runs inference on an input JPEG image. It outputs human readable
strings of the top 5 predictions along with their probabilities.

Change the --image_file argument to any jpg image to compute a
classification of that image.

Please see the tutorial and website for a detailed description of how
to use this script to perform image recognition.

https://tensorflow.org/tutorials/image_recognition/
"""

import os.path
import re
import sys
import tarfile
import glob
import json
import psutil
from collections import defaultdict
import numpy as np
from six.moves import urllib
import tensorflow as tf

FLAGS = tf.app.flags.FLAGS

# classify_image_graph_def.pb:
#   Binary representation of the GraphDef protocol buffer.
# imagenet_synset_to_human_label_map.txt:
#   Map from synset ID to a human readable string.
# imagenet_2012_challenge_label_map_proto.pbtxt:
#   Text representation of a protocol buffer mapping a label to synset ID.
tf.app.flags.DEFINE_string(
    'model_dir', '/tmp/imagenet',
    """Path to classify_image_graph_def.pb, """
    """imagenet_synset_to_human_label_map.txt, and """
    """imagenet_2012_challenge_label_map_proto.pbtxt.""")
tf.app.flags.DEFINE_string('image_file', '',
                           """Absolute path to image file.""")
tf.app.flags.DEFINE_integer('num_top_predictions', 5,
                            """Display this many predictions.""")

# pylint: disable=line-too-long
DATA_URL = 'http://download.tensorflow.org/models/image/imagenet/inception-2015-12-05.tgz'
# pylint: enable=line-too-long


class NodeLookup(object):
  """Converts integer node ID's to human readable labels."""

  def __init__(self,
               label_lookup_path=None,
               uid_lookup_path=None):
    if not label_lookup_path:
      label_lookup_path = os.path.join(
          FLAGS.model_dir, 'imagenet_2012_challenge_label_map_proto.pbtxt')
    if not uid_lookup_path:
      uid_lookup_path = os.path.join(
          FLAGS.model_dir, 'imagenet_synset_to_human_label_map.txt')
    self.node_lookup = self.load(label_lookup_path, uid_lookup_path)

  def load(self, label_lookup_path, uid_lookup_path):
    """Loads a human readable English name for each softmax node.

    Args:
      label_lookup_path: string UID to integer node ID.
      uid_lookup_path: string UID to human-readable string.

    Returns:
      dict from integer node ID to human-readable string.
    """
    if not tf.gfile.Exists(uid_lookup_path):
      tf.logging.fatal('File does not exist %s', uid_lookup_path)
    if not tf.gfile.Exists(label_lookup_path):
      tf.logging.fatal('File does not exist %s', label_lookup_path)

    # Loads mapping from string UID to human-readable string
    proto_as_ascii_lines = tf.gfile.GFile(uid_lookup_path).readlines()
    uid_to_human = {}
    p = re.compile(r'[n\d]*[ \S,]*')
    for line in proto_as_ascii_lines:
      parsed_items = p.findall(line)
      uid = parsed_items[0]
      human_string = parsed_items[2]
      uid_to_human[uid] = human_string

    # Loads mapping from string UID to integer node ID.
    node_id_to_uid = {}
    proto_as_ascii = tf.gfile.GFile(label_lookup_path).readlines()
    for line in proto_as_ascii:
      if line.startswith('  target_class:'):
        target_class = int(line.split(': ')[1])
      if line.startswith('  target_class_string:'):
        target_class_string = line.split(': ')[1]
        node_id_to_uid[target_class] = target_class_string[1:-2]

    # Loads the final mapping of integer node ID to human-readable string
    node_id_to_name = {}
    for key, val in node_id_to_uid.items():
      if val not in uid_to_human:
        tf.logging.fatal('Failed to locate: %s', val)
      name = uid_to_human[val]
      node_id_to_name[key] = name

    return node_id_to_name

  def id_to_string(self, node_id):
    if node_id not in self.node_lookup:
      return ''
    return self.node_lookup[node_id]


def create_graph():
  """Creates a graph from saved GraphDef file and returns a saver."""
  # Creates graph from saved graph_def.pb.
  with tf.gfile.FastGFile(os.path.join(
      FLAGS.model_dir, 'classify_image_graph_def.pb'), 'rb') as f:
    graph_def = tf.GraphDef()
    graph_def.ParseFromString(f.read())
    _ = tf.import_graph_def(graph_def, name='')


def run_inference_on_images(image_list, output_dir):
  """Runs inference on an image list.

  Args:
    image_list: a list of images.
    output_dir: the directory in which image vectors will be saved

  Returns:
    image_to_labels: a dictionary with image file keys and predicted
      text label values
  """
  image_to_labels = defaultdict(list)

  create_graph()

  with tf.Session() as sess:
    # Some useful tensors:
    # 'softmax:0': A tensor containing the normalized prediction across
    #   1000 labels.
    # 'pool_3:0': A tensor containing the next-to-last layer containing 2048
    #   float description of the image.
    # 'DecodeJpeg/contents:0': A tensor containing a string providing JPEG
    #   encoding of the image.
    # Runs the softmax tensor by feeding the image_data as input to the graph.
    softmax_tensor = sess.graph.get_tensor_by_name('softmax:0')

    for image_index, image in enumerate(image_list):
      try:
        print("parsing", image_index, image, "\n")
        if not tf.gfile.Exists(image):
          tf.logging.fatal('File does not exist %s', image)

        with tf.gfile.FastGFile(image, 'rb') as f:
          image_data =  f.read()

          predictions = sess.run(softmax_tensor,
                          {'DecodeJpeg/contents:0': image_data})

          predictions = np.squeeze(predictions)

          ###
          # Get penultimate layer weights
          ###

          feature_tensor = sess.graph.get_tensor_by_name('pool_3:0')
          feature_set = sess.run(feature_tensor,
                          {'DecodeJpeg/contents:0': image_data})
          feature_vector = np.squeeze(feature_set)        
          outfile_name = os.path.basename(image) + ".npz"
          out_path = os.path.join(output_dir, outfile_name)
          np.savetxt(out_path, feature_vector, delimiter=',')

          # Creates node ID --> English string lookup.
          node_lookup = NodeLookup()

          top_k = predictions.argsort()[-FLAGS.num_top_predictions:][::-1]
          for node_id in top_k:
            human_string = node_lookup.id_to_string(node_id)
            score = predictions[node_id]
            print("results for", image)
            print('%s (score = %.5f)' % (human_string, score))
            print("\n")

            image_to_labels[image].append(
              {
                "labels": human_string,
                "score": str(score)
              }
            )

        # close the open file handlers
        proc = psutil.Process()
        open_files = proc.open_files()

        for open_file in open_files:
          file_handler = getattr(open_file, "fd")
          os.close(file_handler)
      except:
        print('could not process image index',image_index,'image', image)

  return image_to_labels


def maybe_download_and_extract():
  """Download and extract model tar file."""
  dest_directory = FLAGS.model_dir
  if not os.path.exists(dest_directory):
    os.makedirs(dest_directory)
  filename = DATA_URL.split('/')[-1]
  filepath = os.path.join(dest_directory, filename)
  if not os.path.exists(filepath):
    def _progress(count, block_size, total_size):
      sys.stdout.write('\r>> Downloading %s %.1f%%' % (
          filename, float(count * block_size) / float(total_size) * 100.0))
      sys.stdout.flush()
    filepath, _ = urllib.request.urlretrieve(DATA_URL, filepath, _progress)
    print()
    statinfo = os.stat(filepath)
    print('Succesfully downloaded', filename, statinfo.st_size, 'bytes.')
  tarfile.open(filepath, 'r:gz').extractall(dest_directory)


def main(_):
  maybe_download_and_extract()
  if len(sys.argv) < 2:
    print("please provide a glob path to one or more images, e.g.")
    print("python classify_image_modified.py '../cats/*.jpg'")
    sys.exit()

  else:
    output_dir = "image_vectors"
    if not os.path.exists(output_dir):
      os.makedirs(output_dir)

    images = glob.glob(sys.argv[1])
    image_to_labels = run_inference_on_images(images, output_dir)

    with open("image_to_labels.json", "w") as img_to_labels_out:
      json.dump(image_to_labels, img_to_labels_out)

    print("all done")
if __name__ == '__main__':
  tf.app.run()

5

知覚画像差分を使用できます

これは、知覚メトリックを使用して2つの画像を比較するコマンドラインユーティリティです。つまり、人間の視覚系の計算モデルを使用して、2つの画像が視覚的に異なるかどうかを判断するため、ピクセルのわずかな変化は無視されます。さらに、乱数生成の違い、OSまたはマシンアーキテクチャの違いによって引き起こされる誤検知の数を大幅に削減します。


4

難しい問題です!それはあなたがどれだけ正確である必要があるか、そしてあなたがどんな種類の画像を扱っているかによります。ヒストグラムを使用して色を比較できますが、画像内のそれらの色の空間分布(つまり形状)は明らかに考慮されていません。エッジ検出とそれに続く何らかのセグメンテーション(つまり、形状の選択)により、別の画像と照合するためのパターンを提供できます。共起行列を使用して、画像をピクセル値の行列と見なし、それらの行列を比較することで、テクスチャを比較できます。画像マッチングとマシンビジョンに関する優れた本がいくつかあります。Amazonで検索するといくつか見つかります。

お役に立てれば!


3

一部の画像認識ソフトウェアソリューションは、実際には純粋にアルゴリズムベースではなく、代わりにニューラルネットワークの概念を利用していますhttp://en.wikipedia.org/wiki/Artificial_neural_network、つまりNeuronDotNetをチェックしてください。これには、興味深いサンプルも含まれています:http://neurondotnet.freehostia.com/index.html


1
Neurondotnet.freehostia.comリンクが停止しています
Monica Heddneck 2017年

3

Kohonenニューラルネットワーク/自己組織化マップを使用した関連研究があります

よりアカデミックなシステム(Google for PicSOM)またはよりアカデミックでない
http://www.generation5.org/content/2004/aiSomPic.asp、(おそらくすべての作業環境に適していない))プレゼンテーションの両方が存在します。


3

大幅に縮小されたバージョン(例:6x6ピクセル)のピクセルカラー値の差の2乗の合計を計算するとうまく機能します。同一の画像は0を生成し、類似の画像は少数を生成し、異なる画像は大きな数を生成します。

YUVに侵入するという上記の他の人のアイデアは、最初は興味をそそられるように聞こえます。私のアイデアはうまく機能しますが、色盲の観察者の観点からも、正しい結果が得られるように、画像を「異なる」ものとして計算したいと思います。


2

これは視力の問題のように聞こえます。アダプティブブースティングとバーンズライン抽出アルゴリズムを調べることをお勧めします。これら2つの概念は、この問題への取り組みに役立つはずです。エッジ検出は、基本を説明しているため、ビジョンアルゴリズムを初めて使用する場合は、さらに簡単に開始できます。

分類のパラメータに関する限り:

  • カラーパレットと場所(グラデーション計算、色のヒストグラム)
  • 含まれている形状(Ada。形状を検出するためのブースト/トレーニング)

2

必要な正確な結果に応じて、画像をnxnピクセルブロックに分割して分析するだけです。最初のブロックで異なる結果が得られた場合、処理を停止することはできず、パフォーマンスが向上します。

正方形を分析するために、たとえば、色の値の合計を取得できます。



1

2つの画像間である種のブロックマッチングモーション推定を実行し、残差とモーションベクトルコストの全体的な合計を測定できます(ビデオエンコーダで行うのと同じように)。これは動きを補正します。ボーナスポイントについては、アフィン変換モーション推定を実行します(ズームやストレッチなどを補正します)。オーバーラップしたブロックやオプティカルフローを行うこともできます。


1

最初のパスとして、カラーヒストグラムの使用を試すことができます。ただし、実際には問題のドメインを絞り込む必要があります。一般的な画像マッチングは非常に難しい問題です。


1

議論の後半に参加してしまったことをお詫びします。

ORB手法を使用して、2つの画像間の類似した特徴点を検出することもできます。次のリンクは、PythonでのORBの直接実装を提供します

http://scikit-image.org/docs/dev/auto_examples/plot_orb.html

openCVでさえORBを直接実装しています。詳細については、以下の調査記事に従ってください。

https://www.researchgate.net/publication/292157133_Image_Matching_Using_SIFT_SURF_BRIEF_and_ORB_Performance_Comparison_for_Distorted_Images


0

これに関する他のスレッドにはいくつかの良い答えがありますが、スペクトル分析を含む何かがうまくいくのだろうか?つまり、画像をその位相と振幅の情報に分解し、それらを比較します。これにより、トリミング、変換、強度の違いに関する問題の一部を回避できます。とにかく、これは興味深い問題のように思われるので、それは私が推測しているだけです。http://scholar.google.comを検索した場合、これに関するいくつかの論文を思い付くことができると確信しています。


スペクトル分析はフーリエ変換を使用します。虚数と実数の2つの部分から画像を再構成できるため、カラーヒストグラムはありません。(それが機能するかどうかはわかりませんが、そのカテゴリに含まれていないことを通知するだけです)。
nlucaroni 2008

はい、フーリエ変換は私が意味したものです。
Neuroguy123 2008
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.