ウェブサイト上の不快な画像を防止するためのテクノロジー/テクニック

私は、主な機能の1つが写真の使用法であるWebサイトを構築する予定です。不快な写真（ポルノなど）がユーザーによって読み込まれるのを防ぐために、どのような既存の手法が使用されているのかと思いました。つまり、FacebookやPinterestは何を使用していますか？

同様に、サイトにアップロードされる攻撃的な写真を制御するための推奨事項（オープンソースツールなど）を教えてください。これは個人的なプロジェクトであり、非常に少ない予算で開発されます。

ありがとうございました

画像が「不適切」であることを伝える技術的な解決策はありません。

「攻撃的」は文化に依存すること（および個々のこと）を考慮する必要があります。つまり、攻撃的であると思うものと、おそらく私が非常に異なるものである可能性があります。

これは社会的な問題であり、社会的な解決策によってのみ解決できます-これはモデレーション（またはコミュニティのモデレーション）を意味する場合があります。

したがって、モデレーターに各画像の承認/拒否を依頼するか、ユーザーが画像に不快なフラグを付け、特定のしきい値に達したときにそのような画像を削除するシステムを導入します。これらの画像をアップロードしたユーザーを追跡して、それらの画像のモデレート/禁止も行うことができます。

この種のものを防ぐことができる画像コンテンツフィルターが世の中にあります。彼らは画像のコントラストを上げてエッジをトレースし、「既知の」大人の画像と比較します。このテーマについては多くの調査が行われています。それを行うサービスが少なくとも1つあることを知っています。今..しかし、彼らはそこにいます

これに対するいくつかの試みは、エッジ検出に基づく特定の種類の攻撃に対する概念として存在します。私はそれについての研究論文を見てきましたが、実際の問題として、あなたが「検出」するものはすべて、オブジェクトの明白な輪郭を壊す色付けや何かによって簡単にゲーム化できます。

あなたがこれの実用的な実装を得ることができたとしても、インターネットは、第二次世界大戦の海軍スタイルの眩いペンキでパフォーマーやギリースーツのパフォーマーにいくつかのスマットをアップロードするだけです。

スマットとして攻撃的ではなく、暴力的またはオフカラーとして攻撃することを意味する場合、完璧な画像検出プロセスがあったとしても、誰もが同意しないという問題のために、それを評価する自動化された方法を思い付くことはできないと思いますそれが線を横切るとき。

それはすべてパターン認識に戻ります。私たちが顔認識ソフトウェアを持っている理由は、ほとんどの場合、似たような特徴を持つ顔であり、私たちが撮るほとんどの写真は、カメラに向いています。しかし、それはまだ開発が非常に困難でした。とりあえず、投入されたターゲットに爆弾が当たる様子を考えてみましょう。そのためのパターンをどのように作成しますか？絵は爆発するでしょう、人間が理解するのはかなり簡単ですが、プログラムするのはかなり難しいでしょう。爆発は、さまざまなサイズ、形状、および色である可能性があります。ある種のルールベースのシステムを作成するとします。画像が山での雪崩制御の爆発である場合はどうなりますか？それは暴力的でも攻撃的でもありませんが、同じ特徴がたくさん含まれています。

他の多くの人々が指摘したように、わいせつを定義することは非常に困難です。米国最高裁判所は、ミラー対カリフォルニアの場合に試みた結果、3つの部分で構成される、いわゆるミラーテストがあります。

• 「現代のコミュニティ基準を適用する平均的な人」が仕事を全体として見ると、切実な関心に訴えることがわかるかどうか、
• 作品が、該当する州法で明確に定義されている性的行為を特許上不快な方法で描写/記述しているかどうか、
• 作品全体として、深刻な文学的、芸術的、政治的または科学的価値が不足しているかどうか

素敵で曖昧なため、プログラミングが少し難しくなります。画像のアップロードを許可するほとんどのサイトには、ある種の人間による節度があります。たとえば、オンラインの出会い系サイトに投稿されるすべての写真は、一連のルールに従って、手動で承認される必要があります。

他の人が指摘したように、いくつかの技術的な解決策がありますが、それらはあなたを今のところ得るだけです。ニューヨークタイムズのこの記事では、大規模なサイト（Facebookなど）がコンテンツをフィルタリングする方法について説明しています。

「FacebookまたはPinterestは何を使用していますか？」

人。

「不快な」写真を除外することを放送した後、写真を見逃した場合は訴訟を起こすことを忘れないでください。各ページにフラグボタンを追加して、問題の写真を確認した後で削除する準備をすることができます。